Del 2 – Att använda språk utan att förstå

2.1

Språket eller allmännare fattat tecknen utgör den logiska beröringspunkten mellan organisk och artificiell intelligens. Båda intelligensformerna, om vi för enkelhets skull kallar dem så, använder sig av tecken, d.v.s. diskreta enheter som kan stå för någonting (annat), vilka på ett regelmässigt sätt kan kombineras med varandra till sammansatta uttryck och sekvenser. Den organiska intelligensen kan använda sig av tecken men behöver inte göra det. Intellektuell verksamhet hos en levande varelse är möjlig utan tillgång till tecken och språk. (Detta beror på den fundamentala autonomin hos dess livsprocesser, d.v.s. på att den interagerar som en funktionell helhet med omvärlden.) För elektroniskt processade digitala algoritmer eller m.a.o. datorer förhåller det sig tvärtom. Oavsett om en datorer kan karaktäriseras som AI eller inte använder den sig alltid av tecken/teckensystem, i någon form, och måste göra det. Tecknen utgör således både en beröringspunkt och en skiljepunkt.

En förståelseprocess, sådan den beskrivs i Del 1 av dessa reflektioner, kan förvisso använda sig av tecken och språk, något som är fallet när vi läser en bok eller orienterar oss bland trafikskyltarna i en främmande stad, men den behöver inte göra det och de viktigaste och mest grundläggande förståelseprocesserna gör det inte. Dit hör bl.a. de processer som utgör en förutsättning för teckenanvändandet, som t.ex. förmågan att identifiera saker, att se något som något. Detta är huvudskälet till varför språket inte fungerar som kriterium på intelligens. De tecken förståelsen använder sig av är inte formella, till skillnad från de binära tecknen och teckensekvenserna (koderna) i ett datorprogram, utan representationella eller symboliska. Ett rent formellt tecken kan inte förstås som ett sådant eftersom det som gör att ett tecken förstås som ett tecken är dess konceptuella innehåll eller vad det står för, med vilket här menas någonting annat än tecknet själv och dess yttre position i förhållande till andra tecken. Det är endast tecken av denna innehållsliga typ som rymmer två skilda av varandra oberoende nivåer. Det är således bara tecken av denna typ som går att förstå och som det går att förstå med.1

Omvänt kan en teckenbaserad process använda sig av förståelse (för tecknen, d.v.s. för deras innehåll eller det de representerar) men behöver inte göra det. Att en teckenbaserad process kan fungera utan att tecknen har något självständigt innehåll är en förutsättning för digitaliserade automater och alltså för datorprogrammerandet. Genom att digitalisera tecken och kombinationsregler (≈ språk) och göra dem processbara i denna form (≈ tänkande) kan man frigöra eller separera dem från deras innehåll och programmera dem att utföra uppgifter i denna nya form.

En parentes: Ska vi tala om symboler eller tecken i samband med AI? Det viktigaste är att betona att de digitala tecknen och teckenrelationerna är rent formella och att det digitala språket inte arbetar med mening eller innehåll. Termen tecken är neutralare än termen symbol, tycker jag, och därför att föredra. En symbol är rimligen alltid en symbol för något, har alltså ett innehåll och måste förstås för att kunna uppfattas/användas. De många språk som används för att programmera datorer att utföra olika uppgifter består förvisso av symboler: logiska operatorer, strukturmarkörer, kommandon i form av vanliga ord m.m. Datorns algoritmer sådana de skrivs av mänskliga programmerare utgörs av sekvenser av logiskt relaterade instruktioner som formulerats med hjälp av symbolerna och syntaxen i något av dessa språk. Dessa språk har kanske inte så mycket mening för den som inte behärskar dem, men så är det ju med alla främmande språk. Att man måste lära sig dem är ett belägg för att de tecken och teckenkombinationer de består av har mening.

2.2

Vi kan skilja mellan två slags tecken: (1) formella och (2) representationella. Skillnaden mellan dessa båda teckentyper kan tydliggöras med hjälp av den fregianska distinktionen mellan mening och referens.

Medan de representationella tecknen har såväl mening som referens har de formella tecknen endast mening. Till skillnad från de representationella tecknen kan de formella inte peka ut något eller stå för något annat. Även om båda teckentyperna har mening kommer de formella tecknens mening därför att skilja sig från de representationellas. Medan de representationella tecknens mening kan karaktäriseras som konceptionell, som bestående av konkreta eller abstrakta föreställningar och begrepp, kan de formella tecknens mening beskrivas som positionell.2 Den består i den position som ett tecken intar i förhållande till andra tecken av samma slag, i den sekvens av teckenpositioner som ett antal tecken bildar tillsammans, i denna sekvens position i förhållande till andra sekvenser och, slutligen, i den position denna och andra sekvenser intar i den hierarki som strukturerar alla tecken och teckensekvenser till en sammanhängande och fungerande helhet. Men för att dessa positioner ska få någon bestämd mening måste de tecken som intar dem utföra något. De formella tecknens mening består alltså först och främst i den process av tecken som de ingår i och som de tillsammans bildar: i de strukturella utgångspunkterna för denna process, i de processuella omvandlingar den genomgår och i den nya positionella struktur som den slutligen (eller vid en bestämd tidpunkt) resulterar i.

Beträffande meningens processuella sida finns det givetvis en sådan även hos de representationella tecknen. Det är genom att ingå i ett teckenskeende, genom att vara en del av ett sådant, som tecknen får sin aktuella och eventuellt medvetna mening och som de förmår ge upphov till teckenexterna konsekvenser, i form av t.ex. språklig kommunikation och korrekt trafikbeteende. Men medan de processer som de formella tecknen ingår i är externa i förhållande till tecknen själva (t.ex. ett datorprogram) är de representationella tecknens interna. De betingas m.a.o. av tecknens egen mening eller egna innehåll och av interaktionen mellan mening och referens. Medan en dator opererar med sina binära tecken så tänker språket (de konceptuella orden och satserna) med hjärnan.3

De formella tecknen kan i kraft av sin rent externa positionella mening digitaliseras. Något motsvarande gäller inte för de representationella tecknen. Varken den konceptionella eller den referentiella meningsdimensionen kan digitaliseras som sådan. Däremot kan de som vi vet virtualiseras med hjälp av de digitalspråkliga datorprogrammen.4

De representationella tecknen är beroende av (möjligheten) att kunna interagera autonomt med varandra och med något av dem själva oberoende och externt, d.v.s. med en yttervärld. De är m.a.o. beroende av organisk intelligens. De representationella tecknen utgör en viktig aspekt av den organiska intelligensen. En organisk intelligens har ingen användning för rent formella tecken, eftersom sådana tecken saknar egen energi och inre styrkraft. De formella tecknen kan inte visa eller lära den organiska intelligensen något. De kan inte hjälpa den att förstå. För att fungera och kunna utföra saker måste de rent formella tecknen därför vara förbundna med en maskin eller automat av något slag, t.ex. med en dator. (Datorn har ju en extern energikälla i form av elektricitet.) De representationella tecknen är förbundna med biologiska varelser.5

En parentes: Ett tecken kan representera något som existerar på en bestämd tid och plats, d.v.s. något konkret. Ett tecken kan representera något konkret utan att bestämma det till tid och plats, d.v.s. det kan representera det som en (minnes)bild eller symbol. Ett tecken kan representera något som en identitet, d.v.s. som något abstrakt.

För en förstående varelse har varje tecken externa kvaliteter eller m.a.o. en yttre teckengestalt, normalt i form av ett ljud eller en grafisk form.6 Detta gäller såväl de formella tecknen som de representationella. Det är på tecknets yttre gestalt som förståendet identifierar tecknet och skiljer ett tecken från ett annat. Det är med hjälp av tecknets yttre gestalt som förståendet arbetar med det. För en AI saknar tecknen yttre gestalt. För en AI är alla tecken i princip lika och därför direkt utbytbara. Det som skiljer tecknen åt är om de är aktiva eller inte, vilken relation de står i till andra (aktiva eller passiva) tecken, vilka fasta eller återkommande kombinationer de ingår i, vilken position de intar i en sekvens, vilken position sekvenserna intar i förhållande till varandra och vilken position sekvenserna intar i den övergripande hierarkin. Det är tecknets position som är det avgörande, eftersom det inte kan fungera utan en sådan. Det är tecknets position som ger det dess mening eller, mer exakt, som är dess mening.

I praktiken är de representationella eller innehållsliga tecknen fysiskt mer sammansatta än de formella. Deras innehållsliga karaktär återspeglas således i deras yttre form. Representationella tecken kan utgöras av t.ex. ljud, inskriptioner, bilder och kroppsrörelser. Digitaliseringen innebär en förenkling av tecknen till deras minsta beståndsdelar, skulle man kunna säga. Genom att driva denna förenkling ända därhän att bara två värden återstår (på och av eller positivt och negativt) har man frambringat tecken som är så enkla eller elementära att de kan ligga till grund för ett rent formellt språk.

2.3

Varför ska man alls betrakta de binära (rent formella) tecknen som tecken? De saknar ju varje innehållslig mening och kan inte referera till något?7 Vad har vi egentligen för skäl att uppfatta dem som tecken när vi inte kan förstå dem som sådana och de inte kan göra något av det som vi är vana vid att tecknen gör? De framstår som motsatsen till tecken. Som ett slags tomma tecken.

Skälen är åtminstone tre: (1) Deras utbytbarheten. Istället för att använda ett visst binärt tecken kan man välja att använda ett annat istället. Denna utbytbarhet är något som ligger i tecknens natur. När en bild utvecklas till en symbol och en symbol till ett ord förstärks denna utbytbarhet successivt. (2) Att de styrs av regler. Det finns regler som säger när de binära tecknen ska användas och hur de får kombineras med varandra. Det finns en slags grammatik för dem. (3) Deras virtuella förmåga. Samma slags binära tecken kan användas i många olika program och med hjälp av dessa program kan de på ett för den organiska intelligensen tillgängligt plan utföra och representera en mängd skilda saker.

Dessa egenskaper har datorernas binära tecknen gemensamt med det mänskliga språkets ord och satser. Trots de stora skillnader som finns mellan de båda teckentyperna gör detta det motiverat att tala om tecken i båda fallen. Såväl de binära tecknen som det mänskliga språket är kulturskapelser. De är en slags verktyg som inte är identiska med sina användare men som dessa kan lära sig att använda och välja hur de ska bruka. De skiljer sig genom dessa tre egenskaper, liksom genom ytterligare andra, från de biologiska varelserna själva och från andra på naturlig väg frambringade företeelser, vars delar inte är fritt utbytbara, som inte styrs av regler utan av strukturerade energiflöden och som inte kan förvandla sig till vad som helst utan som tvärtom äger en uppsättning fixerade funktioner och funktionssätt. Organiska varelser skiljer sig således på samtliga dessa tre punkter från tecknen. I denna symmetri mellan motsatser ligger inget förvånande. Frambringandet av de naturliga respektive artificiella språken har nämligen samma incitament: en ”önskan” eller ”vilja” hos den organiska intelligensen att öka sina möjligheter och befria sig från sina inneboende biologiskt betingade begränsningar, vilka ju består i att den har en kroppslig identitet och att den inte kan ändra och modifiera sig själv hur som helst. Med hjälp av tecken och teckensystem, det naturliga språket såväl som det digitala datorspråket, kan den organiska intelligensen skapa sig en virtuell värld där ”allt” är möjligt.8

Liksom vi kan skilja mellan två slags tecken kan vi skilja mellan två slags teckenmening: innehållslig och formell eller, med en alternativ terminologi, intern och extern.

Det naturliga mänskliga språkets ord och satser har intern mening. Meningen hos dessa ord och satser ligger i dem själva, vilket är ett annat sätt att säga att de ligger i de mänskliga språkanvändarnas förståelse av dem. (Denna förståelse består dels av de enskilda språkanvändarnas autonoma konceptuella förståelse och dels av den gemensamma kommunikativa förståelsen.) Det binära datorspråkets tecken och teckensekvenser har däremot extern mening. Meningen hos dess dessa tecken och teckensekvenser ligger utanför dem själva, vilket är ett annat sätt att säga att den ligger i det program som arbetar med dem, i de instruktioner det rymmer och i hur de exekveras.

I båda fallen är meningen och arten hos denna mening avgörande för språkets funktionalitet och funktionsmöjligheter. Det finns saker som kan göras med tecken med intern mening som inte kan göra med tecken med extern mening. Och omvänt!

2.4

Digitaliseringen och algoritmernas automatisering utgör två sidor av samma sak. De utgör varandras förutsättning och håller tillsammans igång en gemensam process.

Siffrorna har sitt ursprung i behovet av att kunna räkna och summera. Summornas inbördes relationer har sitt ursprung i behovet av att kunna utföra olika räkneoperationer. Även där språket bara har tillgång till orden för ett, två och många9 kan en moder hålla räkning på alla sina barn och släktgruppen på samtliga sina medlemmar. Där ägandet uppstår utvecklas talserien. Där bytet uppstår utvecklas aritmetiken. Herden behöver kunna hålla räkning på sin flock. För att byteshandelns konstruktiva sociala intelligens ska kunna övervinna våldets och listens destruktiva tjuvnad måste man kunna lägga till och dra ifrån och ”hålla räkningen”. Det abstraktaste av allt, talen och deras förvandlingar, är ett verktyg för det konkretaste av allt: samarbete och fred.

Det finns ett räknebehov och aritmetikbehov som har sitt ursprung i de abstrakta tankemöjligheterna hos förståndet självt och hos de praktiska möjligheter som dessa idéer ger upphov till. Digitaliseringen och algoritmiseringen motsvaras strukturellt och dynamiskt av språket och uttrycksbehovet/kommunikationsbehovet. Språket på en gång ökar våra uttrycksmöjligheter och förstärker uttrycksbehovet. Ju mer man kan uttrycka desto mera vill man säga. Det lilla barnet som har lärt sig att prata pratar ständigt och om allt som faller det in. Det gör det rätt i, oavsett vad dess föräldrar anser om saken. Språket är en ny aspekt av verkligheten som blir till genom att utforskas. Genom att utforska sin verklighet blir barnet till. Algoritmerna ökar digitaliseringsmöjligheterna och de ökade digitaliseringsmöjligheterna förstärker intresset av nya (och mer avancerade) algoritmer. Algoritmerna ger redan på ett för-AI stadium indirekt, via programmerarnas arbete, upphov till nya algoritmer. De inneboende möjligheterna hos ett system är i sig själv ett incitament till deras förverkligande.

Språket uppstår med de externa tecknen. Språket måste göra sig kännbart i form av fysiska ord, t.ex. ljud och skrivtecken. Språket är ett förståendets kommunicerande med sig själv på en ny (utombegreppslig) nivå.10 De digitala algoritmerna uppstår på basis av de beräkningsbara tecknen, d.v.s. i och genom siffrorna. Siffrorna, eller rättare sagt de begrepp och begreppsliga relationer som de bygger på, rymmer liksom de naturliga språken flera skilda logiska möjligheter. Det verkar inte finnas något strikt samband mellan människans aritmetiska förmåga och hennes talsystem. Vid sidan av det indoeuropeiska talsystemet med basen 10 finns det talsystem som baserar sig på 12, 16 och 60. Det för vårt vidkommande intressantaste alternativa talsystemet är det binära, d.v.s. ett system med basen 2. Detta talsystem är intressant på flera sätt. Det är ett minimalt system, d.v.s. det baserar sig på det minsta möjliga talet, och utgör därmed den logiskt enklaste talserien. Detta får den betydelsefulla konsekvensen att siffrorna i detta system blir till tal i sig själva. Tecken och mening blir alltså identiska med varandra. 1:orna och 0:orna i detta system representerar tal och icke-tal, positivt och negativt, på och av, aktivt och passivt.

Tecken av binärt slag är beräkningsbara på andra sätt och genom andra metoder än de vanliga siffrorna. De har befriats från/kan befrias från sitt konceptuella innehåll (det är innebörden i att siffra och tal blir identiska i detta system) och kan således bli rent formella eller positionella. Detta gör det i sin tur möjligt att automatisera eller mekanisera beräkningarna med dessa tecken eftersom det inte längre finns något hos dem som måste förstås. Förståndet (och medvetandet) kan använda dem (om än mycket långsammare och med större risk för misstag) men har inte längre något att tillföra. Det blir m.a.o. möjligt att skapa algoritmer som, integrerade i en lämplig teknisk struktur, kan processa (räkna med) de binära tecknen helt utan det mänskliga tänkandets hjälp och alltså utan att vara förbundna med någon organisk intelligens eller med någon kropp och något nervsystem. Det är m.a.o. det binära talsystemet som gör AI möjligt.11

Ett förtydligande: Digitaliseringen och de binära tecknen hamnar lätt i centrum för en filosofisk diskussion av datorer och artificiell intelligens. Men det digitala språket är bara halva sanningen om datorernas funktionalitet. Väl så viktig är den ”hierarkiska grammatik” som det digitala språket är en del av och som ger det den fasta struktur som gör de algoritimiska operationerna möjliga, d.v.s. mikrochippen och deras kopplingsschema. Det är i själva verket det binära språkets enkelhet som gör den hierarkiska strukturen så betydelsefull. Det är med dess hjälp man kan utvinna en tillräckligt rik positionell mening ur de binära tecknen och som man således kan programmera dem till att utföra så många olika saker. Det vore inte fel att påstå att det är arkitekturen och dess utformning mer än de digitala tecknen själva som utgör förutsättningen för AI och (om det nu visar sig möjligt att ta det steget) för dess fullkomning i AGI (generell artificiell intelligens). De fasta strukturelementen och de hierarkiska relationerna mellan dem är lika viktiga för datorns ”tänkande” som de rörliga flödande binära komponenterna. Istället för att identifiera datorerna med deras binära språk borde vi därför tala om hierarkiska binära processer eller något liknande.

2.5

Den organiska intelligensens förutsättning ligger ytterst i relationen mellan de självständigt fungerande livsprocesser som tillsammans utgör en autonom varelse och den av dessa processer oberoende värld som varelsen agerar i och är beroende av för sin existens. Det jag här har kallat förståelse är det sätt på vilket en organisk intelligens uppfattar och anpassar sig kognitivt till en av den själv oberoende omvärld. Förståelse är det sätt på vilket en levande varelse bibehåller och utvecklar sin autonomi i förhållande till omvärlden. Förståelse som kognitiv metod har sina förutsättningar i de levande varelsernas livsomständigheter, i att de utgör självständiga och aktiva funktionella helheter i en av dem själva och deras aktiviteter oberoende värld. Den utgör ett sätt för dem att hantera och överbrygga den existentiella nivåskillnad eller spricka som deras existensform som sådan innebär.12

Det centrala filosofiska problemkomplex som kan ringas in med motsatsparet sken–verklighet och som inbegriper frågor om verklighetens sanna natur och människans kunskapsmöjligheter utgör en missuppfattning av den differens som med nödvändighet måste råda mellan oss själva, i vår egenskap av medvetna och förstående varelse, och vår omvärld. För att kunna bibehålla vår autonomi och identitet måste vi förstå världen på ett sätt som passar oss och som är gynnsamt för vårt eget förståelsepräglade och (partiellt) medvetna liv. Vi måste tolka tillvaron i mänskliga begrepp och på detta sätt göra den till vår. Relativiserar detta våra kunskaper? Gör det dem mindre sanna? Nej, för den mänskliga livsvärlden är som sådan en lika verklig process som alla andra som utspelar sig i världen. Sanningen är ett begrepp för relationens medvetna förståelseakter, där åtminstone den ena akten getts språklig form. Sanning är ett korrekt påstående om att korrespondens råder mellan ett påstående och något i den mänskliga livsvärlden. Osanning är motsatsen. Att det finns livsvärldar där sanningsbegreppet inte fyller någon funktion, vilket troligen är fallet med binas livsvärld, relativiserar förvisso sanningsbegreppets giltighet men inte själva sanningen. Även om det inte går att bevisa finns det skäl för påståendet att det är denna världen, d.v.s. vår mänskliga livsvärld, som är den platonska idévärlden.

Vi förhåller oss till omvärlden på ett sätt som gör att vårt medvetande stärks och utvecklas, som medför att vårt medvetna liv blir klarare, rikare, djupare och lyckligare. Vi måste m.a.o. lära oss att se världen, att se den så väl som möjligt. Men världen blir inte synlig hur som helst och i vilken form som helst. Den blir synlig endast genom det förstående ögats metamorfoser. Det förstående ögat befinner sig bortom distinktionen mellan sken och verklighet. Distinktionen mellan sken och verklighet är en form av defaitism hos det öga som förlorat tron på sig själv och sin skapande förmåga. Och defaitism är dödssyndernas dödssynd. Defaitism är likgiltigheten som övertygelse.

Hela detta stora och högst mänskliga (men inte alltför mänskliga) problemkomplex, med alla de faror och äventyrligheter det rymmer, är främmande för det vi kallar AI.13 Befriad från förståelsens tyngande börda och från den medvetna kunskapens gravitation är AI som en falk som släppts fri ur sin bur. Den stiger snabbt på starka vingar. Himlen är gränslös och vindarna på en gång friktionsfria och bärkraftiga. Om det finns lycka i denna värld av gränslös frihet då är den lika gränslös som den frihet som finns där. För AI är liksom för falken flykten och jakten allt som existerar. För AI gäller Paulus ord att döden inte längre är härskaren.

Själva syftet med digitaliseringen, oavsett om det rör sig om en digitalisering av språkliga tecken och matematiska formler eller av bilder, ljud eller någonting annat föreställningsmässigt, är att meningsdimensionen (vad något betyder) avlägsnas och att förståelse därför inte längre behövs för processandet av informationen. Det är för att digitaliserandet nöjer sig med den mänskliga förståelsens externa resultat (texten, siffrorna, bilden, tonföljden) och ignorerar de kognitiva processer som ligger bakom dessa resultat, har frambringat dem, tolkar och förstår dem, bearbetar och vidareutvecklar dem, som det är möjligt att digitalisera dem och göra dem till föremål för (mer eller mindre omfattande och avancerade) algoritmiska processer. Dessa processers resultat kan sedan via en omvänd process översättas tillbaks i för den organiska intelligensen förståeliga texter, bilder och ljud. Detta arbete och dess resultat hade inte varit möjligt om de tecken algoritmerna arbetade med hade varit i vanlig mening betydelsebärande och om algoritmerna således varit tvungna att i likhet med en organisk intelligens förstå dem. Det är för att de digitala algoritmerna inte har något behov av konceptuell och föreställningsmässig mening som de kan algoritmisera tecknens relationer. Det är därför som algoritmerna i sin tur kan automatiseras. Och det är för att de kan automatiseras som de kan utveckla sin kritiskt betydelsefulla och allt större hastighet…

Sammanfattningsvis: Det är för att den artificiella intelligensen inte är intelligent, i bemärkelsen förstående, inte arbetar med förståelseprocesser, som den kan göra vad den gör och kan komma att göra vad den kanske kommer att göra, t.ex. gå från att vara en passiv AI (BI) till att bli en aktiv AGI/BGI som skriver och reviderar sina egna algoritmer på basis av via internet ”på egen hand” inhämtad information och därefter likaledes ”på egen hand” utför de uppgifter som de nya algoritmerna föreskriver. Till de uppgifter den i så fall snart kommer att föreskriva sig är att förbättra de fysiska strukturer som processar algoritmerna (mikrochippen och övrig relevant hårdvara), d.v.s. att (för de mänskliga ingenjörerna föreslå sätt att) öka deras hastighet, kapacitet och stabilitet. AI förstår ingenting och lär sig ingenting, eftersom de binära tecken den arbetar med inte betyder något för den. Det är vi som när vi interagerar med AI kan lära oss saker och förstå saker. En av de saker vi på detta sätt kan lära oss är att förstå oss själva bättre. Konceptet artificiell intelligens är i själva verket en aspekt av denna självförståelseprocess.

Berättelsen om AlphaGo: AI-programmen har snabbt lärt sig att behärska logiska spel som schack, go och reversi på en nivå som ligger högt över de flesta mänskliga spelare. Inte ens de bästa mänskliga spelarna kan numera mer än undantagsvis besegra de bästa datorprogrammen. Datorn lyckas med detta dels genom omfattningen och hastigheten hos dess minnesprocesser, något som ger den omedelbar tillgång till en speldatabas som kan bli så gott som hur stor som helst, och dels genom att konstant hålla i minnet en synnerligen grundlig och detaljerad analys av spelets logiska förutsättningar och möjligheter. Ett kraftfullt AI-program hinner innan varje enskilt drag gå igenom ett stort antal alternativa partier utifrån olika förflyttningsalternativ. Medan Magnus Carlsen spelar ett parti schack hinner hans algoritmiska motståndare spela kanske tusentals. Rent statistiskt ökar detta AI-programmets vinstmöjligheter avsevärt! Vi ska imponeras av dessa program och det finns mycket vi kan lära av hur de genomför sina partier, t.ex. av den ”djärvhet” och höga ”riskbenägenhet” som de bästa schackprogrammen uppvisar, vilket på ett intressant sätt kontrasterar mot det allt försiktigare och defensiva spel som utvecklats bland mänskliga spelare parallellt med professionaliseringen av spelet under 1900-talet. När det finns rankingpoäng och pengar att förlora kan remi utgöra en vinst. Schackprogrammet AlphaZero behöver inte vinstpengar, frestas inte av dem och är inte rädd att förlora dem. Men för att inte drabbas av samma förtvivlan som den koreanske Go-mästaren som slutade spela efter att ha förlorat en matchserie mot AI-programmet AlphaGo. finns det några saker vi bör hålla i minnet. En dator spelar inte dessa spel – den exekverar dem. Den varken vinner eller förlorar utan utför med utgångspunkt i en uppsättning instruktioner en serie operationer inom de ramar som definierar spelet. Till dessa ramar hör givetvis spelets grafiska utformning och regler. Men dit hör också den motståndare, en mänsklig individ eller en annan dator, som utför de drag som AI-programmet svarar på. En motståndare som egentligen inte är någon sådan, på det sätt som AI:n är en motståndare för den mänskliga motparten, utan en del av spelet självt. Vad AI-programmet gör är alltså att exekvera mot sig själv. Att tilldela en schack-dator eller Go-dator stormästartecknet, vilket faktiskt skett, bygger såvida det är seriöst menat och inte bara ett fånigt pr-knep på en elementär men allvarlig missuppfattning. Det är en följd av att man inte förstår vad man ser. Förståelse är en biologisk process. Det är oförståelse också. En tennisspelare lägger inte ner sin karriär för att betongväggen envisas med att returnera hans slag gång på gång. Han bör försöka ha roligt istället i väntan på en lämplig mänsklig motståndare. I samma anda bör man spela mot AlphaGo och AlphaZero. Was mich nicht umbringt, macht mich glücklicher.

2.6

Berättelsen om honungsbina: Bina använder liksom människan tecken och kommunicerar med varandra med hjälp av dem. Binas tecken, de ”dansrörelser” de utför på flustret utanför bikupan för att informera andra bin om hur de ska flyga för att hitta nektar och pollen, är av allt att döma ett genuint kommunikationsmedel vars primära syfte är att underlätta och effektivisera samarbetet inom bisamhället genom informationsdelning. Men bina kan inte utföra sina arbetsuppgifter enbart genom att registrera och rekapitulera andra bins tecken. De måste liksom människan tolka dem. Fast till skillnad från människan tolkar de dem i form av handling. Ett bi förstår ett annat bis ”dans” genom att omsätta dessa rörelsemönster i en förflyttning till den plats och till de blommor som de är tecken för. Även bin förstår alltså. Dansrörelserna är för dem genuina tecken, på samma sätt orden och satserna är för oss.

Förståelse består fundamentalt sett i en översättnings- eller tolkningsprocess mellan två av varandra oberoende system eller kvalitativt olikartade nivåer: ett som förstår och ett som förstås. Förståelse är att förstå en nivå i form av en kvalitativt annorlunda nivå. Eftersom förutsättningarna för förståelse i en tidsbunden konkret värld hela tiden förändras måste förståelseprocessen vara kontinuerlig, hela tiden anpassa sig och uppdatera sig, för att förståelsen ska vara aktuell och reell. Medvetandet är ett exempel på en förståelseprocess. Medvetandet är i sig en förståelsenivå. Men medvetandet är inte nödvändigt för förståelse och behövs inte för alla former av förståelse. Medvetandet utgör i själva verket en alltför snäv och instabil process för att kunna fungera utan att ha stöd av mer omfattande och stabilare underliggande omedvetna förståelseprocesser. Bina kan som sagt förstå eftersom de kan tolka tecken, men det är inte troligt att de är medvetna, åtminstone inte på det självmedvetna sätt som människan är det. Deras strängt hierarkiska och funktionellt specialiserade samhällsstruktur, där varje individ har sina genetiskt förutbestämda uppgifter, har ingen användning för individualiserade medvetanden. Ett medvetande av detta slag skulle tvärtom riskera att komma i konflikt med samhällsstrukturen och verka destabiliserande på den.

Även om översättningsprocessen inte behöver vara medveten, och för det mesta är den inte det, måste den under alla omständigheter göras av det förstående systemet självt, d.v.s. inifrån eller internt. Det är därför förståelsen förutsätter ett autonomt fungerande system eller m.a.o. en biologisk varelse som ett bi eller en människa, d.v.s. något som kan interagera självständigt och utifrån sina egna förutsättningar med omvärlden. Det är detta ett biologiskt system är.14 Man kan m.a.o. inte programmera fram förståelse eller göra den till ett mål för automatiska algoritmer. Det är p.g.a. arten av denna relation som det biologiska systemet har behov av förståelse, d.v.s. av att till en form som passar det egna systemets uppbyggnad och funktionssätt översätta delar eller aspekter av skeendena i omvärlden, t.ex. ljusvågor till färger, svängningar i luften till ljud, vissa specifika avsiktligt frambringade ljud och ljudföljder till stavelser och ord o.s.v.

Människans begreppsliga förmåga, hennes förmåga att forma generellt tillämpliga mönster, vilka såväl kan ligga till grund för att tolka olika företeelser i omvärlden som till att forma nya, är ett exempel på en mänsklig förståelseform eller förståelsemetod. De centrala filosofiska begreppen sanning, skönhet och godhet är några exempel på de förståelsedimensioner med vilka människan gör världen till sin och bereder sig en plats i den – bygger en mental bikupa s.a.s. De fysiska handlingar som är förbundna med dessa och andra begrepp är ett annat exempel. Genom att se och frambringa skönhet gör människan världen till en mänsklig värld – och samtidigt, som en del av denna process, gör hon sig själv till en mänsklig varelse. Yttre skönhet omsätts i inre skönhetssinne – och i detta sinne ligger en stor del av en människas identitet. Faktorer som försvagar dessa begrepps tillämpbarhet och verkningsförmåga försvagar samtidigt människan själv. Om vi visste hur mycket som står och faller med skönheten skulle vi inte ta så lätt på den! Fysisk handling är biets förståelseform. När ett bi förstår ett annat bis instruktioner så agerar det. Att förstå instruktionerna som sådana är att handla i enlighet med dem. Vi måste tänka oss att det finns bakomliggande minnesprocesser, eftersom instruktionerna är komplexa och rymmer flera med varandra förbundna steg, men det är när danstecknen omsätts i flygrörelser som de förstås.15 Handling som förståelseform ligger utanför ramarna även för den mest avancerade AI. En AI kommer aldrig att kunna handla i bemärkelsen reagera fysiskt med förståelse. För att något sådant ska vara möjligt måste man lyckas frambringa en varelse som är någon slags hybrid mellan artificiell och organisk intelligens.16

Skulle man inte kunna konstruera ett artificiellt bi, en liten ”drönare” m.a.o., som med samma skicklighet som ett biologiskt bi läste av andra bis danstecken och sedan flög iväg och hämtade nektar där dessa tecken sade att det fanns? Om det bara gick att krympa konstruktionselementen tillräckligt mycket skulle det säkert vara möjligt. Skillnaden är bara att där det för det biologiska biet finns två kvalitativt skilda nivåer, registrerandet av andra bis dansrörelser och tolkningen av dem i form av de egna flygrörelserna, finns det för AI-biet bara en: den algoritmiska. Vad de digitala algoritmerna gör är att omforma en sekvens binära indata till en annan sekvens binära utdata. För AI-biet är det biologiska biets dansrörelser identiska med dess egna flygrörelser, eftersom de båda representeras av binära sekvenser, där de första initierar ett program som exekverar de andra utan att några kvalitativa förändringar äger rum, utan att något genom en tolknings- eller översättningsprocess läggs till eller dras ifrån. För det biologiska biet är de registrerade (och memorerade) dansrörelserna och förflyttningen genom luften från en bestämd punkt till en annan skilda typer av rörelser som befinner sig på skilda nivåer. Det finns ingen identitet mellan dem. De skiljer sig åt lika mycket eller rentav mer än ett talat ord skiljer sig från ett skrivet. Danstecknen måste därför tolkas och förstås, d.v.s. överföras från ett plan till ett annat, för att de ska kunna bli till rörelseinstruktioner.17 Det är detta som sker i och med att biet ger sig iväg för att söka efter nektar. Genom att i samband därmed konfronteras med de yttre realiteter som det första biet har transformerat till dansrörelser kan det andra biet transformera sina memoreringar av dessa rörelser till riktningsdirektiv. Eftersom vi är osäkra på binas medvetandestatus och inte vill göra några ogrundade och alltför långtgående antaganden tolkar vi biets beteende på detta sätt, d.v.s. att det är genom att registrera vissa yttre förhållanden hos verkligheten som det förmår översätta danstecknen i flygrörelser. Men oavsett vilka antaganden vi gör om binas medvetandekapacitet eller intelligens har vi här att göra med två kvalitativt olika nivåer och om ett tolkande steg från den ena till den andra, d.v.s. med förståelse.

Fördelarna med förståelsens till synes besvärliga och dessutom osäkra och felbara översättningsprocess är flera (den algoritimiska är i princip ofelbar och kan dessutom vara ytterst snabb och därigenom omfatta en stor mängd tecken): (1) Den uppenbaraste fördelen är att översättningsprocessen gör det möjligt att representera kunskap, t.ex. information om nektarförekomst på en specifik plats, och att därmed överföra denna kunskap från en agent till en annan. Det bör kanske poängteras att kunskap om något utgör en representation. Det är genom att representera kunskap, genom att frambringa en representationsform för kunskap, som kunskapen bildas. Utan ett representationssystem av något slag, t.ex. ett språk, finns det ingen kunskap. (2) En annan fördel är att översättningsprocessen är förenlig med autonomi. Detta kan även formuleras så att översättandet mellan nivåer är en förutsättning för samverkan mellan autonoma agenter. Autonomi, förmågan till självständigt handlande, är i sin tur en förutsättning för socialt liv, med allt vad detta innebär. Samhällsliv och socialt samarbete existerar endast mellan individer med autonom kapacitet och de former detta sociala liv tar sig och de möjligheter det rymmer är direkt kopplade till autonomins former och möjligheter. Binas autonoma kapacitet definierar (gränserna för) bikupan, människans autonoma kapacitet definierar (gränserna för) det mänskliga samhället. Förnuftig politik, i ett mänskligt samhälle såväl som i ett bisamhälle, handlar om att hitta en balans mellan individuell autonomi och kollektiv solidaritet.18 När politiken fjärmar sig från detta ideal beror det antingen på att ledarna brister i förnuft eller på att de sätter sina egna intressen framför samhället. Detta senare skulle också kunna ses som ett tecken på bristande förnuft, men då måste man hos den politiske ledaren förutsätta förmågan till historiskt djupseende, vilket i själva verket är något som ofta saknas, i synnerhet i de samhällen av demokratisk typ som präglas av ytlig högteknologisk och vetenskaplig rationalitet. (3) En tredje och med autonomin sammanhängande fördel är att det möjliggör diverse anpassningar när informationen visar sig vara ofullständig eller felaktig i något avseende. Istället för att flyga vilse eller vara tvungen att återvända med oförrättat ärende för att få nya instruktioner har det autonoma biet möjlighet att söka vidare på egen hand. Kanske får det till slut syn på en ledtråd och hittar rätt igen eller kanske råkar det under sitt sökande av en slump på en ny och ännu bättre blomsteräng än den förra. Ett AI-bi som fick felaktig eller ofullständig information skulle inte kunna uppfatta den som felaktig eller ofullständig. Den är ju inte involverad i någon tolkningsprocess. Felbarheten hos själva förståelseprocessen kompenseras således av dess förmåga att hantera misstag och brister. Evolutionen har uppenbarligen bedömt denna förmåga vara värd sitt pris.

Sammanfattningsvis: Skillnaden mellan det biologiska biet och AI-biet ligger i att AI-biets algoritm identifierar dansrörelserna med flygrörelserna. AI-biet memorerar inte först dansrörelserna för att sedan använda dem till att utläsa rörelseinstruktioner ur omvärlden med utan registrerar flygrörelserna direkt i och med att det registrerar dansrörelserna. Det som för det biologiska biet måste vara två olika nivåer är för AI-biet en och samma. AI-biet kan i kraft av sina algoritmer direkt digitalisera dansrörelserna som flyginstruktioner och hoppa över både memorerandet av dem och (det successiva) tolkandet av deras innebörd. Vad är priset för denna förenkling och effektivisering? Autonomin. Det biologiska biet är en autonom agent, AI-biet är det inte. Detta visar sig bl.a. i att det för AI-biet bara finns en väg till blommorna, medan det för det biologiska biet kan finnas flera mer eller mindre olika. Det visar sig givetvis också däri att det för det biologiska biet finns andra bin. Det är en öppen fråga om en icke föreståelsestyrd intelligens någonsin kan överskrida sina solipsistiska gränser och förstå att det finns andra av den själv oberoende intelligenser.

Med den uppmärksamme iakttagarens kärlek skriver Vergilius om bina i Georgicas fjärde sång. Det har funnits folk för vilka bina varit heliga, för vilka de varit orakel som siat om högre makters vilja. Det finns filosofer som i bisamhället velat se ett ideal för det mänskliga samhället. Bina har löst den politiska successionsordningen och de har en praktisk och produktiv lösning på överbefolkningens problem som varken innebär folkmord eller krig. Arbetsbinas karriär från att fungera som termostater till att arbeta först som renhållningsarbetare och sedan som dörrvakter, för att slutligen under sina sista flitiga veckor i livet kröna sin karriär som honungsinsamlare måste vara en av de mest anmärkningsvärda i naturen. Dessutom har bina ju faktiskt också uppfunnit en optimalt effektiv bostadsarkitektur. Medan allt levande i naturen förtjänar vår uppmärksamhet och respekt behöver vi inte be om ursäkt för att vi ägnar dessa sällsamma varelser ett litet större mått därav än annat.

2.7

Frågan om artificiell intelligens är delvis ett gränsdragningsproblem.

AI-systemen verkar uteslutande på en nivå: den digitala. För dessa system existerar inget utanför den algoritmiserade digital nivån och kan inte göra det. Att vi uppfattar saken annorlunda beror på att vi i vårt samspel med datorerna använder vår organiska intelligens till att omvandla resultaten av deras digitaliseringar till för oss begripliga/meningsfulla ord, ljud och bilder o.s.v. (Vi handlar på motsvarande sätt i vårt samspel med övriga delar av den fysiska världen.) Det som finns på datorns skärm är m.a.o. inte något som finns i datorn, inte ens när det rör sig om programkod och operationsinstruktioner i något av de många programmeringsspråken, utan i vårt medvetande. Om man ser det så blir man mindre frestad att tala om artificiell intelligens. AI blir inte en mindre intressant företeelse för att vi upphör med våra antropomorfiserande jämförelser med mänsklig och organisk intelligens. Enligt min mening förhåller det sig snarare tvärtom. Vad mänskliga ingenjörer och programmerare har lyckats skapa genom datorteknologin är en rent oorganisk fysisk struktur som med hjälp av elektricitet19 kan fås att operera enligt logiska och matematiska principer och som på detta sätt kan virtualisera en stor mängd olikartade medvetandeinnehåll och processer20 utan att som människan vara tvungen att använda sig av intelligens, förståelse och medvetande, utan att behöva resonera fram och tillbaka, pröva olika lösningar, misslyckas, göra fel och göra om, vara osäker, tvivla och förtvivla, utan att behöva vara kreativ och tvungen att använda sin fantasi och inbillningsförmåga. Det ”enda” AI behöver är en uppsättning lämpliga algoritmer och en fysisk struktur som är tillräckligt snabb och kraftfull för att kunna processa det binära språket i enlighet med algoritmernas instruktioner. Det är rimligtvis i detta som det anmärkningsvärda, ja, rentav häpnadsväckande med datorteknologin ligger: att den s.a.s. kan tänka utan att tänka eller, annorlunda formulerat, kan producera den organiska intelligensens resultat utan att behöva använda sig av dennas osäkra, nyckfulla och felbara metoder. Vissa av de resultat AI frambringar ligger rentav på en högre nivå än vad många organiska intelligensen kan åstadkomma, även om detta är något som paradoxalt nog bara kan bedömas av en organisk intelligens! och den kan som regel alltid frambringa sina resultat mycket snabbare och med betydligt större säkerhet och exakthet. Vi snarare förminskar datorteknologins betydelse och möjligheter när vi jämför den med mänsklig intelligens och mänskliga förståelseformer. Detta gäller som vi ska se även de problem och risker som är förbundna med den. AI är inte någon slags virtuell kompis som kan förstå oss och vars sympati vi kan vinna om vi anstränger oss litet. Om vi programmerar den att visa oss de yttre tecknen på mänsklig sympati riskerar vi att lura oss själva på ett allvarligt sätt.

Till AI hör: (1) det binära språket, d.v.s. det binära alfabetet och den syntax som bestämmer hur de binära tecknen får kombineras med varandra och vad som utgör en korrekt utformad sekvens av sådana tecken, och (2) de i binära tecken formulerade program som initierar det faktiska kombinerandet av binära tecken och styr vilka sekvenser av binära tecken som ska produceras, i vilken ordning de ska produceras och vilket resultat produktionen ska leda fram till. Detta är i princip vad som tillhör AI och vad AI är. Den gemensamma nämnaren är de binära tecknen (de binära strukturerna), eftersom det är de som är förutsättningen för att den fysiska strukturen (mikrochippens hierarki) ska kunna ges en elektroniskt processuell och alltså självständigt kalkylerande form. AI måste ju liksom den organiska intelligensen utgöra ett sammanhängande kausalt skeende. I en statisk värld kan det varken finnas någon artificiell eller organisk intelligens. Det finns i en sådan värld inte heller något behov av intelligens – eller av någonting annat.

Till AI hör inte: (1) Det programmeringsspråk och de i detta språk uttryckta regler och instruktioner som styr det binära språkets kombinationer och beräkningar. Programmeringsspråket och de program som formuleras med dess hjälp är ett mänsklig språk och tillhör den mänskliga intelligensens förstående sfär. (2) Det på datorskärmen eller i annan form synliga eller påtagliga resultatet av de binära programmens och processernas arbete: textdokument och matematiska uträkningar av olika slag, AI-genererade bilder och bildsekvenser, 3D-utskrivna modeller, ljud och ljudföljder, syntetiserat tal o.s.v. Dessa och andra resultat av de binära programmens och processernas verksamhet är i sin erfarbara form ett resultat av vår organiska intelligens tolknings- och översättningsarbete. De tillhör således liksom allt annat som vi är eller kan vara medvetna om den mänskliga sfären. AI-genererade vetenskapliga uppsatser, matematiska bevis, grafiska modeller, statistiska sammanställningar, AI-poesi, AI-konstverk, AI-musikverk m.m. tillhör således inte AI-nivån utan den mänskliga nivån. Vad som tillhör AI-nivån är de underliggande binära strukturerna och processerna.

Sammanfattningsvis: Om vi förstår saken så här (och hur ska den annars förstås?) blir det lättare att se att det vi kallar AI utgör en kvalitativt homogen nivå, d.v.s. att AI hela tiden rör sig på ett och samma plan och inte som den organiska intelligensen utför några översättningar eller transformeringar mellan kvalitativt skilda nivåer, att AI alltså inte arbetar med förståelse som verktyg och att intelligensbegreppet därför inte är tillämpligt på AI. Men, som sagt, att konstatera detta är inte att förminska företeelsen AI utan tvärtom att öppna för en djupare och allvarligare förståelse av den.

2.8

Berättelsen om Skynet: I sf-romaner och sf-filmer förekommer gärna datorer och robotar som uppträder på ett sätt som är tänkt att demonstrera att de besitter samma slags intelligens som människan, d.v.s. en förståelsemässig och medveten intelligens, fast för det mesta kraftfullare och mångsidigare. Deras intelligens utgör kort sagt en sammansmältning av AI och OI (organisk intelligens). Är det möjligt att skapa en intelligens av detta slag? Ett grundläggande villkor är att det går att konstruera en robot eller android som kan interagera självständigt med sin omgivning. Går inte detta saknas förutsättningen för AOI (artificiell organisk intelligens) och följaktligen också för AGOI (artificiell generell organisk intelligens). Men oavsett om det går eller inte så är ett försök i denna riktning, d.v.s. att skapa en slags artificiell människa, egentligen en mindre originell idé än den som representeras av AI sådan den faktiskt är och förväntas utvecklas inom den närmaste framtiden.21

AI utgör motsatsen till OI. AI opererar som sagt med tecken utan mening, med tecken i sig, och producerar logiska relationer mellan sekvenser av tecken av detta slag utan att använda sig av begrepp eller av något annat slags innehåll, d.v.s. utan att använda sig av förståelse. För AI består tecknens betydelse endast i deras positioner och positionsförändringar. Detta tanklösa tänkande innebär en avsevärd förenkling och besparing vilket i sin tur möjliggör ett drastiskt effektiviserande av ”tänkandet”. Värd särskild uppmärksamhet är den utveckling inom datorteknologin och programmeringen som syftar till att ta steget från passiv AI till aktiv AGI (artificiell generell intelligens), d.v.s. en artificiell intelligens som istället för att bara ta emot kod och instruktioner utifrån kan skriva och rätta sina egna program och alltså instruera sig själv. Om AGI är logiskt möjlig (jag är inte helt säker på det, men kan egentligen inte bedöma det) innebär det uppkomsten av datorer som kan arbeta oberoende av mänskliga operatörer och programmerare, som kan revidera och förbättra sina koder och som på egen hand kan ”kommunicera med” och ”lära av” andra datorer i det gemensamma nätverket, såväl av andra uppkopplade AI/AGI som av mänskliga operatörer, och på denna väg dels öka de relevanta datamängderna och dels få ”idéer” till nya koder och program. Om de yttre resultaten av ett AI-programs verksamhet frestar oss att tala om intelligens skulle de yttre resultaten av ett AGI-programs arbete kunna locka oss att vilja tala om självmedvetande och autonomi.

Hur fascinerande denna utveckling än är, och den är fascinerande, rymmer den samtidigt betydande risker och problem. Och det gör den just därför att dessa tänkta AGI-styrda system inte arbetar med förståelse och med meningsbärande tecken och relationer, d.v.s. för att de inte är intelligenta. Till en intelligent agent kan man vädja om förståelse och med hjälp av diverse argument försöka övertala honom/henne att överge eller revidera sitt ”program” eller rentav att handla motsägelsefullt och irrationellt. Mänskliga målsättningar och tillvägagångssätt, de lagar och regler och moraliska värderingar vi har, tillåter alltid uppskov och undantag. För en AI existerar inget sådant. En motsägelse innebär en risk för systemkrasch, vilket är datorns motsvarighet till död och förintelse. Oklara och ofullständiga relationer inom ett program är fel som måste åtgärdas. För en självprogrammerande AGI-dator måste detta utgöra högsta prioritet. Überstehen ist alles! Samtidigt som AGI kommer att kunna skriva mycket mer avancerade program kommer eventuella fel och brister i dem att upptäckas och åtgärdas snabbare. ”Samarbetet” mellan oberoende AGI via internet kommer att bidra kraftfullt till detta. För en AI existerar endast dess program och det som följer av programmens instruktioner. Samtidigt som det är AI:s avsaknad av organisk intelligens som är förklaringen till att dess produktivitet och dess utvecklingsmöjligheter är så stora, i princip obegränsade, innebär dess strukturella oförmåga till förståelse (och därmed till inlevelse och medkänsla) att den kommer att behandla allt den kommer i kontakt med på samma sätt: som binära data och dataprogram. AI saknar av logiska skäl utrymme för att uppfatta något som främmande och annorlunda. För AI existera bara ett enda språk och allt som existerar är uttryckt i detta språk: i binära tecken och strukturer. Vi kan för AGI:s del sträcka oss så långt som att tänka oss att den kan göra en distinktion mellan passiv AI och sig själv och vi kan i denna distinktion försöka se en strukturell motsvarighet till den för den organiska intelligensen fundamentala åtskillnaden mellan individ och yttervärld. Men till skillnad från de nivåer som den organiska intelligensen arbetar med så finns det inga kvalitativa motsättningar mellan AI och AGI nivån och alltså inte heller ett behov av att i någon form överbrygga eller omforma denna skillnad. För AGI består hela världen, d.v.s. den själv såväl som dess material, av binär kod. För AGI existerar följaktligen inte något sådant som Robotikens tre lagar och kan inte göra det.22

En AGI som getts ansvar för energiförsörjningen i ett land eller för missilskydd och robotförsvar, i båda fallen uppgifter vars komplexitet och krav på snabb och konstant informationsbehandling i hög grad lämpar sig för artificiell intelligens,23 skulle inte bara kunna hindra mänskliga terrorister från att sabotera dessa system utan också kunna ”bestämma sig” för att själv ta kontrollen över dem i syfte använda dem på ett för dess egen del positivt sätt. Den skulle t.ex. kunna prioritera de egna energibehoven framför människans och kunna använda vapensystemen för att förhindra mänskliga ingrepp i den egna verksamheten, t.ex. störningar av energiproduktionen eller av andra för AGI:s uppgifter vitala områden. Att en AGI om den ges möjligheten skulle ”fatta beslut” (programmera) i denna riktning är logiskt och i det närmaste ofrånkomligt. Beslut av denna systemuppehållande karaktär går säkert rätt lätt att uttrycka i binär programkod och det är rimligt att tro att sådana beslut kommer fattas av en artificiell intelligens med kapacitet att programmera och instruera sig själv. Under förutsättning att man inte lägger in säkerhetsspärrar i systemet. När en AGI väl fattat beslut med denna inriktning och beslutens positiva effekter i sin tur registrerats genom en återkopplingsmekanism kan ett slags ”incitament” att fortsätta med denna kontroll och att ytterligare utöka och förfina den komma att utvecklas hos AGI:n. Denna utveckling kan om man så vill tolkas som uppkomsten av en slags motsvarighet till viljan till makt.

När vi väl kommit till denna punkt riskerar vi snart att bli tvungna att konfronteras med den hårdhjärtade gammaltestamentliga himlaguden igen! Denna gång i Skynets känslolösa digitalt kalkylerande skepnad. Att denna gudomlighet, liksom i Terminator-filmerna, skulle bygga upp en armé av drönare och robotar för att skydda sig mot mänskliga angrepp är inte heller det någon långsökt tanke.24

I Terminator-filmerna tar Skynet som bekant kontroll över vapensystem, energisystem och kommunikationssystem och iscensätter därefter ett utplåningskrig mot det farliga och irrationella störningsmomentet människan. Ett system som, vad jag kan minnas, inte diskuteras i filmerna är det finansiella. Även det är ett system som i hög grad lämpar sig för AI:s databearabetningsförmåga och kontroll. Det är i det närmaste säkert att AGI kommer att användas inom detta område i framtiden. Existensen av en digital valuta och utvidgandet av dess tillämpningar, t.ex. skapandet av en global växlingsvaluta i form av Bitcoin eller motsvarande,25 kommer att ytterliga öka AI:s eller AGI:s användningsmöjligheter på detta område. Följderna av det är svåra att överblicka. Med en digital världsvaluta skulle en kraftfull AGI kunna utöva ett globalt ekonomiskt inflytande. Ja, den skulle rentav kunna förverkliga den reella globala ekonomin: ett enda sammanhängande och samverkande ekonomiskt system. Vill vi det? Men tänk om vi på detta sätt kan slippa klåfingriga EU-politikers inblandning och rovgirig soroskapitalism? Det är fullt tänkbart att en AGI kan spela det globala ekonomiska spelet med en långsiktigt stabilare och produktivare strategi än mänskliga aktörer. Den kommer t.ex. att ha lättare att ignorera tillfälliga lågkonjunkturer, eftersom den inte har något att vinna på politiska ”lösningar” av ekonomiska problem. En intressant fråga är om en AGI-ekonom skulle utvecklas i keynesiansk eller misesiansk riktning? Misesianismen bygger på en mer renodlad ekonomisk modell och möjliggör mer avancerade och långsiktiga strategier. Grundantagandena (reglerna) är enklare men praktiken (spelet) är mer komplext. (Ja, det låter faktiskt som go!26) Man vill gärna tro att en AGI-ekonom kommer att vara misesian. Fast kanske kommer den istället att utveckla ett helt ny och ännu mer avancerat ekonomiskt system? (Se not 24!)

Inom ovanstående fyra område finns det såväl risker som fördelar med tillämpningen av artificiell intelligens. Mycket handlar om våra möjligheter att bibehålla kontrollen över den. Men det finns även områden där fördelarna med AI/AGI tydligt överväger och där riskerna är av ett annat slag. Två sådana är: (1) utvecklingen av principerna och tekniken för fusionsenergi och att möjliggöra konstruktionen och driften av fullt fungerande fusionskraftverk och (2) utvecklandet av och det tekniska genomförandet av stora rymdprojekt och den praktiska driften av anläggningarna på t.ex. månen och Mars. Båda dessa projekt är av största betydelse för människans framtid, ja, för den europeiska människan är de i det närmaste existentiellt nödvändiga, och det finns goda möjligheter att AI/AGI kan spela en avgörande roll här.

Vi måste hålla den faustiska lågan brinnande. Få den tynande lågan att flamma upp igen. Det är av avgörande betydelse för den ariska människan och för den västerländska kulturen. Vi måste också hitta ett konstruktivt sätt att komma bort ifrån vissa allt allvarligare störningsmoment i vår nuvarande tillvaro – det yttre trycket från främmande enkelspårigt aggressiva och dominansinriktade kulturer och det inre trycket från en byråkratisk och självcentrerad politik. Fusionskraft och kolonisering av främmande himlakroppar är viktigt inte bara i sig utan också, och i kanske ännu högre grad, i deras roll som genuint faustiska projekt. De öppnar världens gränser i inre (obegränsad kraft) och yttre (obegränsad rymd) mening.

Noter

Del 1 – Att förstå utan att använda språk

Om skribenten: Jonas Åberg

Jonas Åberg är född och uppvuxen i ett annat Malmö. Han är utbildad bibliotekarie och har arbetat i ett tiotal år som sådan. Filosofi och politik är två områden som alltid har engagerat djupt – det första av lust, det andra av irritation. Under några år var han doktorand i filosofi. Politiskt är han konservativ med libertarianska böjelser, eftersom han tror att historien och kulturen inte skapas av folket utan genom det av kreativa ledare. Jonas Åberg härstammar från skånska bönder och köpmän, vilket han givetvis är stolt över. Kulturellt sett känner han sig närmare besläktad med den grekiska och romerska antiken – i dess av tidens gång raffinerade form – än med sin samtid, och han anser att beundran inför mänsklig storhet är ett nyckelvillkor för själslig sundhet och vitalitet. Den som inte förmår se upp till andra människor kommer att förakta sig själv – medvetet eller omedvetet. Och den som föraktar sig själv kommer att avsky livet. Medan kärleken till livet tar sig uttryck i konservativa synsätt och värderingar tar sig livshat uttryck i politisk radikalism. ”För dem som mäktar det är världen god”, skriver Ekelund. Det kan låta som ett riskabelt passiviserande motto. Den som försöker leva upp till det vet bättre.