Den amerikanske filosofen John Searle ifrågasätter hur intelligent den artificiella intelligensen egentligen är.
Det är väl för väl att John Searle inte är moralfilosof, för det var just hans bristande karaktär som gjorde att han 2019 blev av med professorstiteln vid aktade University of California. I samband med metoo avslöjades det att han hade hjälpt unga forskare framåt i karriären i utbyte mot sexuella tjänster.
Men det är inte heller i första hand den artificiella intelligensens (AI) brist på moral som varit Searles intresse, utan frågan om den verkligen är särskilt intelligent?
Han inledde sin filosofgärning med att undersöka hur vi gör saker med ord, hur vi använder språket för att påverka omgivningen genom att ställa frågor, göra uppmaningar och uttrycka önskningar. Det avslöjar våra avsikter, att vi är varelser som har intentioner gentemot världen.
En förutsättning för att vilja något är också att ha ett medvetande och kring dess natur har Searle resonerat. Han hävdar att vi länge missförstått relationen mellan medvetandet och kroppen, att vi i vår kultur föreställt oss att de tillhör skilda sfärer med någon slags mystisk förbindelse mellan dem. Men i själva verket är medvetandet en följd av vår biologi, en funktion bland många andra hos vår organism, tänker sig Searle. Att våra hjärnor ser ut på ett visst vis gör också att vi blir medvetna om tillvaron och kan använda språk, förutsättningen för våra kulturer och samhällsgemenskaper.
Under 1980-talet gav han sig in i debatten om AI, i ett klassiskt avsnitt av BBC-programmet “Voices” från 1984 diskuterade Searle problemet med kollegan Margaret Boden som under många år forskat om “intelligenta” maskiner. Det är slående hur lite debatten förändrats sedan dess.
Efter alla års teknikutveckling har Searle fortsatt hävdat att datorer inte kan vara intelligenta på riktigt därför att de till skillnad från oss saknar ett medvetande och egna intentioner. Egentligen är de bara väldigt snabba och skickliga på att “räkna”, att lära sig hantera olika tecken för att hjälpa oss med olika saker, men de har inte någon avsikt med det, de gör bara det vi programmerar dem för att göra.
Här bryter Searle med tidigare tänkare inom området, för 1600-talsfilosoferna Thomas Hobbes och Gottfried Wilhelm von Leibniz (som också försökte bygga en räknemaskin) är tänkande och rationalitet egentligen inte är något annat än de räknande operationer våra datorer gör i dag. Matematikern Alan Turing hävdade 1950 att om människor inte kan avgöra om det är en maskin de konverserar med så har den redan uppfyllt kritikerna för mänsklig intelligens.
Thomas Hobbes, Gottfried Wilhelm von Leibniz och Alan Turing var överens om att tänkande inte är exklusiv mänsklig egenskap. Målningar av John Michael Wright och Christoph Bernhard Francke.
Genom kulturhistorien har det alltid funnits en skräckblandad förtjusning kring fantasin om att vi själva skulle kunna bli gudar och skapa intelligent artificiellt liv, från den judiska mystikens lervarelse Golem och alkemins konstgjorda människa “homunculus” till Mary Shelleys Frankensteins monster och robotarna som gör uppror i Carel Kapecs pjäs “R.U.R” (1920).
Golem och Frankensteins monster är exempel på vår långa historia av att fantisera om att kunna skapa artificiellt intelligent liv. Illustration av Philippe Semeria, Boris Karloff som Frankensteins monster 1931 och illustration av Theodore Von Holst från 1831.
Skeppsdatorn HAL 9000 läser besättningens läppar när de förösker konspirerar mot honom. Scen ur Stanley Kubricks film "2001" (1968)
Den snabba teknikutvecklingen efter andra världskriget och datorernas genombrott på bred front väckte åter rädslan för maskinernas övertagande. Isaac Asimovs berättelser om robotar på 50- och 60-talet handlade om etiska koder för maskiner. Den självmedvetne och mordiske rymdskeppsdatorn HAL 9000 dyker upp i Stanley Kubricks film “2001” (1968). Ett par år tidigare skrev Philip K. Dick romanen “Androidens drömmar” (mer känd som Ridley Scotts filmatisering “Blade Runner” (1982)) där biologiskt framställda robotar inte kan skiljas från människor. I Glen A. Larsons tv-serie “Battlestar Galactica” (1978–1978) för en hel maskinras ett utrotningskrig mot människan.
I Ridley Scotts film "Blade Runner"(1982) kan vi inte längre urskilja robotar från människor.
Under 80-talet speglades rädslan för att artificiell intelligens skulle bli vår död i James Camerons film “Dödsängeln - Terminator” (1984) där USA:s hypermoderna försvarssystem Skynet “kommer till liv” och bestämmer sig för att utplåna mänskligheten med kärnvapen. I Paul Veerhoevens satiriska “RoboCop” (1987) kan människan uppstå från de döda genom att förenas med teknologin, men poängen är att maskinerna just saknar medvetande och moral.
Arnold Schwarzenegger spelar en artificiellt intelligent "dödsängel" från framtiden i filmen "Terminator" (1984).
Arnold Schwarzenegger spelar en artificiellt intelligent "dödsängel" från framtiden i filmen "Terminator" (1984).
För Searle är sådana fantasier nonsens så länge vi inte skapar liv som har motsvarande biologi som oss själva och därmed utrustad med medvetande. Varför skulle datorer plötsligt få medvetande och ondskefullt vilja utplåna oss så länge vi inte programmerar dem till det? Frågan nu är snarare vad vi använder datorer till och vilket moraliskt och juridiskt ansvar vi i så fall kan utkräva. Hur ska vi bedöma olyckor som sker med förarlösa fordon? Och hur ska ett sådant agera om det exempelvis ställs inför att köra på en människa eller väja och i stället köra in i en hel grupp?
När den industriella revolutionen tog fart i England i början av 1800-talet försökte en rörelse kallade “ludditerna” att stoppa utvecklingen genom att slå sönder maskiner för att rädda sina egna arbeten. Det visade sig i längden vara lönlöst och automatiseringen har sedan fortsatt på ett sätt som också gått ut över människor. Sedan 70-talet har vi sett hur industrijobb försvunnit och människors händer ersatts av effektivare maskiner. Det har inte varit utan politiska konsekvenser, det finns studier som pekar på att den politiska oro vi i dag upplever runt om i världen med växande högerpopulism just har ett nära samband med frustrationen och sorgen över förlusten av relativt välbetalda industriarbeten.
Nu är det alltmer kvalificerade arbeten inom andra områden där AI ersätter människor, nu designas till och med artificiella fotomodeller på sådant vis så de kan ha alla de attribut man önskar enligt rådande kroppsideal.
Nick Cave är inte särskilt imponerad av ChatGPT:s färdigheter som rocklyriker.
AI sägs till och med kunna ersätta våra bästa författare, men när den australiensiske rocklyrikern Nick Cave fick se den uppmärksammade chatboten ChatGPT:s försök att skriva texter liknande hans egna var resultatet skrattretande banalt. Roboten har inte kunnat återskapa de många kulturella referenser han använder för att bygga sin lyrik och framför allt kan den ju omöjligt förutse hur Cave kommer att skriva framgent.
Poeten och författaren Lisa Zetterdahl skrev i en krönika i den här tidningen om ett liknande utslag, ChatGPT försökte efterapa hennes skrivande genom att författa innehållslös ”naturpoesi”.
Poeten Lisa Zetterdahl fann inte sin like i ChatGPT.
På samma vis har forskare påpekat hur chattroboten gör stora misstag när den återger forskning inom olika områden, exempelvis känsliga politiska företeelser som nationalism. Den äldre AI-roboten Tay urartade 2016 inom ett dygn och blev Förintelseförnekare och ”nättroll”. Allt den gjorde var att försöka efterlikna mänsklig kommunikation på nätet och det lyckades den alltför väl med.
Chattroboten ChatGPT har åter väckt diskussionen om "hotet" från den artificiella intelligensen.
Cave och Zetterdahl konstaterar lik Searle att den avgörande skillnaden är att AI simulerar skapande, den har ingen verklig intention, tanke eller erfarenhet bakom med sitt skrivande.
Den aspekten är också intressant därför att Searle var involverad i en hätsk debatt med filosofen Jacques Derrida på 70-talet. Derrida hävdade att texters författare var helt irrelevanta för att tolka och förstå dem, att alla tecken förstås utifrån det kulturella och historiska sammanhang där de blir lästa. Searle påstod å sin sida att den ursprunglige författarens intention med sin text inte kan ignoreras, att det är av högsta betydelse för att förstå den. För Derrida så spelar det ingen roll om författaren är en maskin, för Searle är det avgörande att en litterär text skrivits för mänsklig hand.
Martin Heidegger, maskinhatande ludditer och Jacques Derrida.
Frågan är ändå vad det har för betydelse när vår mänskliga verklighet förändras av teknologins utveckling? Den tyske filosofen Martin Heideggers rykte skamfilades av hans engagemang för nazismen, men efter andra världskriget skrev han under 50-talet klarsynt om hur tekniken omvandlar vår tillvaro.
Heidegger ställde just frågan kring om vi verkligen kan vara fria i vårt förhållande till den? I så fall måste vi på djupet förstå vad teknologi är, bli medvetna om dess inneboende normlöshet och bestämma oss för hur vi vill använda den.
Heidegger konstaterar att teknologi är en slags förlängning av oss. Han hävdar att den skiljer sig från allt annat i världen på så vis att den aktivt förändrar omgivningen och inte är en “naturlig” del av den. För människans del innebär det att den på olika sätt “ersätter” oss och på så vis utövar makt över oss när exempelvis en skogsavverkningsmaskin tar ett antal skogshuggares roll i arbetet. Teknologin kan så att säga fjärma oss från verkligheten och i dag är det nog redan det många upplever när vi rent av under större delen av våra dagar sitter framför våra skärmar. Vi blir så att säga “inramade”, begränsade, av vår egen teknik och upplever inte längre vad “ett riktigt liv” innebär.
I den frågeställningen ligger också att det i våra samhällen är en högst demokratisk fråga hur teknologi ska få användas när den på gott och ont också får stora följder för människors liv. För Heidegger är det endast den mänskliga kreativiteten som kan lösa detta dilemma, det är konstnären eller poeten som kan föra oss tillbaka och låta oss se världen som den verkligen är, en sådan sanning är den artificiella intelligensen för dum för att kunna upptäcka åt oss.
Men vilket fängelse och skuggtillvaro är det då inte att hamna i algoritmernas våld och på skärmen bara se generiska skenbilder av världen?