Myter, makt och maskiner
Människan är biologiskt hårdkodad för att förstå sin omgivning i historier och berättelser. Under årtusenden har därför berättelser och myter fungerat som moraliska vägvisare, som hjälpt oss att förstå livets komplexitet och vad det innebär att vara människa.
Myter hjälper oss att förstå komplexa ämnen genom att göra abstrakta idéer och fenomen konkreta. De fångar universella sanningar om mänsklig natur, våra ambitioner och konsekvenserna av våra handlingar. Myterna ger oss ledtrådar om vem som gynnas, vem som marginaliseras och vilka framtider vi kan föreställa oss.
Prometeus och elden
Ta till exempel berättelsen om Prometeus, titanen som vågade stjäla elden från gudarna på Olympen och ge det som en kunskapsgåva till människorna. Elden förklaras som en kraftfull och positiv teknologi, men som samtidigt har kraften att bränna hela skördar, byar och skogar. Elden är i grunden en fara om den inte tyglas.
AI kanske är vår tids eld. En teknologins dubbelhet — ett kraftfullt verktyg med potential att revolutionera många områden, från sjukvård till utbildning. Men, precis som eld, kräver ansvarsfull hantering.
Och precis som elden flyttar dagens “AI” också makt: den samlar den hos de företag som kontrollerar teknologin, samtidigt som riskerna fördelas nedåt i samhällshierarkin. Det är inte techbolagen i Silicon Valley som betalar priset för koboltutvinning, energislukande datacenter eller de sociala konsekvenserna av att människor reduceras till dataråvara. Prometeusmyten påminner oss om att tekniska gåvor alltid omfördelar makt — och att det alltid finns någon som bränner sig.
Pandoras urna
Berättelsen om Pandoras ask — eller urna, som det egentligen var — varnar oss också för de oförutsedda konsekvenser som kan följa med lockelse. När Pandora öppnar sin urna drivs hon av nyfikenhet, inte illvilja. Ändå släpper hon lös kaos. Pandoras ganska oskyldiga (dock aningslösa) nyfikenhet speglar de risker som AI kan medföra om den används utan eftertanke. Algoritmisk partiskhet, desinformation, arbetslöshet och intrång i privatlivet genom både avsiktlig och oavsiktlig övervakning är bara några av de utmaningar vi står inför när vi öppnar vår tids AI-urna. Pandoras misstag var mänskligt – och ganska litet – men fick enorma globala konsekvenser. “Move fast and break things” har varit techsektorns motto i decennier, och det har gett oss en värld där desinformation, algoritmisk rasism, övervakning och psykologiska skadeeffekter har blivit vardag. Techbolagen tar vinsterna, men det är samhället som behöver plåstren.
Ikaros och ändrade ambitioner
Pandoras berättelse påminner om nästa myt. Berättelsen om Daidalos och Ikaros handlar också om varningar som inte hörsammas, och om farorna med ohämmad egoistisk ambition. Ikaros skulle egentligen bara fly från sitt fängelse med hjälp av vingarna som hans far Daidalos hade byggt åt honom. Men han nöjde sig inte utan ändrade kurs och siktade istället mot solen med sina konstgjorda vingar. Han mötte ett tragiskt slut då vaxet i vingarna smälte. Berättelsen är en lysande spegling av en bransch som ofta drivs mer av tillväxt än eftertanke. Vi ser det i utvecklingen av sociala mediers algoritmer, som kanske ursprungligen skapades för att förena människor, men som nu drivs av ett obevekligt fokus på “engagemang” till varje pris för att sälja mer annonser och data. Detta nya fokus, likt Ikaros ändrade intention, har främjat polarisering, snabb spridning av desinformation och skapandet av ekokammare och radikalisering. I den febriga kapprustningen mot allt större LLM-modeller flyger företagen allt närmare solen, ofta utan att se hur mycket vax som redan börjar smälta.
Minotauren och Ariadnes tråd
Labyrinten och Minotauren fungerar som en metafor för att navigera AI-systemens ogenomskinliga komplexitet. Labyrinten, som är förvirrande och potentiellt farlig, representerar AI-algoritmers invecklade och ofta helt oinspekterbara natur, så kallade “black-box”-modeller. Hjälten i den här historien är därför inte Theseus som på klassiskt manér gick in och besegrade minotauren med sitt svärd, utan Ariadne, som med sin genialiska röda tråd sedan ledde Theseus ut ur labyrinten och räddade honom. Detta kan symbolisera det kritiska behovet av transparens och ansvarstagande i utvecklingen av AI. De som äger labyrinten — techbolagen — tjänar på att den är oöverskådlig och oreglerad. De som däremot riskerar att gå vilse är användarna, arbetarna, medborgarna. Transparens, ansvar och möjlighet till granskning är vår tids röda tråd. Var finns Ariadnes tråd i jakten på transparent och ansvarsfull AI-utveckling idag?
Pygmalion, Her och förmänskligande av teknologi
Pygmalion blir förälskad i sin egen skapelse — den naturtrogna marmorstatyn Galatea. Det är också temat för filmen Her (2013, dvs drygt 12 år gammal när det här skrivs).
Och den filmen gjorde uppenbarligen så stort avtryck på OpenAIs Sam Altman att han var tvungen att posta “Her” på X innan lanseringen av nya GPT-modellen 4-o. Och dessutom stal OpenAI Scarlett Johanssons röst från filmen Her utan tillstånd. Den fick dras tillbaka efter hot om stämning, vilket i sig är talande för hur OpenAI och andra techjättar opererar. Idag designar företag teknologier som uttryckligen ska kännas mänskliga — inte för att skapa empati, utan för att skapa “lojalitet” och “engagemang” (det vill säga: kommersiellt beroende).
Men historierna ställer frågan om hur vi ska hantera en alltmer “levande” teknologi som låter oss projicera mänskliga egenskaper som empati och till och med kärlek. Många historier och myter undersöker detta. Exempelvis Klara och Solen av Kazuo Ishiguro — som finns att låna på närmaste bibliotek.
Frågan är inte bara vad teknologin kan göra utan vad vi projicerar på den.
Oraklet i Delfi — hallucinationer och prompt engineers
Oraklet i Delfi som hallucinerade hej vilt blandat med sanna insikter och profetior — beroende på hur prästerna formulerade sina frågor. Idag skulle vi kanske kalla dessa präster för Prompt Engineers, tusentals år innan Silicon Valley-entusiasterna. Och de som drabbas när sanningen förvanskas är alltid de som står längst bort från centrum: de utan mediekompetens, de som saknar resurser att verifiera information, de som påverkas av algoritmiska felbeslut. (Fundera på vem som tar smällen då LLM-baserade hallucinationer drabbar skolbarn när så kallade “study buddies” eller personliga AI-assistenter införs på grundskolenivå.)
Saturnus — risken för modellkollaps
Eller ta den skrämmande myten om Saturnus (Kronos) som slukar sina egna barn! När Saturnus slukar sina egna barn gör han det för att säkra sin egen makt, men genom handlingen skapar han samtidigt sin egen undergång. Denna berättelse speglar den självdestruktiva cykeln då dagens storskaliga språkmodeller fortsätter att använda sina egna resultat för träning. Effekterna börjar bli smärtsamt tydliga redan idag: modeller som tränas på sitt eget material börjar tappa kvalitet, originalitet och sanningshalt. Om tekniken fortsätter äta sin egen svans i jakt på billigare, snabbare och mer skalbar data riskerar den att undergräva sin egen grund. Kreatörer och författare vars arbete används utan ersättning marginaliseras, samtidigt som kulturen fylls av syntetiskt material som saknar djup, mänsklig erfarenhet och kritisk komplexitet. Saturnusmyten blir här en varning om att system som konsumerar sitt eget ursprung till slut utarmar det helt.
Denna så kallade “modellkollaps” kan undvikas genom att prioritera ny, människogenererad data och rättvist kompensera de kreatörer vars arbete driver AI:s utveckling framåt.
Moderna myter och varför vi behöver dem
Det finns en hel uppsättning av nya myter, som säger en hel del om vad vi behöver ha ögonen på i utvecklingen av teknologin. När vi försöker förstå komplexa fenomen, som AI och dess påverkan på samhället, behöver vi metaforer och förklaringsmodeller.
För en översikt rekommenderar jag Eryk Salvaggios artikel om moderna myter och deras relation till AI. I den artikeln citeras Daniel Stone vid Cambridge: “metaforer utgör 40% av politiska tal, men bara 3% av folket identifierar metaforerna.” Metaforerna är alltså kraftfulla, men något osynliga. Min gissning är att de där 3% utgörs av litteraturvetare, filosofer och andra som läst mycket och tänkt mycket.
Litteratur är vaccin mot okunskap och dåraktighet.
Science fiction som samtidsdiagnos
Science fiction-litteraturen erbjuder djupgående lärdomar om vår samtid genom att utforska våra innersta rädslor och etiska dilemman. Ta två av de mest kända scifi-berättelserna:
- George Orwells 1984 varnar för auktoritärt styre, övervakning och manipulation av sanningen, vilket speglar dagens oro över massinsamling av data och politisk desinformation.
- Aldous Huxleys Du sköna nya värld skildrar istället ett samhälle där övervakning inte ens behövs, eftersom folket är bedövat av njutning och distraktion, vilket påminner oss om vårt beroende av teknologi och konsumtion.
Vi lever idag i båda dessa dystopier samtidigt.
Och all sci-fi, från 2001, Terminator, The Matrix till Black Mirror, är en fortsättning på Mary Shelleys Frankenstein som fungerar som en varning om de moraliska konsekvenserna av ohämmad teknologisk ambition. (För övrigt är den kompletta titeln på Shelleys roman “Frankenstein — eller den moderne Prometeus”, som en fin vinkning till den antika myten vi började med ovan.)
Dessa berättelser utmanar oss att kritiskt reflektera över de vägar vi väljer idag. De är alltså inte bara varningar och något för den konservative cynikern. Berättelserna är inte profetior, utan verktyg; de uppmuntrar oss att tänka kritiskt om våra val idag.
I myten om Pandoras ask, när alla onda ting hade släppts ut i världen — sjukdom, förtvivlan, girighet — återstod en sak längst ner i urnan: hoppet. När vi tänker kring artificiell intelligens, bör vi just låta hoppet vägleda oss.
Då menar jag inte ett naivt hopp på fagra utopiska löften om otyglad teknologi, utan ett hopp på vår kollektiva förmåga att skilja sanning från illusion, att bygga etiska, rättvisa system och att forma AI så att det verkligen gynnar samhället. Det är bara då vi kan se till att AI tjänar oss alla — och inte bara ett fåtal.
Och var kan man bättre finna hopp, om inte i en riktigt bra bok?
Det är i litteraturen vi hittar Ariadnes röda tråd genom labyrinten.
