«A scientist will get so engrossed in their work that they don’t really

realize the ramifications of what they’re doing.»

– Elon Musk[1]

«Enthusiastic frenzy had blinded me to the horror of my employment.»

– Dr. Victor Frankenstein

Innledende bemerkninger om tema og «metode»

Vi presenterer her Siss Viks «bokbrev» fra juli 2023 titulert «Kunstig intelligens er et Franken­steins monster for vår tid»[2]. Viks artikkel (publisert et drøyt halvår etter at OpenAI slapp sin språkmodell ChatGPT for publikum) er på ingen måte alene om å behandle kunstig intelligens (KI) i lys av Mary Shelleys klassiske roman, og er langt ifra den mest uttømmende. 

Tvert imot presenteres temaet her som en del av et trivelig, lite sommer-kåseri i Viks egen bok-blogg (som publiseres på nettsiden til statskanalen NRK, med noenlunde jevne mellomrom). Allikevel påstår vi at det både er interessant og nyttig å behandle dette «bokbrevet» som et resepsjonshistorisk objekt: Først og fremst fordi forholdet mellom «Frankensteins monster» og KI, i seg selv, er ekstremt interessant.

Dette «bokbrevet» må nok anses som noe lokalt; et nærmest unnselig – men like fullt insisterende – prisme mellom verdenslitteraturen på den ene siden, og på den andre, den «monstrøse» teknologiutviklingen. 

Siss Vik bruker Dr. Frankensteins skjebne som et skrekk-scenario for eventuelle konsekvenser av KI-utvikling, og er ikke fremmed for å komme med vågale påstander. Ta, som et eksempel, den innledende – og ved første øyekast anakronistiske – formuleringen: «For over 200 år siden advarte Mary Shelleys roman Frankenstein mot farene ved kunstig intelligens».[3]

Spørsmålene en sitter igjen med etter lesningen er også av eksistensiell art: Maskinene våre har nå begynt «å tenke», men er vi på vei til å skape bevisste maskiner? Snakker vi om en digital apokalypse? Med KI sin ankomst er ånden kommet ut av lampen: Det er ingen vei tilbake, ser det ut som. Tiden vil vise om utfallet blir positivt eller negativt, men det hersker liten tvil om at Siss Vik selv er forsiktig pessimistisk.

Hva gjelder dette essayet har vi valgt å sammenblande medforfatternes tekstbidrag; dette uten nevneverdige endringer i de ulike forfatternes særegne språk og tone. Dette er et bevisst valg, med respekt for originalitet; forhåpentligvis ikke på bekostning av tilgjengelighet. 

Men, enda viktigere: Vi håper dette kan gi besvarelsen formen til et «Frankensteins monster», kuttet opp og sydd sammen (vel vitende om det at å kalle noe et «Frankensteins monster» nærmest alltid sikter til noe negativt). Slik vil teksten både være kildematerialet tro, og i seg selv en slags resepsjon av Mary Shelleys Frankenstein, or, The Modern Prometheus.

Etablering av Frankenstein-myten i urmyten om Promethevs

Shelleys roman har fått en enorm resepsjon i løpet av de 200 årene som er gått siden den første gang ble utgitt i 1818. Særlig takket være de mangfoldige populærkulturelle adaptasjonene har Shelleys monster selv så å si blitt levende og vandret ut i verden, løsrevet fra sin skapers hånd. 

Romanen har således gitt opphav til en egen Frankenstein-myte, nemlig myten om forskeren som i ubehersket iver ender opp med å skape et monster som kommer ut av skaperens kontroll. Dette er et moment Vik viser til i sitt «bokbrev», og som vi skal komme tilbake til.


Undertittelen, The Modern Prometheus, knytter Frankenstein til en annen myte, nemlig Promethevs-myten. I gresk mytologi er titanen Promethevs menneskenes velgjører, som ga menneskene både ilden, teknologien og kulturen. Ifølge enkelte kilder var det også han som skapte menneskene av leire. 

Navnet hans betyr noe sånt som «den som tenker før» eller «den forutseende», og i tillegg til å være menneskenes store kulturhelt, setter han seg dessuten opp mot Zevs, gudenes konge og verdens hersker. Han bryter dermed universets orden, svekker Zevs’ makt og gjør menneskenes liv lettere enn det er ment å være. Promethevs gjør seg skyldig i hybris – «overmot» eller «frekkhet» – overfor de olympiske gudene. 

En slik synd påkaller alltid gudenes rettferdige straff, nemesis, over den som ikke respekterer de grenser som er satt; for Promethevs’ vedkommende innebærer det å bli lenket fast til en klippe, mens en ørn som hver dag spiser leveren hans, som hver natt vokser ut igjen på nytt.[4]

Tradisjonen med å betrakte Promethevs som frigjøringshelten i kamp mot den brutale tyrannen Zevs, har levd videre i ettertiden og inspirert flere av romantikkens diktere, blant annet i Mary Shelleys vennekrets. For eksempel skrev Shelleys ektemann, Percy, det lyriske dramaet Prometheus Unbound,[5] og Lord Byron erklærte i sitt dikt Prometheus fra 1816, linje 45–48: «Thou art a symbol and a sign / To mortals of their fate and force; / Like thee, Man is in part divine, / A troubled stream from a pure source».[6]

Den fordømte nysgjerrigheten

Filosofen Gaston Bachelard (1884–1962) definerer «Promethevs-komplekset» på denne måten: «all those tendencies which impel us to know as much as our fathers, more than our fathers, as much as our teachers, more than our teachers».[7] Dette vitebegjæret er et gjennomgående tema i «Frankenstein», særlig i de innledende kapitlene som beskriver tittelkarakterens oppvekst og akademiske dannelse. 

Vik gjør et poeng ut av at Victor Frankensteins motivasjon først og fremst er «ren nyfikenhet» og en lidenskap for realfagene (the natural sciences). Den unge Frankenstein viser liten interesse for lingvistikk, statsvitenskap og politikk. Han ønsker å avsløre himmelens og jordas mysterier, både det ytre og indre i naturens ånd, den mystiske menneskesjel og metafysikken. 

Victor Frankenstein sier følgende til seg selv, i sine yngre dager som fremskrittsoptimist: «I will pioneer a new way, explore unknown powers, and unfold to the world the deepest mysteries of creation».[8]

I fag som dagens humaniora kommer man like langt som de før oss, intet nytt, men vitenskapen er grenseløs med sine oppfinnelser, oppdagelser og undrer, tenker Frankenstein.[9] Frankenstein er full av utforskertrang og vitebegjær, men han mener å vite at mennesket som søker perfeksjon alltid burde holde sinnet rolig og fredfylt og ikke la lidenskap eller flyktig begjær forstyrre sinnsroen. 

I brevromanens tilbakeblikk, advarer en etterpåklok Frankenstein: Om studiet har en tendens til å svekke kjærligheten og de enkle gledene, så er studiet urettmessig.[10] Han blir rammet av tragedie fordi han motsier sitt resonnement og tankemønster.

Promethevs stjal ilden fra gudene og ga den til menneskene. Frankenstein «stjal» den hemmelige evnen til å lage liv uten Gud, og begikk dermed hybris ved å sette seg ut over den naturlige orden og «frigjøre» mennesket fra den. Som Promethevs, opphøyer Frankenstein seg selv til en skapergud. Men skapningen vender seg mot sin skaper og laster ham for å ha dømt skapningen til et liv i den ytterste ensomhet og elendighet. 

Problemstillingen blir således mangefasettert: Det skapte føler seg straffet i kraft av sin eksistens, mens Siss Vik er bekymret for at «straffen» skal ramme alle oss som er berørt av skapningen (KI). For å finne trøst ser Vik til «gode bøker om menneskets natur og vesen», men etter å ha lest «Frankenstein» tenker hun derimot fortvilet; «Akk, lærer vi aldri?»
[11]

Frankensteins hybris er soleklar, og det er den som til slutt fører til hans tilintetgjørelse. Men hva gjelder Victor Frankensteins faktiske straff – hans prometheiske nemesis, så å si – er denne langt på vei ikke påført ham utenfra. Straffen er ingen lever-etende ørn, altså, men blir snarere formulert gjennom det romantiske motivet sjelekvaler: En sykeliggjørende, indre monolog, ridd av dårlig samvittighet.

«Frankenstein moments» og den angrende oppfinneren


Promethevs-komplekset ligner nærmest en forhekselse; jaget etter større, raskere og mektigere teknologi.[12] En faustisk streben og overskridelse, lik romfartsforskning, delingen av atomet og oppdagelsen av kvanteverdenens hemmeligheter. Forskeren, eller «skaperen», har de beste intensjoner under arbeidet, og ser for seg at skapningen skal bli både vakker og til nytte og glede for menneskeheten. 

Frankenstein finner imidlertid resultatet både heslig og skremmende – ja, faktisk viser det seg å være en trussel for menneskeheten, stikk i strid med hensikten. Dette dramatiske stemningsskiftet har igjen blitt et fenomen som gjerne kalles a Frankenstein moment på engelsk – et begrep også Vik bruker i sin tekst. Hun knytter begrepet til dem hun hører om «som har vært i front på å utvikle IT-teknologi som så raskt oppdager at oppfinnelsen deres brukes til å skade andre.» 

Hun drar frem sammenligninger mellom Victor Frankenstein og folk som forsøker å produsere KI, der forsøket på å skape noe som fremmer menneskeheten heller skaper noe stygt som skader andre. Gode intensjoner (som å gjøre livet «lettere enn det er ment å være», jamfør både Promethevs og KI) stopper ikke folk fra å gjøre ting som kan ha store konsekvenser for menneskeheten.

«Frankenstein» er, ifølge Vik, «en av de første, og helt klart den viktigste boka om mennesker som prøver å lage et intelligent vesen». Men Vik viser også til det ene motivet, som muligens framfor noe annet, videreutvikler Frankenstein- fra Promethevs-myten: Den angrende oppfinneren: Gjennom hele menneskehistorien har nye ting blitt oppfunnet, men så blitt brukt av mennesker til å skade andre mennesker. 

Vik skriver: «Alfred Nobel stiftet en fredspris til bekjempelse av krig da han så dynamittens destruktive kraft». Om Robert Oppenheimer (som jo har fått den tvilsomme ærestittelen «den amerikanske Promethevs») skriver Vik at han «innså hvilket dødelig våpen han hadde skapt da han så prøvesprengingen av atombomben» og at «han kjempet for at den ikke skulle brukes i et våpenkappløp mellom land, men tapte den kampen.» 

Mary Shelley skildrer en mann som tror at han har gjort den samme feilen og skapt noe som truer menneskeheten. Og nå er det lett å frykte at KI vil være det samme som Frankensteins monster, men uten de gode intensjonene og ønsket om menneskelig selskap.[13]

Likhetene er mange, men det er likevel gigantiske forskjeller. Først og fremst er Frankensteins monster et levende, tenkende vesen, mens KI ikke er det. Likevel er de begge ekstremt intelligente; de har evnen til å lære ting raskt (ofte raskere enn vi hadde foretrukket) og KI har også potensialet for å være ekstremt farlig[14]. 

Men, kanskje det viktigste som knytter Frankensteins monster og KI sammen er frykt. Altså frykten for at den kommer til å skade, eller til og med utslette menneskeheten. Denne frykten er, som vi har sett, ikke ny, men den spissformuleres langt på vei dagens debattklima.

På Mary Shelley sin tid var det store spørsmålet hva et liv er, og hvordan det oppstår; i dag prøver vi utforske hva bevissthet er og hvordan den oppstår. Hvor skremmende Oppenheimers atombombe enn var, var det ingen som ila den antropomorfe (menneskelignende) egenskaper som intelligens eller språkevne. 

Det er verdt å spørre: Er vi på vei til å dehumanisere mennesket og humanisere maskinene? Promethevs-komplekset, eller jaget, er å finne hos Frankenstein og i KI-feltet; skapt med intensjonen om grenseløs nytte, men som kan brukes for å ødelegge alt, som den dansende og ødeleggende Shiva.

Gudskomplekset

«Det er lett å tenke på «Frankenstein» som en allegori på Guds skapelse av mennesket», skriver Vik[15]. «Frankenstein» bærer et tydelig preg av en kristen moralforståelse, men fortellingens budskap står fortsatt sterkt i dagens sekulære verden. 

Forfatteren Mary Shelley var selv en troende kristen, og skriver i romanens forord: «for supremely frightful would be the effect of any human endeavour to mock the stupendous mechanism of the Creator of the world.»[16] Dr. Frankenstein «leker» Gud og skaper en ny Adam, men denne gangen en som ikke hører hjemme i det «naturlige» gudsbildet.

Det er talende at Shelley velger som epigraf, på romanens tittelside, et sitat fra John Miltons epos Paradise Lost, bok 10, linje 743–745: «Did I request Thee, Maker, from my clay / To mold me Man? Did I solicit Thee / From darkness to promote me …?»[17] Shelley knytter dermed sin fortelling også til den bibelske skapelsesmyten i 1. Mosebok. Men i motsetning til Bibelens Gud, som «så på alt det han hadde gjort» med kjærlighet og så at «det var svært godt»,[18] reagerer Frankenstein som nevnt med skrekk og avsky når han betrakter sin skapning. 

Skapningen, på sin side, vet ikke om han skal identifisere seg med Adam eller med Satan. I en annen kjent skapelsesberetning, nemlig i Koranen, er englene pessimistiske overfor menneskene, «…Vil du innsette én som lager ufred og blodsutgytelse?», Gud derimot er optimistisk, «Sa Gud, jeg vet hva dere ikke vet».[19]

Den straffende Gud som dommer for vårt overmot er nok ikke like relevant i nåtidens sekulære kontekst, men for Vik forblir romanens grunnmotiv likevel et poeng i dag. I Frankenstein er det forskerens utforskertrang som fører til forskerens undergang. Vik er (i likhet med Koranens engler?) åpenbart en KI-skeptiker, og det er tydelig at hun frykter den utforskertrangen i dag som etter hvert kan føre til hele menneskehetens undergang.

Avslutningsvis

I Siss Viks artikkel «Kunstig intelligens er et Franken­steins monster for vår tid», gjør hun et poeng ut av at monsteret fra fortellingen også kan sees på som en form for kunstig intelligens. Med dette får myten ytterligere relevans i en moderne kontekst. Likesom Frankenstein skapte liv ut av død materie, forsøker KI-utviklingen å skape et slags «liv» ut av «død» data.

Her har vi i all hovedsak belyst Frankenstein som primærkilde og resepsjonshistorie. Spørsmålene knyttet til hvorvidt KI er et moderne Frankenstein-monster eller ikke, forblir dermed noenlunde mindre utforsket. Det vi heller konstaterer er at Viks bruk av Frankenstein i en såpass dagsaktuell debatt, tyder på en resepsjonshistorie der budskapet i originalverket har klart å holde seg relevant i over 200 år. 

I tillegg tør vi påstå at – den i utgangspunktet universelle – problemstillingen i Mary Shelleys Frankenstein er relevant på en akutt og mer treffende måte i dag enn noen gang siden dens unnfangelse; dette gitt likhetene mellom Frankenstein-monsterets selvbevissthet og vår resepsjon av KI. Det er lett å tilegne den nye teknologien både litterære og sågar menneskelignende egenskaper, om enn dette kan være villedende og en fare i seg selv.

Noter:

[1] Adam Jezard, «Elon Musk: AI will be like being visited by super-intelligent aliens», (URL).

[2] Siss Vik, «Kunstig intelligens er et Frankensteins monster for vår tid», (URL).

[3] Vik, (URL).

[4] Fritz Graf, Greek mythology: An introduction, 82–86; Trond Berg Eriksen, Den greske filosofi, 17.

[5] Jon Haarberg, Tone Selboe og Hans Erik Aarset, Verdenslitteratur: Den vestlige tradisjonen, 363.

[6] George Gordon Byron, «Prometheus», i Mary Shelley, Frankenstein: The 1818 text, contexts, criticism, 211.

[7] Gaston Bachelard, The psychoanalysis of fire.

[8] Mary Shelley, Frankenstein: Complete, authoritative text with biographical, historical, and cultural contexts, critical history, and essays from contemporary critical perspectives, 53.

[9] Shelley, kap. 2 og 4.

[10] Shelley, kap. 4.

[11] Vik, (URL).

[12] Hans van de Braak, The Prometheus complex: Man’s obsession with superior technology .

[13] Vik, (URL).

[14] Kevin Roose «A.I. poses ‘risk of extinction,’ industry leaders warn» (URL).

[15] Vik, (URL).

[16] Mary Shelley, «Introduction», i Mary Shelley, Frankenstein: Complete, authoritative text with biographical, historical, and cultural contexts, critical history, and essays from contemporary critical perspectives, 24.

[17] John Milton, «From Paradise Lost», i Mary Shelley, Frankenstein: The 1818 text, contexts, criticism, 176.

[18] 1 Mos 1,31.

[19] Koranen, 2:31.

Litteraturliste:

Bachelard, Gaston. The psychoanalysis of fire. Oversatt av Alan C.M. Ross. Boston: Beacon Press, 1964.

Braak, Hans van de. The Prometheus complex: Man’s obsession with superior technology. Amersfoort: Enzo Press, 1995.

Byron, George Gordon. «Prometheus.» I Mary Shelley, Frankenstein: The 1818 text, contexts, criticism, 3. utg., redigert av J. Paul Hunter, 210–211. Norton critical editions. New York: W.W. Norton, 2022.

Eriksen, Trond Berg. Den greske filosofi. Gyldendals studiefakler. Oslo: Gyldendal, 1972.

Graf, Fritz. Greek mythology: An introduction. Oversatt av Thomas Marier. Baltimore: The Johns Hopkins University Press, 1996.

Haarberg, Jon, Tone Selboe og Hans Erik Aarset. Verdenslitteratur: Den vestlige tradisjonen. Oslo: Universitetsforlaget, 2007.

Jezard, Adam. «Elon Musk: AI will be like being visited by super-intelligent aliens»,

World Governments Summit. 08.04.2018. Besøkt 06.05.2014. https://www.worldgovernmentsummit.org/observer/articles/2017/detail/elon-musk-ai-will-be-like-being-visited-by-super-intelligent-aliens

Milton, John. «From Paradise Lost.» I Mary Shelley, Frankenstein: The 1818 text, contexts, criticism, 3. utg., redigert av J. Paul Hunter, 172–178. Norton critical editions. New York: W.W. Norton, 2022.

Roose, Kevin. «A.I. poses ‘risk of extinction,’ industry leaders warn.» New York

Times. 30.05.2023. Besøkt 06.05.2014.

https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html

Shelley, Mary. Frankenstein: Complete, authoritative text with biographical, historical, and cultural contexts, critical history, and essays from contemporary critical perspectives. 2. utg. Redigert av Johanna M. Smith. Boston: Bedford/St Martin’s, 2000.

Vik, Siss. «Kunstig intelligens er et Frankensteins monster for vår tid.» Bokbrevet (blogg). NRK. 01.07.2023. Besøkt 06.05.2014. https://www.nrk.no/bokbrevet/bokbrevet-_18_kunstig-intelligens-_ai_-er-et-frankensteins-monster-for-var-tid-1.16402389