«Modellen vår, kalt GPT-2 (…), ble ganske enkelt opplært til å forutsi neste ord i en internett-tekst på 40GB. På grunn av vår bekymring for skadelig bruk av teknologien, frigir vi ikke den opptrente modellen. Som et eksperiment innen ansvarlig publisering frigir vi i stedet en mye mindre modell som forskere kan eksperimentere med, samt en teknisk artikkel.»

Budskapet ble publisert av kunstig intelligens-forsker Alec Radford og kollegaene hans i forskningslaboratoriet OpenAI i februar i fjor. De laget en datamodell som kan lage tekst. Og dette anså de altså som såpass risikabelt at de ikke ville frigi modellen.

Forklaringen? Kort sagt er oppfinnelsen så god at den blant annet kan lage falske nyheter av svært overbevisende kvalitet i en fei. Forskerne lister opp følgende punkter for mulig misbruk av teknologien:

• Gi seg ut for å være andre på nett
• Automatisk produksjon av krenkende eller falskt innhold til publisering i sosiale medier
• Automatisk produksjon av spam/snoking (phising)

Men forskerne kan vel ikke ta ansvaret når andre lager falske nyheter? Eller som Patrick Doherty, professor i datavitenskap ved Linkøpings universitet sa det (2015):

«Det finnes ingen onde eller gode teknologier, det finnes bare onde eller gode anvendelser.»

Forskningsetikken er ikke enig. I Forskningsetiske retningslinjer for naturvitenskap og teknologi, står det:

«Der det foreligger plausibel, men usikker kunnskap om at en teknologisk anvendelse eller en utvikling av et forskningsfelt kan føre til etisk uakseptable konsekvenser for helse, samfunn eller miljø, skal forskerne innenfor det aktuelle forskningsfeltet bestrebe seg på å bidra med kunnskap som er relevant for å følge føre var-prinsippet.»

Og føre var-prinsippet sier at når menneskelig aktiviteter, som forskning, kan føre til moralsk uakseptabel skade som er vitenskapelig rimelig, men usikker, skal man foreta handlinger for å unngå eller minske slik skade.

Forskere skal med andre ord tenke gjennom hvordan forskningen deres kan misbrukes. Noen ganger må de justere kursen for å senke risikoen i prosjektet, andre ganger bygger de sikkerhet inn i systemet, som skal hindre misbruk.

Etterpåklokskapens lys

Albert Einstein har fortalt at han angret på sin oppfordring til utvikling av atombomben (et brev til Roosevelt i 1939 som påskyndet forskningen). Forskere bak pepper-spray og elektronisk sporing av mennesker har sett med gru på hvordan oppfinnelsene deres er brukt til nye formål. I det hele tatt er forskningsetiske kodekser og retningslinjer utviklet og videreutviklet i etterpåklokskapens lys gjennom hele vitenskapshistorien.

Med føre var-prinsippet i verktøykassa, er forskersamfunnet også framsynte. Som forskerne vi startet med – de som ikke ville dele hele oppfinnelsen sin av frykt for misbruk. Så hvordan går det med dem, snart ett år etter første publisering? De har frigitt hele modellen sin. Sammen med forskning som viser hvordan den kan misbrukes, blant annet av ulike ekstremistgrupper. De har ikke sett klare tegn til misbruk ennå, men erkjenner at de ikke vil kjenne eller finne alle slike trusler. Håpet deres er at eksempelet kan være et bidrag i samtalen om ansvarlig publisering.

Og kanskje kan de inspirere andre forskere til å være føre var.

Er du interessert i dette temaet? Bli med på filmvisning med De nasjonale forskningsetiske komiteene (FEK) på Cinemateket i Oslo 29. januar. Vi viser filmen «Until the end of the world» av Wim Wenders, og i forkant diskuterer vi forskningsetiske spørsmål filmen tar opp med FEK-direktør Helene Ingierd.

Les mer på vår Facebook-side: https://www.facebook.com/events/3705496269491593/