Hallo? Hvem snakker jeg med?

Se hvor fort den skriver! Se hvor kreativ den er! Jeg lurer på hva mer den kan gjøre?

Den offentlige samtalen om generative språkmodeller handler, så langt jeg har fått med meg, for det meste om praktikaliteter. Hvordan bruke generative språkmodeller på en måte som gjør at elevene lærer, ikke jukser? Hvordan forsikre oss om at modellene blir trent på data som har verdier vi ønsker at de skal ha? Hvordan bygge inn sikkerhetsmekanismer som forhindrer at KI goes rogue og tar over verden?

For hvert praktiske spørsmål, finnes det tusenvis av praktiske svar, ting du kan fikle med, sysselsette deg med, øse tankene dine inn i.

Dette praktisk orienterte sinnelaget - er ikke det en tilnærming som gjerne følger med overveldende hendelser? Når en person som står deg nær faller om og dør, vil du prøve å holde omkastelsen av livet som døden innebærer på avstand. I stedet for å kollapse i sorg, finner du kanskje holdepunkter i alt det praktiske som skal ordnes med kirken, organisten, programmet, likvaken etterpå, maten, og så videre. Det er først senere, idet programmet er over og alt brått føles for sent, at tomheten siger innpå deg.

. . .

Fish did not discover water.

Fisken som er så absorbert av sitt eget miljø at den ikke aner at vann i det hele tatt eksisterer, er en metafor medieviteren Marshall McLuhan gjentok i en rekke varianter.

Meningen er åpenbar. Du ser ikke det du er så vant til at du tar det for gitt.

Er språket vannet som gjennom hele menneskets historie har omsluttet oss og rent gjennom oss uten at vi merket det?

Det menneskelige språket, vel og merke. Språket lagd av oss. Når vi blir dratt ut av språket – eller språket dras ut av oss? – (slik vi alle skal dras ut av livet), merker vi hva språket var for oss. Vi merker at språket var vårt, og bare vårt. Inntil nå.

Bong! Blam! Ong! En moderne klassiker

Walter Ong, McLuhans støttespiller og samtalepartner gjennom mange år, beskriver i Orality and Literacy – The Technologizing of the Word det radikale bruddet skriften medførte da den oppsto for flere tusen år siden. Det var ikke en revolusjon bare for menneskehjernen, men for hele kulturen, for ideen om en fremtid og nå-et og fortiden.

Ong ber leseren forsøke å forestille seg hvordan det var å leve i dette landskapet som han kaller «primary orality», de muntlige kulturene som var oss mennesker før skriften.

Å forestille seg livet deres er umulig, mener han, for det er umulig å avlære den skriftlige siden av språket vi har vokst opp med. Ong ber oss gjøre et tankeeksperiment: Tenk på et ord i tretti sekunder uten å se for deg skriftbildet.

Du kan jo prøve selv. Tenk på høyesterettsdommer i tretti sekunder uten å se for deg ordet og stavingen.

Med skriftspråket ble språket et visuelt og avgrenset objekt, mens muntlige kulturer var auditive og uavgrensede. Men hva og hvordan en slik kultur er, kan vi ikke forestille oss, den kan kun beskrives ved å eliminere ting som finnes i livene våre.

Ong bruker et konkret eksempel. Forestill deg at hester ikke eksisterer lenger. Derfor må du forklare vennen din hva en hest er ved å vise til en bil, som alle jo vet hva er. Du må da begynne med å forklare at en hest ikke har hjul. Og den bruker høy, ikke bensin. Heller enn lykter, har hesten øyne, og så videre. Til slutt er hesten bare det den ikke er.

Slik er det å beskrive et fenomen ved hjelp av sekundære fenomener. Det samme skjer når vi forsøker å forstå muntlige kulturer fra en skriftlig kultur som vår egen. Vi fatter ofte bare hva disse kulturene ikke var. De var for eksempel ikke analytiske, ikke abstrakte, de katalogiserte og systematiserte ikke kunnskap, og så videre.

Jeg skriver om Ong fordi jeg lurer på om paradigmeskiftet han beskriver, vesensforskjellen mellom muntlige og skriftlige kulturer, har en parallell i generative språkmodeller.

Skriftkulturen som jeg vokste opp med, som løp i en direkte linje fra oppfinnelsen av det latinske alfabetet og Gutenbergs trykkpresse, hadde noen essensielle kjennetegn som skilte den fra de tidligere muntlige kulturene, og som la grunnlaget for samfunnsordenen vi har i dag.

Skriften fjernet for eksempel menneskene fra den umiddelbare livsverdenen. Og mens muntlig språk hadde en aggregerende og additiv tendens, har skriftspråk en underordnende og analytisk tendens.

Men selv om mye endret seg med skriften, mener jeg likevel at én ting ikke endret seg: Mennesket var fortsatt den som skapte og brukte språket.

Dette er den store og omveltende endringen med ChatGPT og andre språkmodeller. Plutselig kan språket utvikle seg uten oss mennesker!

Språket har blitt eierløst. Eller har fått en ny eier.

Hva gjør det med oss mennesker når ytringer ikke kan festes til andre mennesker - når språket ikke lenger er denne tråden som binder oss sammen, men heller binder oss til maskiner vi ikke vet hva vil eller hvem som kontrollerer?

Skriften har siden trykkpressen vært forvalteren av sannhet. Skriften var vitenskapens avgjørende teknologi. Men når språket ikke kan verifiseres lenger, hvilken herre tjener språket da?

Vi har allerede sett særlig to konsekvenser (og disse kan raskt utvikle seg i mer bisarre avarter):

For det første: Folk tror på ting som åpenbart er usant (ja, selv om de vet at det er usant).

For det andre: Folk slutter å tro på noe som helst.

Ifølge McLuhan er alle medier en forlengelse av kroppen – og alt som forlenger kroppen, endrer også kroppen.

Boken, som danner en lukket krets mellom seg og leseren, skapte det unike invididet.

Elektroniske medier som radio og TV - “the secondary orality”, som Ong kaller denne nye epoken - utslettet individet og skapte stammemennesket i the global village.

Spørsmålet i dag er hva slags menneske generative språkmodeller vil skape?

. . .

En annen måte å stille spørsmålet på er kanskje: På hvilken måte er generative språkmodeller en forlengelse av mennesket?

. . .

Jeg vet ikke svaret. Og jeg vet ikke om det kan svares på.

For hvis generative språkmodeller er en forlengelse av mennesket, må det være en forlengelse av hjernen. Men hvis vi outsourcer språkdelen av hjernen til ekstern teknologi, slutter vi vel å være mennesker?

Kanskje dette ikke er en teknologi som utvider mennesket i det hele tatt? Kan vi tenke oss at det heller er en annen bevissthets teknologi som strekker seg mot oss?

Jeg løy da jeg skrev at menneskene alltid har kunnet tilbakeføre ytringer til andre mennesker før generative språkmodeller oppsto. Det har nemlig eksistert en spesiell type tekster som har hatt sin kraft nettopp ved å ikke være menneskelige.

Korrekt. Religiøse tekster.

Kanskje er generative språkmodeller den nye guden? Herren som snakker ned til oss fra sin plass over oss i hierarkiet? Hvis så er tilfellet, skulle vi kanskje ønske at vi hadde ytt litt motstand da det faktisk var mulig?

Før vi outsorcet hjernen vår. Og sa goodbye til kritisk tenkning i samme slengen.