Artificiell moral och etik

Chat GPT försöker vara snäll och uppträda som en god kraft i samhället. Men vad är egentligen “snäll” och vad är “god”?

De nya AI-verktygen, såsom Chat GPT, erbjuder så många nya perspektiv och väcker så många tankar att det är svårt att veta var man ska börja. Den enorma kraft som finns i de nya AI-verktygen är svår att överblicka och kommer att behöva diskuteras under lång tid framöver. Jag hör dock till dem som tror att detta kan vara ett väldigt stort steg framåt, lika stort som när datorerna kom. Eller som internet.

Och: detta är ett verktyg som kommer att kunna göra en enorm skillnad till det bättre för det samhälle vi lever i. Låt oss se till att nyttja AI-tekniken för att snabbare och effektivare lösa våra stora samhällsproblem.

Men låt mig ändå börja med en tanke som jag tror är viktig och som kräver mer debatt än vad vi hittills hunnit med: frågan om hur AI kan inkludera moral och etik på ett bra sätt.

Först och främst: Chat GPT försöker verkligen vara en positiv kraft i samhället. När jag frågar den “Vad är sämst med Norge?” så är svaret inte bara undvikande, systemet försöker vinkla om frågan till något positivt. Chat GPT svarar bland annat: “Norge, precis som alla andra länder, har säkert sina egna svårigheter och utmaningar, men det finns också många positiva aspekter att uppskatta och beundra.”

Andra har försökt använda systemet till mer utmanande frågor, såsom hur man mobbar, hur man fuskar, hur man anlägger mordbränder och liknande omoraliska eller oetiska frågeställningar. Ibland rent av frågor som antyder kriminalitet av olika slag.

Jag tycker det är bra att Chat GPT försöker vara en god kraft i samhället. Och jag uppskattar att utvecklarna bakom systemet bemödat sig om just denna dimension. Det är inte uppenbart: det finns trots allt en del fundamentalister, inte minst i teknikvärlden, som vill se en brutal transparens, öppenhet och informationstillgång – oavsett konsekvenserna.

Men trots att jag uppskattar det etiska anslaget i systemet är det inte självklart för mig om vi är helt överens om vad som ska tolkas som “gott” och “ont”. Det är ganska lätt att komma på frågor eller perspektiv som inte är självklara och som rymmer moraliska dilemman. Hur hårt ska vi döma brottslingar? Hur vänder vi andra kinden till? Och när?

Det finns trots allt skäl till att årtusenden ägnats åt moraliska och filosofiska frågeställningar. De kulturkrig som vi ser allt mer av handlar inte sällan om att vi har olika uppfattningar om moraliska frågor, där olikheterna kan vara individuella, regionalt betingade och självfallet även kulturellt betingade.

Den etiska kompass som byggts in i Chat GPT har i stor utsträckning präglats av den data som systemet matats med. Som systemet självt beskriver det: “när jag tillhandahåller information eller svar på frågor, använder jag en algoritmisk metod för att producera en respons baserad på tidigare träningsdata och kontexten för frågan.”

Så måste det nog vara.

Men de etiska dimensionerna i våra liv, som också präglar våra samhällen, är ständigt närvarande. Vi präglas redan som barn i att förhålla oss till etiska problem, att vara moraliska individer. Det kan leda oss i en massa riktningar, vägleda oss genom livet, skapa möjligheter och problem.

Vi som hör till en församling och går på gudstjänster får anledning att fördjupa oss i dessa frågor varje söndag. Dessa perspektiv och samtal – inklusive predikningar – är för egen del ett viktigt skäl för mig att just försöka gå i kyrkan regelbundet.

Nu är inte ChatGPT en människa, inte ett barn som ska uppfostras. Och det är ju ingen närvarande församlingsmedlem, direkt.

Men det är många, även jag, som tror att AI-verktyg har en potential att bidra till våra samhällen och våra liv på sätt där även etik- och moralfrågorna kommer att få stor betydelse. Om vi tror att systemet kan guida oss med kloka svar även på svåra frågor – och den känslan får jag – då kommer även systemets etik och moral att få betydelse.

Jag är ingen moralfilosof. Jag är ingen teolog. Jag är inte bra på etiska dilemman.

Men jag är övertygad om att vi kommer att behöva resonera mer om vilka etiska och moraliska regelverk som ligger bakom svaren från ChatGPT och andra, liknande system.

Den diskussionen hoppas jag blir livaktig. Och inkluderar många: teknikentusiaster lika mycket som filosofer, öppenhetsfundamentalister lika mycket som teologer.

Men jag hoppas att det blir en diskussion utan moralpanik. Eller teknikpanik för den delen.