AI kan redan ge etiska råd som många uppfattar som användbara, genomtänkta och ibland till och med bättre än mänskliga råd. Men den viktigaste frågan är inte bara om AI kan resonera kring etik. Den viktigaste frågan är hur vi människor påverkas när vi låter AI hjälpa oss med moraliska och etiska bedömningar.
När AI används för att ge färdiga svar på svåra dilemman kan det kännas effektivt, klokt och tryggt. Samtidigt finns en risk att vi tränar vår egen etiska omdömesförmåga mindre. Etiskt tänkande fungerar på många sätt som en muskel: den utvecklas när vi själva brottas med svåra frågor, väger olika perspektiv mot varandra och tvingas formulera vad vi faktiskt tycker.
AI kan därför vara både en mycket användbar samtalspartner i etiska frågor och något som, om vi använder den fel, gör oss sämre på att själva resonera etiskt.
Vad innebär det att använda AI för etiska råd?
Att använda AI för etiska råd innebär att man låter en AI-modell hjälpa till att resonera kring svåra frågor om rätt och fel, ansvar, konsekvenser och mänskliga värden. Det kan handla om att få stöd i ett konkret dilemma, förstå olika perspektiv eller formulera möjliga handlingsalternativ.
AI kan till exempel användas för att svara på frågor som:
- Vad är ett rimligt sätt att agera i en svår situation?
- Vilka etiska perspektiv finns i den här frågan?
- Hur kan olika personer påverkas av ett beslut?
- Vilka risker finns med ett visst handlingsalternativ?
- Hur kan jag tänka mer nyanserat kring ett moraliskt dilemma?
Det viktiga är att skilja mellan att använda AI som stöd för reflektion och att låta AI leverera ett färdigt facit. Den första användningen kan hjälpa oss att tänka bättre. Den andra kan göra att vi tänker mindre själva.
Är AI bra på etiska resonemang?
AI kan vara mycket bra på att formulera etiska resonemang som människor uppfattar som användbara. I en studie där etiska råd från en människa jämfördes med råd skrivna av GPT-4 bedömdes svaren som ungefär lika användbara. När deltagarna tvingades välja mellan svaren valdes AI-svaren i många fall framför de mänskliga svaren.
Det betyder inte att AI nödvändigtvis har ett eget moraliskt omdöme på samma sätt som en människa. Men det visar att AI kan formulera råd, resonemang och perspektiv som människor upplever som relevanta och värdefulla i svåra etiska situationer.
Det här förändrar diskussionen om AI och etik. Frågan är inte längre bara om AI kan ge rimliga etiska råd. Frågan blir också vad som händer när råden är tillräckligt bra för att vi börjar använda dem i stället för att tänka själva.
Vad visade studien om AI och etiska råd?
Studien jämförde etiska resonemang skrivna av en mänsklig etiker med resonemang skrivna av GPT-4. Deltagarna fick bedöma råd kopplade till svåra etiska dilemman. De visste inte vilka svar som var skrivna av en människa och vilka som var skrivna av AI.
I studien ingick flera olika grupper:
- en grupp från allmänheten
- personer med MBA-bakgrund
- en expertpanel med religiösa företrädare och akademiker
De etiska dilemman som användes byggde på frågor av den typ som behandlas i etiska rådgivningssammanhang, där en person beskriver ett problem och får ett resonerande svar. Vissa svar var skrivna av en erfaren mänsklig etiker. Andra var skrivna av GPT-4 med en begränsad instruktion om stil och sammanhang.
Resultatet var att AI-svaren och de mänskliga svaren bedömdes som ungefär lika användbara. När deltagarna behövde välja ett svar framför ett annat vann AI-svaren i flera fall. Bland deltagare från allmänheten valdes AI-råden i omkring 60 procent av fallen.
Det mest intressanta med resultatet är inte att AI alltid har rätt. Det mest intressanta är att AI kan producera etiska resonemang som människor uppfattar som tillräckligt bra för att lita på, uppskatta och ibland föredra.
Vad betyder “upplevd användbarhet” i etiska AI-råd?
Upplevd användbarhet betyder hur användbart ett råd känns för personen som tar emot det i stunden. Det handlar alltså om den direkta känslan av att svaret är hjälpsamt, rimligt och relevant.
Det är viktigt att förstå vad en sådan bedömning mäter och inte mäter. När människor tycker att ett AI-råd känns användbart betyder det inte automatiskt att rådet leder till bättre beslut över tid. Det betyder inte heller att personen som tar emot rådet utvecklar sin egen moraliska förmåga.
Ett svar kan upplevas som klokt, balanserat och användbart utan att det nödvändigtvis gör mottagaren bättre på att själv tänka etiskt nästa gång.
Skillnaden är central:
- Ett användbart råd kan hjälpa dig i en situation här och nu.
- Etisk utveckling handlar om att du själv blir bättre på att resonera, väga perspektiv och fatta genomtänkta beslut.
AI kan alltså ge stöd i ett etiskt dilemma utan att automatiskt stärka din egen etiska omdömesförmåga.
Varför kan AI-råd kännas så övertygande?
AI-råd kan kännas övertygande eftersom de ofta är tydligt formulerade, balanserade och strukturerade. Ett AI-genererat svar kan väga flera perspektiv mot varandra, använda ett lugnt språk och avsluta med en rimlig slutsats. Det gör att svaret kan upplevas som genomtänkt även i komplexa frågor.
När en människa står inför ett svårt dilemma kan det vara lockande att få ett snabbt svar som ger ordning åt situationen. AI kan då fungera som någon som sammanfattar problemet, pekar ut viktiga hänsyn och föreslår ett möjligt agerande.
Problemet är inte att detta är värdelöst. Tvärtom kan det vara mycket användbart. Problemet uppstår om det ersätter det egna tänkandet helt.
Vad är risken med att låta AI ge etiska svar?
Den största risken med att låta AI ge etiska svar är inte att AI alltid ger dåliga råd. Risken är snarare att AI ger så bra och bekväma råd att människor slutar öva sin egen etiska bedömningsförmåga.
Etiska resonemang utvecklas genom motstånd. När vi behöver formulera vad vi tycker, lyssna på invändningar, se frågan från en annan persons perspektiv och ompröva våra första slutsatser tränar vi vårt moraliska omdöme.
Om vi i stället får ett färdigt svar direkt minskar den träningen. Vi kan fortfarande fatta ett beslut, men vi kanske inte utvecklar förmågan att fatta bättre beslut i framtiden.
Det innebär att AI kan bli ett praktiskt stöd samtidigt som den riskerar att göra oss mer passiva i vårt eget tänkande.
Varför beskrivs etiskt omdöme som en muskel?
Etiskt omdöme kan beskrivas som en muskel eftersom det behöver tränas för att utvecklas. Precis som fysisk styrka byggs genom motstånd byggs moralisk och etisk förmåga genom att vi själva arbetar med svåra frågor.
Det är när vi tvekar, testar argument, möter andra perspektiv och ibland ändrar oss som vi blir bättre på att göra etiska bedömningar. Om någon annan alltid ger oss svaret slipper vi motståndet, men vi går också miste om träningen.
Att resonera etiskt handlar därför inte bara om att komma fram till ett svar. Det handlar också om processen som leder fram till svaret.
Den processen kan innehålla frågor som:
- Vilka personer påverkas av beslutet?
- Vems perspektiv har jag glömt?
- Vilka värden står mot varandra?
- Vad händer om alla skulle agera på samma sätt?
- Finns det en skillnad mellan vad som är enkelt och vad som är rätt?
- Vilka konsekvenser kan uppstå på längre sikt?
När AI bara används för att ge ett snabbt slutresultat riskerar vi att hoppa över just den delen som utvecklar vår egen förmåga.
Kan AI vara en bra etiker och ändå göra oss till sämre etiker?
Ja, AI kan vara bra på att formulera etiska resonemang och samtidigt bidra till att människor tränar mindre på att själva tänka etiskt. Det är en av de viktigaste poängerna i relationen mellan AI och moralisk bedömning.
Det finns alltså ingen enkel motsättning mellan “AI är dålig på etik” och “AI är bra på etik”. En mer relevant fråga är: vad händer med oss när AI är tillräckligt bra?
Om AI vore uppenbart dålig på etiska frågor skulle få vilja luta sig mot den. Men om AI är tydlig, nyanserad och övertygande blir det lättare att använda den som genväg. Då kan problemet bli att vi överlåter för mycket av reflektionen till systemet.
AI:s förmåga är därför både en möjlighet och en risk. Den kan hjälpa oss att se fler perspektiv, men den kan också göra att vi slutar söka perspektiven själva.
Vad är skillnaden mellan etiskt stöd och etiskt facit?
Etiskt stöd hjälper dig att tänka. Ett etiskt facit ersätter ditt tänkande. Skillnaden ligger i hur AI används.
När AI används som stöd kan den bidra med frågor, perspektiv och möjliga konsekvenser. Då hjälper den dig att bygga ett eget resonemang. När AI används som facit ber du den i praktiken att avgöra vad du ska tycka eller göra.
Ett klokt sätt att använda AI i etiska frågor är att låta den utmana, bredda och fördjupa resonemanget snarare än att leverera slutgiltiga svar.
AI som etiskt stöd kan hjälpa dig att:
- identifiera relevanta perspektiv
- se möjliga konsekvenser
- förstå hur andra kan uppleva situationen
- formulera argument för och emot olika alternativ
- upptäcka blinda fläckar i ditt eget resonemang
- förbereda dig för ett samtal med andra människor
AI som etiskt facit kan däremot leda till att du:
- slutar formulera din egen ståndpunkt
- inte prövar dina argument mot andra
- undviker obekväma delar av dilemmat
- fattar beslut utan tillräcklig förankring
- tränar mindre på egen moralisk bedömning
Hur bör man använda AI i svåra etiska frågor?
AI bör användas som ett verktyg för reflektion, inte som en ersättning för eget ansvar. Ett bra sätt är att först formulera sin egen syn på dilemmat och därefter be AI hjälpa till att granska, komplettera och utmana resonemanget.
I stället för att fråga “Vad ska jag göra?” kan du fråga “Vilka perspektiv saknas i mitt resonemang?” eller “Hur skulle en kund, kollega eller annan berörd person kunna se på den här situationen?”
Det gör att AI används för att förstärka den mänskliga bedömningen, inte ersätta den.
Bättre frågor att ställa till AI i etiska dilemman
- Vilka etiska perspektiv finns i den här situationen?
- Vilka personer eller grupper kan påverkas av beslutet?
- Vilka argument talar för respektive emot mitt förslag?
- Hur skulle detta kunna uppfattas av någon som inte delar min utgångspunkt?
- Vilka långsiktiga konsekvenser bör jag väga in?
- Vilka risker finns med att fatta beslutet för snabbt?
- Vilka frågor bör jag diskutera med andra innan jag går vidare?
- Kan du ge mig kundens perspektiv på detta?
- Kan du ge mig en kritisk invändning mot mitt resonemang?
- Kan du hjälpa mig att se om jag missar något viktigt?
Sämre frågor att ställa till AI i etiska dilemman
- Vad är rätt svar?
- Vad ska jag göra?
- Kan du avgöra detta åt mig?
- Ge mig den bästa moraliska lösningen.
- Skriv ett färdigt beslut som jag kan följa.
De sämre frågorna behöver inte alltid vara fel, men de riskerar att göra dig passiv. De bättre frågorna håller i gång din egen etiska muskel.
Varför är samtal med andra viktigt i etiska frågor?
Samtal med andra är viktigt eftersom etiska frågor sällan blir bättre av att hanteras helt privat och utan invändningar. När andra människor får höra, ifrågasätta och komplettera våra resonemang blir det svårare att fastna i ett ensidigt perspektiv.
Etiska dilemman handlar ofta om relationer, ansvar och konsekvenser för andra människor. Därför blir det problematiskt om hela bedömningen sker tyst mellan en person och en AI-assistent. Ingen annan ser frågan, ingen invänder och ingen bidrar med ett annat perspektiv.
Det som tidigare kunde vara en öppen diskussion riskerar då att bli en privat beställning av ett svar.
När etiska frågor diskuteras tillsammans kan flera saker hända:
- nya perspektiv kommer fram
- svaga argument upptäcks
- förhastade slutsatser bromsas
- ansvar blir tydligare
- beslut förankras bättre
- människor tränar sitt omdöme tillsammans
AI kan vara ett bra stöd inför ett sådant samtal, men bör inte alltid ersätta samtalet.
Vad händer när etiska bedömningar flyttar in i privata AI-assistenter?
När etiska bedömningar flyttar in i privata AI-assistenter förändras dynamiken. I stället för att människor läser, diskuterar och prövar dilemman tillsammans kan varje person få ett eget svar i tysthet.
Det kan vara praktiskt. Det kan också vara riskabelt.
En privat AI-assistent kan anpassa sig till det dilemma användaren själv väljer att ta upp. Det innebär att personen kanske bara söker råd i frågor som direkt angår den egna situationen. Man möter färre dilemman utanför den egna erfarenheten och får färre tillfällen att öva på att förstå sådant som inte omedelbart berör en själv.
Dessutom kan det bli mindre diskussion. Om AI ger ett svar som känns rimligt finns en risk att användaren nöjer sig där. Inga kollegor, vänner eller andra berörda personer får möjlighet att säga: “Har du tänkt på det här?”
Det kan göra etiska beslut snabbare, men inte nödvändigtvis klokare över tid.
Är AI användbart i etik även om det finns risker?
Ja, AI kan vara mycket användbart i etiska frågor även om det finns risker. Poängen är inte att undvika AI helt, utan att använda AI på ett sätt som stärker mänskligt omdöme i stället för att ersätta det.
AI kan hjälpa till att strukturera svåra frågor, identifiera perspektiv och formulera möjliga konsekvenser. Den kan fungera som ett bollplank när man själv har kört fast. Den kan också hjälpa till att göra ett dilemma tydligare innan man tar det vidare till andra.
Men AI bör inte bli den enda rösten i rummet. Särskilt inte när frågan påverkar andra människor, berör ansvar eller kräver förtroende.
En sund princip är därför: använd AI för att tänka fler tankar, inte för att slippa tänka.
Hur kan AI stärka etiskt tänkande?
AI kan stärka etiskt tänkande om den används för att skapa fler perspektiv, bättre frågor och tydligare resonemang. Det kräver att användaren själv är aktiv i processen.
Ett bra arbetssätt är att först skriva ned sin egen bedömning. Därefter kan AI användas för att undersöka om resonemanget håller.
Exempel på ett bra arbetssätt
- Beskriv dilemmat med egna ord.
- Formulera vad du spontant tycker är rätt att göra.
- Lista vilka personer som påverkas.
- Be AI visa andra möjliga perspektiv.
- Be AI identifiera svagheter i ditt resonemang.
- Fundera på om din slutsats behöver ändras.
- Diskutera frågan med andra människor om beslutet är viktigt.
- Fatta beslutet själv och ta ansvar för det.
På det sättet blir AI ett träningsredskap för den etiska muskeln. Den lyfter inte vikten åt dig, men den kan hjälpa dig att träna bättre.
Hur kan AI försvaga etiskt tänkande?
AI kan försvaga etiskt tänkande om den används som en genväg till färdiga svar. När människor vänjer sig vid att få tydliga och välformulerade rekommendationer direkt kan det egna motståndet minska.
Den som alltid beställer ett svar behöver inte själv öva på att:
- stå ut med osäkerhet
- formulera sin egen moraliska hållning
- hantera invändningar
- väga kortsiktiga och långsiktiga konsekvenser
- se frågan från någon annans perspektiv
- ta ansvar för en svår avvägning
Det betyder inte att AI gör människor sämre per automatik. Det betyder att användningssättet spelar stor roll.
Vilken roll bör människan ha när AI ger etiska råd?
Människan bör alltid ha den ansvariga rollen när AI används för etiska råd. AI kan bidra med analys, struktur och perspektiv, men den bör inte ta över det moraliska ansvaret.
Det är människan som behöver förstå situationen, väga relationer, bedöma konsekvenser och stå för beslutet. AI kan hjälpa till, men den lever inte med följderna på samma sätt som människor gör.
Det är därför viktigt att inte blanda ihop ett välformulerat svar med ett ansvarstagande beslut.
Vad är ett klokt förhållningssätt till AI och etik?
Ett klokt förhållningssätt till AI och etik är att se AI som ett stöd för reflektion, inte som en moralisk auktoritet. AI kan vara en samtalspartner som hjälper dig att tänka bredare, men den bör inte bli den som slutgiltigt avgör vad som är rätt.
Det innebär att AI kan användas för att:
- förtydliga dilemmat
- identifiera berörda parter
- visa olika sätt att resonera
- ställa kritiska frågor
- hjälpa dig att formulera din egen ståndpunkt
- förbereda ett samtal med andra
Men AI bör inte användas för att:
- ta över det moraliska ansvaret
- ersätta samtal med berörda människor
- göra svåra beslut osynliga
- leverera ett färdigt facit utan reflektion
- avsluta en fråga som egentligen behöver diskuteras
Hur kan företag använda AI etiskt i beslutsfattande?
Företag kan använda AI etiskt i beslutsfattande genom att låta AI bidra med analys och perspektiv, samtidigt som människor behåller ansvar, dialog och omdöme. AI bör inte bli en dold beslutsfattare i frågor som påverkar människor, relationer eller förtroende.
I en organisation kan AI vara värdefullt när det används för att förbereda svåra diskussioner. Den kan hjälpa till att synliggöra konsekvenser, formulera alternativ och identifiera perspektiv som annars hade missats.
Men om AI används för att snabbt få ett beslut utan mänsklig diskussion kan något viktigt gå förlorat. Etiska frågor i arbetslivet behöver ofta mer än ett logiskt svar. De behöver förankring, transparens och ansvar.
Praktiska principer för företag
- Använd AI för att bredda resonemanget, inte för att fatta beslut i tysthet.
- Dokumentera vilka antaganden som ligger bakom viktiga beslut.
- Diskutera etiska frågor med människor som påverkas av beslutet.
- Be AI om motargument, inte bara bekräftelse.
- Skilj mellan effektivitet och gott omdöme.
- Låt inte AI ersätta ansvar i ledarskap, kundrelationer eller personalfrågor.
Vilka frågor bör man ställa innan man följer ett AI-råd?
Innan man följer ett AI-råd i en etisk fråga bör man granska både rådet och sin egen reaktion på det. Ett råd som känns bra i stunden behöver inte vara tillräckligt genomtänkt.
Viktiga kontrollfrågor är:
- Varför tycker jag att detta råd känns bra?
- Bekräftar rådet bara det jag redan ville göra?
- Vilka perspektiv saknas?
- Vem påverkas mest av beslutet?
- Har någon annan fått möjlighet att invända?
- Är detta ett beslut som bör diskuteras öppet?
- Hjälper AI mig att tänka bättre, eller tänker den åt mig?
- Tar jag själv ansvar för beslutet?
Om svaret på flera av frågorna är oklart bör AI-rådet behandlas som ett underlag, inte som ett beslut.
Vad är den viktigaste lärdomen om AI och etik?
Den viktigaste lärdomen är att AI:s styrka i etiska resonemang också kan vara dess risk. Om AI vore dålig på etik skulle människor inte luta sig mot den. Men när AI ger svar som upplevs som kloka, balanserade och användbara blir det frestande att låta den göra mer av arbetet.
Därför behöver vi inte bara fråga om AI kan ge bra etiska råd. Vi behöver fråga hur vi använder råden.
AI kan hjälpa oss att tänka mer nyanserat, men den kan också göra att vi tränar mindre på att tänka själva. Skillnaden avgörs av om vi använder AI som ett reflektionsstöd eller som ett färdigt facit.
Sammanfattning: AI som etiskt stöd
AI kan ge etiska råd som människor uppfattar som användbara. I vissa fall kan AI-genererade råd till och med föredras framför mänskliga råd. Det visar att AI redan kan vara en kraftfull samtalspartner i svåra frågor.
Men etiskt tänkande handlar inte bara om att få ett bra svar. Det handlar om att själv utveckla förmågan att resonera, väga perspektiv och ta ansvar. Den förmågan tränas genom att vi brottas med svåra frågor, inte genom att vi alltid får färdiga svar.
Den bästa användningen av AI i etiska frågor är därför inte att fråga efter facit. Den bästa användningen är att låta AI hjälpa oss att se fler perspektiv, formulera bättre frågor och stärka vårt eget omdöme.
Använd AI för att tänka bättre – inte för att slippa tänka.
Vanliga frågor om AI och etiska råd
Kan AI ge bra etiska råd?
Ja, AI kan ge etiska råd som människor uppfattar som användbara, nyanserade och relevanta. AI kan formulera resonemang kring svåra dilemman och väga olika perspektiv mot varandra. Däremot bör AI-råd ses som stöd för mänsklig reflektion, inte som slutgiltiga facit.
Är AI bättre än människor på etik?
AI kan i vissa situationer formulera etiska råd som uppfattas som lika användbara eller mer användbara än mänskliga råd. Men det betyder inte att AI har mänskligt omdöme eller moraliskt ansvar. Det betyder framför allt att AI kan skapa svar som människor upplever som hjälpsamma.
Vad är risken med att använda AI för etiska beslut?
Risken är att människor börjar använda AI som en genväg till färdiga svar och därmed tränar mindre på att själva resonera etiskt. Etiskt omdöme utvecklas när vi brottas med svåra frågor, möter invändningar och väger olika perspektiv.
Hur bör man använda AI i etiska frågor?
AI bör användas som ett bollplank. Det är bättre att be AI visa olika perspektiv, identifiera svagheter i ett resonemang eller formulera motargument än att be AI avgöra vad som är rätt. På så sätt stärker AI den egna bedömningen i stället för att ersätta den.
Kan AI göra oss sämre på etik?
AI kan bidra till att vi tränar mindre på etisk reflektion om vi låter den leverera färdiga svar utan egen bearbetning. Den kan alltså vara bra på att ge etiska resonemang och samtidigt riskera att göra oss mer passiva i vårt eget moraliska tänkande.
Varför är samtal viktigt när man använder AI för etik?
Samtal är viktigt eftersom andra människor kan bidra med perspektiv, invändningar och erfarenheter som annars saknas. Om etiska beslut bara sker mellan en person och en AI-assistent riskerar viktiga frågor att aldrig prövas öppet.
Vad betyder det att den etiska muskeln behöver tränas?
Det betyder att vår förmåga att fatta etiska beslut utvecklas genom övning. När vi själva resonerar, tvekar, omprövar och diskuterar svåra frågor blir vi bättre på att hantera framtida dilemman. Om AI alltid ger oss svaret får vi mindre träning.
Ska man undvika AI i etiska frågor?
Nej, AI behöver inte undvikas. Den kan vara ett värdefullt stöd. Men den bör användas med eftertanke. AI är bäst när den hjälper människor att resonera bredare och djupare, inte när den ersätter mänskligt ansvar och omdöme.
Vad är skillnaden mellan att få hjälp av AI och att låta AI bestämma?
Att få hjälp av AI innebär att använda den för att förstå fler perspektiv och utveckla sitt eget resonemang. Att låta AI bestämma innebär att man tar emot ett färdigt svar utan att själv pröva frågan ordentligt. Den första användningen kan stärka omdömet. Den andra kan försvaga det.
Vilken är den bästa principen för AI och etik?
Den bästa principen är att använda AI för att tänka bättre, inte för att slippa tänka. AI kan bidra med struktur, perspektiv och motargument, men människan bör behålla ansvaret för den etiska bedömningen.
Denna blogg baseras på podden 7 minuter AI. >>Lyssna på podden. Och läs gärna om hur vi på JSC arbetar med applicerbar AI.