Vi lever i en tid där artificiell intelligens (AI) blir allt mer involverad i beslut som påverkar våra liv. Det väcker en grundläggande etisk fråga: vem bär ansvaret när AI fattar beslut eller begår misstag? Redan för några år sedan formulerades dilemmat av forskare som undrade om ansvaret ligger hos programmeraren, tillverkaren, användaren – eller rentav hos maskinen själv. Frågan är komplex och svaret är långt ifrån självklart. I den här artikeln utforskar vi olika perspektiv på ansvarsfördelningen i en artificiell värld, och tittar på etiska dilemman inom bland annat rättssystemet, sjukvården och autonoma fordon. Vi håller tonen nyfiken, sökande och jämförande – precis som sig bör när tekniken ständigt utmanar våra moraliska kompassen.
Att avgöra ansvar när en AI gör fel visar sig vara svårt och situationsberoende. Ibland kan det tyckas som att felet ligger helt hos AI-systemet självt, medan det i andra fall tydligt kan spåras till mänskliga aktörer. Ofta krävs det juridisk expertis och en bedömning från fall till fall för att utreda skuldfrågan. Här är några perspektiv på vem som kan anses bära ansvaret:
-
Programmerare och utvecklare: De som skapar och tränar AI-systemet har präglat dess beteende genom kod och data. En AI lär sig av den data den matas med; om den datan är bristfällig eller partisk så kommer även AI:ns beslut bli felaktiga eller skeva forskning.se. Till sist återspeglar en AI många av de antaganden och värderingar som dess skapare (medvetet eller omedvetet) byggt in. Ett känt exempel är när Amazon tvingades skrota ett AI-verktyg för rekrytering som visade sig diskriminera kvinnliga sökande – ett bias som uppstod från historiska data företaget använt för att träna systemet. Bör ansvaret då ligga på utvecklarna som inte förutsåg dessa konsekvenser?
-
Användare och operatörer: Även den som använder eller förlitar sig på ett AI-system har ett ansvar. Tekniken må vara avancerad, men mänskliga användare förväntas fortfarande vara ”gatekeepers” som verifierar och övervakar AI:ns rekommendationer. Nyligen fick en advokat i New York lära sig detta den hårda vägen – han bötfälldes med 5 000 dollar efter att okritiskt ha lämnat in en inlaga där ChatGPT hittat på rättsfall som inte existerade abc.net.au. Domaren betonade i sitt utlåtande att det inte är fel i sig att använda AI-verktyg, men att ”befintliga regler ålägger advokater en kontrollfunktion för att säkerställa att deras inlagor är korrekta” abc.net.au. Med andra ord: använder man AI i professionella sammanhang måste man också bära ansvaret för resultatet och eventuella fel.
-
Företag och tillverkare: Företagen bakom AI-system – de som tillhandahåller tjänsten eller produkten – pekas ofta ut som de ytterst ansvariga. Om en självkörande bil eller ett medicinskt diagnosverktyg gör fel, ligger det nära till hands att hålla företaget som utvecklat systemet ansvarigt, likt produktansvar för en defekt vara. Lagstiftningen är på väg i den riktningen: EU har föreslagit nya regler som tydliggör att tillverkare fortsatt är ansvariga för skada även om den beror på att en AI har “lärt sig själv” något oväntat efter att produkten släppts nortonrosefulbright.com. Konsumenter ska kunna förvänta sig att AI-system är designade för att undvika farligt beteende, och om ett system genom självlärande utvecklar ett defekt beteende som skadar någon, ska tillverkaren kunna hållas ansvarig nortonrosefulbright.com. Detta perspektiv sätter alltså ansvaret hos företagen som har kontroll över design, kvalitetssäkring och utsläppande av AI-produkter på marknaden.
-
AI:n själv: Kan en AI betraktas som en juridisk eller moralisk aktör som bär ansvar för sina handlingar? Idén kan låta futuristisk, men har faktiskt diskuterats. År 2017 gick EU-parlamentets juridiska utskott så långt som att föreslå att avancerade robotar skulle ges status som “elektroniska personer”, just för att kunna hållas ansvariga om de orsakade skada journals.lub.lu.se. Förslaget mötte motstånd och lades åt sidan – i grunden för att vi normalt utgår från att maskiner inte kan vara moraliskt ansvariga aktörer journals.lub.lu.se. En AI saknar medvetande och förståelse för rätt och fel, och kan därför inte straffas eller åläggas ansvar på samma sätt som en människa journals.lub.lu.se. De som argumenterar emot “AI-ansvar” menar att ansvarsutkrävande alltid måste spåras tillbaka till mänskliga beslut: de personer eller organisationer som byggde, tränade eller använde systemet i fråga. Samtidigt finns det filosofer och futurologer som spekulerar i om framtida superintelligenser kanske skulle behöva en form av juridisk personlighet – men i dagsläget är detta mer en tankeövning än verklighet.
Teorin om ansvar blir extra laddad när vi ser på konkreta tillämpningar av AI. Här är några områden där dilemmat redan idag är tydligt och omdiskuterat:
Inom juridiken har AI börjat användas för allt från beslutsstöd i domstolar till prediktiv polisiära insatser. Ett omtalat exempel är riskbedömningsverktyg som ska uppskatta sannolikheten för återfall i brott. I USA har systemet COMPAS använts av domstolar för att hjälpa till vid borgen och domslut – men en granskning visade att dess prognoser var systematiskt partiska mot svarta personer propublica.org. Vem bär ansvaret om en individ får hårdare straff på grund av en algoritms bias? Domaren som lutade sig mot verktyget? Företaget som utvecklat algoritmen? Eller lagstiftaren som infört den i systemet? Problemet här är inte enbart vem som ansvarar, utan även hur man ska upptäcka och korrigera orättvisor inbyggda i AI. Kritik har riktats mot att sådana system kan underminera rättssäkerheten om de används okritiskt – till exempel om en domare litar blint på en riskpoäng utan att förstå hur den tagits fram. Transparens och granskningsmöjlighet blir avgörande: om ingen förstår algoritmens "svarta låda" blir ansvarsutkrävande närmast omöjligt. Det har ännu inte etablerats någon tydlig ansvarskedja i dessa fall, vilket gör att många ropar efter reglering och tydligare riktlinjer för algoritmisk rättvisa.
AI får en allt större roll inom vården – från diagnostik med bildigenkänning till beslutsstöd för behandlingar. Tekniken lovar högre träffsäkerhet och snabbare beslut, men ställer sjukvården inför nya etiska prövningar. Om en AI föreslår en felaktig diagnos eller behandling som skadar en patient, vem bär skulden? I dagsläget ligger det medicinska ansvaret tungt på läkare och vårdgivare; ett AI-verktyg ses som ett hjälpmedel, inte en auktoritet. Men gränsen kan suddas ut om läkare börjar lita alltför mycket på maskinens utlåtanden. Tänk ett scenario där en stressad läkare följer AI:ns rekommendation utan att ifrågasätta, varpå patienten drabbas av felbehandling. Läkaren skulle då kunna hävda att felet låg i programvaran, medan utvecklaren bakom AI:n kanske skulle svara att ”det är doktorns ansvar, för det är alltid hon som fattar det slutgiltiga beslutet” news-medical.net. För närvarande finns ingen tydlig gräns för ansvaret mellan vårdgivare, AI-utvecklare eller myndigheter i sådana fall – ett tomrum som både jurister och etiker menar måste fyllas med klara regler news-medical.net. Under tiden betonar många inom sjukvården försiktighetsprincipen: AI-system bör användas rådgivande, och människor måste stå för de avgörande besluten. Förtroendet för AI i vården bygger på att patienter och läkare vet att det finns ansvarstagande i alla led, och att det alltid går att få upprättelse om något går fel – oavsett om felet orsakades av en människa eller en maskin.
En av de mest konkreta arenorna för ansvarsfrågan är självkörande bilar. Dessa fordon fattar bokstavligen livsavgörande beslut på egen hand i trafiken. Men när en autonombil är inblandad i en olycka, vem hålls ansvarig? Den frågan är inte hypotetisk – 2018 inträffade den första kända dödsolyckan med en självkörande bil i Arizona, där Ubers testfordon körde ihjäl en fotgängare. Utredningen kom fram till ett kontroversiellt utfall: Uber som företag åtalades inte för olyckan, trots att deras programvara brustit i att reagera i tid vibilagare.se. Istället valde åklagaren att åtala säkerhetsföraren (människan som satt bakom ratten) för vållande till annans död vibilagare.se. Motiveringen var att föraren hade det yttersta ansvaret att vara uppmärksam och ingripa vid fara – trots att bilen var i autonomt läge. Samtidigt riktade USA:s trafiksäkerhetsmyndighet skarp kritik mot Uber för tekniska brister i systemet vibilagare.se. Utfallet blottlägger ett etiskt dilemma: är det rimligt att en enskild anställd (eller användare) fungerar som något av en ”moralisk krockkudde” som tar skulden, när det kanske var företagets system och beslut som egentligen brast? Fallet har triggat diskussioner om hur ansvar bör fördelas i framtidens trafik. Vissa argumenterar att tillverkare och operatörer måste bära huvudansvaret genom strikta produktansvarsregler, annars kommer inte allmänheten våga lita på självkörande teknik. Andra menar att vi alltid kommer behöva en människa i loopen – om inte annat, så för att ha någon att ställa till svars. Klart är att juridiken släpar efter tekniken: lagstiftare världen över brottas just nu med hur regler ska utformas för autonoma fordon, så att innovationsfördelar kan förenas med tydliga ansvarsnormer när olyckan är framme.
Redaktionell kommentar: Ansvaret i en artificiell värld är sällan svart eller vitt – oftast delas det av flera aktörer. AI-system må vara nya och komplexa, men gamla principer om ansvar gäller fortfarande: den som designar, säljer eller använder en potentiellt skadlig teknik måste också vara beredd att stå till svars för konsekvenserna. Samtidigt behöver vårt samhälle anpassa både lagar och etik för att möta AI-revolutionen. Vi anser att en balans är nödvändig, där innovation uppmuntras men ansvarslöshet aldrig tolereras. I praktiken innebär det att människor – ingenjörer, företagsledare, professionella användare – alltid måste ha en fot på bromspedalen när tekniken rusar framåt. Först då kan vi med förtroende omfamna alla fantastiska möjligheter som AI för med sig, utan att tumma på de etiska värderingar som definierar vårt samhälle.
Johan Hägerström
Chefredaktör och skribent för Artificiell Existens.
