Föreställ dig att du ber en AI-assistent få ordning på din arbetsvecka. Den sorterar mejlen, flyttar ett möte och föreslår att du avstår från ett samtal som inte verkar brådskande. Du tittar på den nya planeringen. Den ser rimlig ut. Du godkänner.
Först senare tänker du på samtalet som försvann. Det var med en kollega som har haft det svårt på jobbet. Du hade tänkt fråga hur det går. I kalendern stod bara en kort rubrik. Assistenten hade inget underlag för att förstå varför samtalet var viktigt.
Det är ett tänkt exempel. Systemet behöver inte ha gjort något tekniskt fel. Det kan ha följt instruktionen att frigöra tid. Ändå har det gjort en bedömning som du kanske inte hade velat överlåta: vilket av dina åtaganden som går att avstå från.
Du kan återställa mötet om du upptäcker ändringen i tid. Men den möjligheten hjälper bara om du granskar det som har valts bort.
Här finns en fråga om människans autonomi: vilka bedömningar accepterar vi därför att resultatet verkar vettigt och vi har annat att göra?
Att lämna över uppgifter kan förstås göra oss mer självständiga. Den som får hjälp att formulera ett brev, jämföra information eller hantera administration kan få lättare att genomföra något som annars hade blivit liggande. Vi tar redan hjälp av andra människors kunskap och omdöme. Självbestämmande kräver inte att vi gör allt själva.
Det bör gå att lämna över en uppgift utan att lämna över alla bedömningar runt den.
Att hitta en tågbiljett till en bestämd resa är ett avgränsat uppdrag. Att avgöra vilka resor du bör göra kräver andra bedömningar. En instruktion om att planera effektivt säger ganska lite om hur du värderar tiden med familjen eller möjligheten att träffa en vän.
I en etisk analys från 2024 diskuterar forskare vid Google DeepMind hur AI-assistenter kan påverka människors mål och misstolka deras värderingar. Analysen undersöker möjligheter och risker. Den mäter inte någon förlust av självbestämmande. Google DeepMinds analys av AI-assistenter.
I veckoplaneringen behöver användaren därför kunna se vad som har valts bort och varför. Om mötet försvinner bland många andra ändringar kan ett klick godkänna en bedömning som användaren inte ens visste ingick i beslutet.
Ett godkännande kan se tydligt ut i en logg. Det bevisar inte att personen hade överblick över beslutet.
I en enkätstudie från Carnegie Mellon University och Microsoft Research från 2025 beskrev 319 personer sin användning av generativ AI i kunskapsarbete. Högre tilltro till AI var förknippad med mindre självrapporterat kritiskt tänkande. Det visar inte att AI orsakar en bestående försämring av förmågan, men väcker frågor om hur tilliten påverkar granskningen. Studien om AI och kritiskt tänkande.
Det finns också en gräns för hur mycket någon hinner kontrollera. En lång ändringslista kan bli ännu en arbetsuppgift. Tjänsten behöver därför skilja mellan sådant den har tillåtelse att utföra och sådant som kräver ett nytt beslut.
Att föreslå en mötestid och att tacka nej till en inbjudan bör kräva olika slags tillåtelse. Samma sak gäller att skriva ett svarsutkast och att skicka det i ditt namn.
Autonomifrågan blir svårare om även andras intressen påverkar assistentens urval. Om den rekommenderar en resa behöver jag veta om vissa alternativ visas därför att tjänsten får ersättning från leverantören. En personlig ton gör inte rekommendationen oberoende.
I Om AI känner oss bättre än vi känner oss själva skrev jag om hur kunskap om våra vanor kan användas för att hjälpa eller styra oss. Om assistenten också får genomföra köpet behöver vi kunna granska urvalet innan den handlar.
Artikel 14 i EU:s AI-förordning kräver att högrisksystem utformas för effektiv mänsklig kontroll. Åtgärderna ska anpassas till systemets risker, självständighet och användning. Den människa som utövar kontrollen ska få möjlighet att förstå systemets begränsningar, tolka resultaten och vid behov ingripa eller åsidosätta dem. Artikeln tar också upp risken för överdriven tilltro till automatiserade resultat. Artikel 14 om mänsklig kontroll.
För en vardaglig assistent är frågan också relevant: har användaren tillräcklig information och möjlighet att ingripa, eller reduceras kontrollen i praktiken till en knapp för att godkänna?
Det bör gå att lämna över en uppgift utan att lämna över alla bedömningar runt den. En assistent kan få föreslå en planering utan att meddela andra att jag har ändrat mig.
När målet är oklart behöver systemet fråga.
Vi på AE tycker
AI-assistenter bör göra det lätt att förstå vad vi överlåter och vilka beslut som fortfarande väntar på oss. Det ska gå att se vad som har ändrats, varför det ändrats och vilka handlingar systemet har utfört i vårt namn.
Möjligheten att säga nej måste vara praktiskt användbar. Den kräver begripliga val och tid att upptäcka sådant vi inte vill godkänna. En assistent som hjälper oss att få saker gjorda behöver också respektera när vi ännu inte har bestämt oss.
Johan Hägerström
Chefredaktör och skribent för Artificiell Existens.
