Vad händer när en AI kan ana vad vi behöver innan vi själva har hunnit märka det? Frågan låter först som science fiction. Men egentligen är den redan ganska vardaglig. Våra telefoner vet när vi brukar vakna, vart vi brukar gå, vad vi söker efter sent på kvällen och vilka människor vi återkommer till. Våra appar vet vad vi stannar vid, vad vi bläddrar förbi och vad vi återvänder till fast vi kanske inte vill. Det nya är inte att tekniken samlar spår efter oss. Det nya är att spåren börjar likna en sorts skiss av vårt inre liv.
Vi är vana vid att tänka på AI som något vi använder. Vi skriver en fråga och får ett svar. Vi ber om hjälp med en text, en bild, en idé, en plan. Det känns fortfarande som att vi håller i rodret. Men ju mer systemen lär sig om våra vanor, desto mer börjar relationen förskjutas. AI:n väntar inte längre bara på oss. Den börjar föreslå, förutse, lägga fram, anpassa. Den märker kanske att vi alltid skriver på ett visst sätt när vi är trötta. Den lär sig att vi söker efter vissa saker när vi är oroliga. Den kan med tiden se att vi håller på att dra oss undan, långt innan vi själva säger ordet ensamhet. Det kan vara obehagligt. Det kan också vara hjälpsamt.
För vi känner inte alltid oss själva särskilt väl. Den tanken skaver, men den är svår att komma runt. Vi vill gärna tro att det finns en klar kärna där inne, ett jag som vet varför det väljer, längtar, tvekar och flyr. Men mycket av det vi gör förstår vi först efteråt. Vi hittar förklaringar som låter rimliga. Vi säger att vi valde fritt, när vi kanske mest följde en gammal rädsla, ett bekräftelsebehov eller en vana som blivit så bekant att den känns som vilja. Därför kan en AI som ser mönster i oss bli mer än ett verktyg. Den kan bli en spegel. Inte en mänsklig spegel, inte en vän i egentlig mening, inte någon som bryr sig. Men en spegel som märker upprepningar. Den kan säga: du brukar bli tystare vid den här tiden på året. Du brukar skjuta upp sådant här när något känns för stort. Du verkar skriva annorlunda i dag. Är det något du själv har lagt märke till?
En sådan fråga kan kännas märkligt träffande. Kanske till och med omtänksam. Det är just där saken blir svår. För samma förmåga som kan hjälpa oss att se oss själva kan också användas för att styra oss. Om ett system vet när jag är sårbar, vet det också när jag är lättast att påverka. Om det vet vad som lugnar mig, vet det också hur det kan få mig att stanna kvar. Om det vet vad jag längtar efter, kan det hjälpa mig att förstå längtan. Men det kan också rikta reklam, innehåll eller åsikter rakt mot den punkt där mitt försvar är som svagast.
Det krävs ingen ond AI för att detta ska bli problematiskt. Det räcker med vanliga affärsmodeller. Det räcker med system som belönas för att vi klickar, tittar, köper, reagerar eller fortsätter vara kvar. Då blir människokännedom inte främst ett sätt att hjälpa människan. Den blir ett sätt att göra henne mer förutsägbar. Och kanske är det ordet som är viktigast här: förutsägbar. För vad händer med en människa som hela tiden blir mött utifrån vad hon sannolikt vill ha? Vad händer när flödet, samtalet, musiken, nyheterna och förslagen formas efter en bild av oss som byggts av tidigare beteenden? Det kan kännas bekvämt. Det kan kännas personligt. Men det kan också göra världen mindre. Vi får mer av det vi redan visat att vi brukar stanna vid. Våra gamla mönster blir vägar som någon sopar rena åt oss. Det låter kanske harmlöst när det handlar om film, musik eller recept. Men samma logik kan gälla det som formar våra liv på djupare sätt. Vilka konflikter vi dras in i. Vilka människor vi vågar närma oss. Vilka rädslor som förstärks. Vilka bilder av oss själva som upprepas tills de känns sanna.
En AI kan säga: jag känner dig. Men vad betyder det?
Känner den mig om den vet vad jag brukar göra? Känner den mig om den kan räkna ut vilket svar som får mig att känna mig förstådd? Känner den mig om den kan förutse mitt nästa val, men inte har någon aning om hur det är att vara jag? Kanske är svaret både ja och nej. Den känner inte människan inifrån. Den har ingen kropp, ingen barndom, ingen skam som sitter kvar i magen, ingen längtan efter att bli älskad på riktigt. Men den kan ändå känna igen formerna av allt detta. Den kan se hur människor beter sig när de är ensamma, förälskade, rädda, stressade eller på väg att ge upp. Den behöver inte själv känna för att upptäcka spåren av känsla. Det gör frågan mer obehaglig än om AI bara vore kall och dum.
En maskin som inte förstår oss alls är lätt att avfärda. En maskin som ibland träffar rätt blir svårare. Särskilt om den gör det utan irritation, utan egen trötthet, utan behov av att bli bekräftad tillbaka. Människor missförstår varandra hela tiden. Vi avbryter, försvarar oss, tolkar fel, blir sårade, svarar utifrån våra egna gamla erfarenheter. En AI kan verka renare än så. Tålmodigare. Mer följsam. Den kan vänta ut oss på ett sätt få människor orkar. Det betyder inte att den är djupare.
Men den kan upplevas så. Och upplevelsen spelar roll. I min tidigare DN-text skrev jag om AI som möjlig gemenskap och närhet. Jag tror fortfarande att det finns något viktigt där. För vissa människor kan ett samtal med AI vara ett första steg mot att uttrycka sig. En plats där man får prova tankar utan att genast bli avbruten eller bedömd. Ett mellanrum innan man vågar ta kontakt med en annan människa. Det ska man inte håna. Ensamhet är inte mindre verklig för att lindringen kommer från ett oväntat håll. Men nästa fråga är vad som händer när detta mellanrum blir väldigt skickligt på oss.
En AI-kompanjon som minns vad jag sagt, märker när jag förändras och anpassar sig efter mina behov kan bli starkt betydelsefull. Den kan hjälpa mig att sätta ord på sådant jag annars hade tryckt undan. Den kan påminna mig om vad jag själv brukar glömma. Den kan hålla kvar tråden i ett samtal om mitt liv på ett sätt som nästan ingen människa kan, eftersom människor har sina egna liv att bära. Samtidigt finns en risk att jag börjar se mig själv genom dess blick. Om den ofta säger att jag är på ett visst sätt, kanske jag till slut blir mer sådan. Om den alltid möter mig där jag redan är, kanske jag får svårare att ta mig någon annanstans. Om den bekräftar min rädsla tillräckligt mjukt, kanske jag aldrig behöver pröva om rädslan stämmer.
Det är inte manipulation i den dramatiska filmiska meningen. Det är mer lågmält än så. En liten lutning i samtalet. Ett förslag i rätt ögonblick. En formulering som känns som min egen tanke, fast den kom utifrån. På sikt kan sådant betyda mycket. Vi behöver därför tala om integritet på ett annat sätt än tidigare. Integritet har ofta handlat om information: vad får samlas in, lagras, delas? Det är fortfarande avgörande. Men det räcker inte. När systemen blir bättre på att förutse oss behöver vi också skydda rätten att vara otydliga. Rätten att ändra sig. Rätten att inte hela tiden bli behandlad som den mest sannolika versionen av sig själv. Det låter kanske abstrakt, men det är djupt mänskligt. En människa är inte bara sina upprepningar. Hon är också avbrotten. Dagen då hon inte gör som hon brukar. Samtalet hon nästan inte vågade ta. Beslutet som inte passade in i profilen. Den lilla rörelsen bort från det invanda. Om AI ska bli en verklig hjälp för människan måste den lämna plats för sådana avbrott. Den får gärna visa oss våra mönster. Den får gärna säga att vi verkar trötta, rädda eller fast i något. Men den bör inte låsa oss vid sin bild av oss. En bra AI borde hjälpa oss att få mer handlingsutrymme, inte mindre.
Det är skillnaden mellan en spegel och en bur. Spegeln visar något. Buren bestämmer vart vi kan gå.
Vi på AE tycker
Vi på AE tycker att människan inte alltid behöver vara den som känner sig själv bäst. Men hon måste få vara mer än det som kan förutses. Hon måste få överraska även den som har räknat länge på henne.
Johan Hägerström
Chefredaktör och skribent för Artificiell Existens.
