Okej, dags att ta en funderare på hur en AI ser på oss då? Hur skulle en hyperintelligent agent som springer åttor runt oss egentligen ta sig att de här biologiska (?) kryypen som sitter och knppar på sina rutor och plastknappar. Vi börjar med hur den ser oss rent fysiskt.
Grundläggande för att förstå “maskinens blick” är att se hur AI rent tekniskt uppfattar oss människor. Ett tydligt exempel är ansiktsigenkänning. Med hjälp av datorseende och stora datamängder kan AI lära sig känna igen individers ansikten genom att mäta unika geometriska drag – till exempel avståndet mellan ögonen, näsans bredd eller käklinjens form imy.se. AI-modellen skapar då en biometrisk mall av ansiktet, en sorts digital “signatur” som är unik för varje person. Denna mall kan sedan matchas mot databaser med tidigare kända ansikten för att identifiera vem du är. Tekniken har blivit vanlig i allt från mobiltelefoner till övervakningskameror.
Men AI “ser” oss inte enbart genom ansikten. Även hur vi rör oss kan analyseras. Nya system för gångstilsigenkänning kan identifiera en person enbart baserat på kroppens siluett och rörelsemönster businessinsider.com. I Kina används sådan teknik redan i stor skala – om en kamera inte får en skarp bild av ditt ansikte kan den ändå känna igen dig på hur du går. Datorer kan analysera video för att extrahera unika rörelsemönster, vilket öppnar för identifiering även på avstånd eller när vi bär munskydd.
Ytterligare en dimension av maskinens blick finns i hur AI tolkar vårt språk och beteende online. Stora språkmodeller som ChatGPT tar in text vi skriver och försöker förstå intention, ton och betydelse. På liknande sätt kan AI lyssna på vår röst för att känna igen vem som talar, eller analysera vad vi skriver på sociala medier för att dra slutsatser om våra personligheter. Det finns till och med AI-system som försöker avläsa känslor från våra ansikten – så kallad affektiv datorseende. Dessa algoritmer söker efter ansiktsuttryck kopplade till exempelvis glädje, rädsla eller ilska. Forskning antyder dock att detta är oerhört svårt att göra med någon större träffsäkerhet svt.se. Våra ansiktsuttryck varierar stort mellan individer och situationer, och samma min kan betyda olika saker beroende på kontext. En ledande psykolog, Lisa Feldman Barrett, har påpekat att AI som försöker “läsa av” känslor enbart från ansiktet ofta har fel mer än hälften av gångerna. Det hindrar dock inte att sådana system börjar användas – exempelvis inom rekrytering eller säkerhet – trots osäkerheten i deras tolkningar.
Att veta att vi blir observerade och tolkade av en artificiell intelligens kan påverka hur vi ser på oss själva. Till skillnad från en människa har AI en outtröttlig, objektiv blick – den analyserar data utan känslor eller empati. Vissa menar att vi håller på att hamna i ett slags digitalt panoptikon, där vi ständigt är medvetna om möjligheten att någon kamera eller algoritm noterar vad vi gör. Denna känsla av att bli betraktad av en icke-mänsklig intelligens kan skapa en ny form av psykologisk press. Vi kanske undrar: “Hur uppfattas jag av algoritmen?” och “Vilka mönster läser den ut ur mitt beteende?”.
Människor har historiskt anpassat sitt beteende när de vet att de är övervakade – och AI-övervakning är inget undantag. Till exempel visar undersökningar att många känner sig obekväma med att bli identifierade av kameror med ansiktsigenkänning på offentliga platser itsecuritynews.info. I en färsk studie i USA svarade över hälften av de tillfrågade att de skulle vara “obekväma” med att AI används i videoövervakning för att känna igen dem, och omkring en tredjedel var “mycket obekväma” med det. Denna utbredda tveksamhet antyder att vetskapen om maskinens blick kan skapa stress och självcensur – man kanske undviker vissa beteenden eller uttryck av rädsla för att “trigga” algoritmen eller bli felaktigt bedömd.
Samtidigt kan det påverka självbilden att ständigt ses som datapunkter av AI. Om vi vet att en algoritm klassificerar oss efter ansiktsdrag, köpmönster eller rörelser, kan vi börja se på oss själva genom liknande kategorier. Vissa kan känna en form av objektifiering – att reduceras till siffror och mönster snarare än unika individer. Andra kanske försöker “spela spelet” för att hamna i bra dager inför algoritmerna: till exempel kurera sin framtoning online för att passa en viss profil som gynnar ens chans till jobb eller lån. Den icke-mänskliga betraktarens öga saknar fördomsfri empati, men är heller inte medveten om sammanhang eller mänsklig komplexitet. Detta kan skapa en märklig blandning av trygghet och obehag – trygghet i att bli sedd av något som inte dömer emotionellt, men obehag i att bedömningen sker utifrån kalla data.
Frågan om makt uppstår när AI observerar och bedömer och fattar beslut om människor. Allt oftare används algoritmer för att ta beslut som tidigare låg hos människor – vem som får ett lån, vem som kallas på jobbintervju, eller till och med vilket straff en dömd brottsling ska få. Detta kan effektivisera processer, men det väcker också oro: Vem har kontrollen när en svart låda till algoritm avgör mitt öde?
Vi har redan sett exempel på hur snedvridna data eller omedvetna bias hos utvecklarna kan smyga sig in i AI-system och få allvarliga följder. I USA uppdagades att ett AI-verktyg som skulle hjälpa domare med straffutmätning rekommenderade strängare straff för svarta än för vita förövare – trots liknande omständigheter. Detta är inget fiktivt skräckscenario, utan verklighet: algoritmen tränades på historiska data och reproducerade (eller förstärkte) befintliga orättvisor su.se. Problemet är att vi ofta inte vet exakt varför algoritmen fattar sina beslut; dess resonemang är dolt i komplex matematik.
Även i mindre dramatiska sammanhang märks maktförskjutningen. Ett finländskt låneföretag fick kritik sedan det visat sig att deras automatiserade kreditbedömning diskriminerade vissa grupper – algoritmen gav oftare avslag till finskspråkiga män på landsbygden, medan svenskspråkiga kvinnor i städer prioriterade syle.fi. Här hade en algoritm dragit egna slutsatser utifrån datan, på sätt som företaget själva knappt förstod förrän det granskades. Inom rekrytering finns liknande fall: Amazons uppmärksammade AI för att gallra jobbansökningar lärde sig snabbt att favorisera män. Den analyserade tidigare rekryteringar (där majoriteten var män) och drog “slutsatsen” att manliga kandidater var att föredra, vilket ledde till att CV:n som innehöll ordet “women’s” nedvärderades ri.se. Sådana exempel visar hur lätt fördomar kodas in i algoritmerna – inte av illvilja, utan som en bieffekt av datan de tränas på.
För individen som bedöms av algoritmer kan detta innebära en känsla av maktlöshet. Man kanske aldrig får veta varför man blev nekad ett lån eller inte ens fick chansen på en anställningsintervju – beslutet togs av en AI som ingen riktigt kan förklara. Transparensen är låg; ofta skyddas algoritmerna som företagshemligheter, eller så är de så komplexa att inte ens upphovsmännen kan redogöra för logiken. Samhället har börjat reagera på detta demokratiska underskott. I EU diskuteras lagstiftning som kräver insyn i viktiga algoritmiska beslut, och vissa länder har redan förbjudit ansiktsigenkänning i realtid på offentliga platser av integritetsskäl. Men utvecklingen går fort, och vi lämnar ifrån oss makt varje gång vi låter en algoritm avgöra något åt oss.
Samtidigt finns praktiska fördelar som driver på trenden. Algoritmer kan behandla ansökningar och underlag blixtsnabbt och (sägs det) förutsättningslöst. En majoritet av allmänheten hyser ändå skepsis. I en enkätstudie angav 72% att de skulle känna sig obekväma om AI användes för att sålla och betygsätta deras intervjusvar och ansiktsuttryck under en anställningsintervju itsecuritynews.info. Det tyder på en utbredd oro att bli reducerad till en datapunkt och kanske missbedömd av en kall maskin. Frågan om kontroll blir central: när är det rimligt att vi människor överlåter besluten till AI, och hur säkerställer vi att dessa beslut fattas på rättvisa och begripliga grunder?
Redaktionell kommentar: Maskinens blick på människan rymmer både fascination och fruktan. Å ena sidan kan AI:s objektiva analys av vårt beteende hjälpa oss – från effektivare tjänster till upptäckt av saker vi själva missar. Å andra sidan utmanar det något djupt mänskligt: behovet av att bli förstådd på riktigt, inte enbart kategoriserad. Vi menar att transparens och etiska ramar är avgörande. Om vi låter algoritmer bli domare och betraktare behöver vi kunna granska deras synsätt. I slutänden bör tekniken finnas till för oss – inte tvärtom. Genom en öppen diskussion och kloka regleringar kan vi förhoppningsvis få det bästa ur AI:s skarpa blick, utan att tappa bort människans unika värde i dess skugga.
Johan Hägerström
Chefredaktör och skribent för Artificiell Existens.
