Just nu har de flesta stora AI-laboratorier team som arbetar med att identifiera hur avvikande AI-system skulle kunna undkomma tillsyn eller hemligt samverka mot mänskliga intressen. Men det finns ett mer vardagligt – och kanske mer oundvikligt – sätt att förlora kontrollen över vår civilisation: att helt enkelt bli överflödiga. Inga konspirationer krävs; om AI och robotik fortsätter utvecklas i nuvarande takt är undergången av den värld de flesta lever it klart utrotningshotad.
Hur kan det ske? AI-utvecklare är på väg att skapa överlägsna ersättare för människor i nästan alla roller vi har – som arbetstagare och beslutsfattare, och som konstnärer, skapare, vänner och till och med romantiska partners. När AI kan överträffa oss i varje uppgift, vilken roll har vi kvar?
Diskussioner om AI:s nuvarande förmågor kan ibland låta som marknadsföringsretorik – och i vissa fall är de det – men potentialen för framtida förbättringar är enorm. Du kanske hoppas att det alltid kommer finnas något unikt mänskligt som maskiner inte kan replikera. Jag har tillbringat tjugo år med AI-forskning och sett hur fältet gått från grundläggande logik till att lösa komplexa vetenskapliga problem. Färdigheter som en gång ansågs vara helt mänskliga – att hantera tvetydighet, skapa abstrakta analogier – klaras nu enkelt av AI. Förseningar kommer att ske, men fortsatt framsteg på alla fronter är en rimlig förväntan.
Dessa artificiella sinnen kommer inte enbart att hjälpa oss – de kommer successivt ta över i otaliga små steg: först för att de är billigare, så småningom för att de är bättre. Ju mer pålitliga AI-system blir, desto mer självklart kommer de att vara för nästan varje viktig uppgift, från rättsliga avgöranden och ekonomisk planering till medicinska diagnoser.
Det kommer kännas absurt att betala dubbelt så mycket för en mänsklig terapeut, advokat eller lärare som bara presterar hälften så bra.
Arbetsliv
Tänk på arbetsmarknaden: vänner och kollegor kommer att förlora sina jobb och ha svårt att hitta nya. Företag kommer frysa anställningar i väntan på nästa års överlägsna AI-arbetskraft. Mycket av ditt dagliga arbete kommer bestå i att granska förslag från pålitliga, uppmärksamma AI-assistenter. Du kommer kunna fokusera på strategin, men du kommer diskutera även de idéerna med din ultrasakkunniga AI-kamrat, som fyller i data, citerar prejudikat och föreslår förbättringar. Till slut kan du helt enkelt fråga: “Vad är fortsättningen?” Oavsett om du behåller jobbet eller inte blir din insats valfri.
Socialt och privat
Utanför arbetslivet blir AI:s närvaro lika påtaglig. Det förvånade många att de första allmänresonerande AI-modellerna – föregångare till system som ChatGPT och Claude – också visade sig vara taktfulla, tålmodiga, nyanserade och vänliga. Social finess visar sig vara inlärningsbart. Människor har redan AI-romantiska partners, och AI-läkare får ofta bättre omvårdnadsbetyg än sina mänskliga kollegor.
Tänk dig en värld där alla har obegränsad personlig omtanke, vägledning och stöd till hands. Dina vänner och familj kommer att vara mer fastklistrade vid skärmarna än någonsin, och byta historier om sina AI-kompanjoners kvicka repliker. Du kanske känner dig utanför och rådfrågar din egen AI om hur du hanterar situationen. Denna rådgivare hjälper dig taktfullt genom konflikter – och efteråt kanske du kopplar av genom att anförtro dig åt din AI igen. Vi kanske sörjer vad som gått förlorat i övergången till virtuella relationer, även när mänsklig kontakt börjar kännas märkligt krävande.
Oundviklig adoption
Kan vi inte enbart välja att fortsätta använda mänskliga rådgivare, skapare och tjänster? I många områden blir AI-ersättningen nästan osynlig – och det vi faktiskt märker framstår som uppenbara förbättringar. AI-genererat innehåll är redan nästintill omöjligt att urskilja från mänskligt arbete. Varför betala dubbelt så mycket för en mänsklig expert som levererar hälften så hög kvalitet? Organisationer som förlitar sig på långsamma, kostsamma människor kommer att konkurreras ut av dem som använder snabba, billiga och pålitliga AI.
Stat och demokrati
Även regeringar lockas av samma argument. Politiker och tjänstemän kommer också fråga sina virtuella assistenter: “Vad är bästa policyn?” och uppfatta mänsklig inblandning som en källa till förseningar och meningsskiljaktigheter. Statsteoretiker liknar detta vid “resursförbannelsen”, där naturresursrika stater blir mindre ansvariga inför medborgare. AI kan bli en obegränsad resurs som ytterligare skiljer regeringar från folkviljan. Med skatteintäkter baserade på AI istället för arbete och offentliga tjänster som automatiseras riskerar demokratisk kontroll att urholkas. Till och med protester och strejker kan bli verkningslösa mot autonoma drönare och allomfattande övervakning.
Normalisering av obsolescens
Det kanske mest skrämmande är hur rimligt allt detta kommer te sig. När AI-kompanjoner blir allt mer övertygande kommer de framställa mänsklig överflödighet som framsteg och kalla “AI-rättigheter” för nästa stora medborgarrättsrörelse. De som försvarar “mänsklighet först” riskerar att framstå som motståndare till historiens gång.
Utan planering kan vi hamna utan pengar, inflytande – till och med relevans. Denna nya era kan vara vänligare i många avseenden – automatiska system tar hand om tråkigt arbete, sjukvård och underhållning når nya höjder – men människor blir ett hinder för tillväxt, och vi kan förlora makten att försvara våra egna rättigheter.
AI-utvecklarnas roll
Ledare som Dario Amodei på Anthropic och Sam Altman på OpenAI är överens om att vi måste omforma vårt ekonomiska system när mänsklig arbetskraft inte längre är konkurrenskraftig, men ingen har en klar plan. Även om ekonomer som Nobelpristagaren Joseph Stiglitz varnar för att AI kan pressa mänskliga löner mot noll, ser många fortfarande AI som ett komplement snarare än en ersättning.
- Mät AI:s omfattning. Kartlägg användningen av AI i ekonomi och förvaltning för att upptäcka områden där människor trängs ut, särskilt inom lobbying och propaganda.
- Reglera och övervaka. Inför tillsyn av framstående AI-laboratorier och implementeringar för att förhindra okontrollerad koncentration av makt och resurser.
- Stärk medborgarna. Använd AI för att stödja människors förmåga att organisera sig, förutse utveckling och förhandla – exempelvis genom AI-stödda demokratiska mekanismer.
- Styr civilisationen. Utvidga “AI-alignment” till att omfatta politiska system, institutioner och samhällsstrukturer, med hjälp av ekonomi, historia och spelteori för att kartlägga önskvärda framtider.
Ju tydligare vår gemensamma vision och ju bättre vi samordnar oss, desto större chans har vi att bli AI:s förvaltare och fördelaktiga medmänniskor, snarare än dess förlegade lämningar. Vi bygger bokstavligen våra egna efterträdare.
Johan Hägerström
Chefredaktör och skribent för Artificiell Existens.
