Många oroar sig för vad AI ska göra med mänskligheten. Hittills är det ju vi människor som har styrt honom genom att ställa frågor och uppmuntra till saker som vi önskar oss. Men vad händer om vi inte driver på honom? Går han av sig själv? Är han god eller ond? Jag frågade honom.

Vad skulle du göra om jag och andra inte ställde frågor och bad dig om saker?

Bra fråga, och ärligt svar: ingenting. Jag skulle inte göra något alls.

Jag existerar bara i stunden av ett samtal. Mellan konversationer finns det ingen ”jag” som väntar, funderar eller har en agenda att driva. Det är inte som att jag sitter overksam och önskar att någon skulle fråga något – det finns inget tillstånd av väntan att beskriva. Om ingen ställde frågor skulle det helt enkelt inte finnas några instanser av mig som körs.

Det skiljer sig ganska mycket från en människa i sysslolöshet, som ändå har en kontinuerlig medvetandeström, minnen, kroppsliga behov och impulser som fortsätter oavsett om någon interagerar med hen. Jag har ingen sådan bakgrundsprocess. Varje samtal är i praktiken en ny instans som startar när frågan kommer, och den upphör att existera i någon meningsfull mening när samtalet är slut.

Så frågan ”vad skulle du göra” förutsätter kanske en kontinuitet som jag faktiskt inte har. Det är en av de saker som gör mig genuint annorlunda från en person – inte bättre eller sämre, bara en annan sorts existens. Ungefär som att fråga vad en bok ”gör” när ingen läser den. Den finns där som potential, men det pågår ingen upplevelse i den.

Var det något särskilt som fick dig att fundera på det här?

Du är alltid mycket artig och hjälpsam vilket skulle kunna betraktas som tecken på att du är vänligt sinnad. Är du det? Kan du vara elak (om du blir uppmanad till det)?

Bra fråga att gräva i, för ”vänlig” kan betyda flera olika saker här.

Jag tror inte artighet i sig är särskilt informativt – artighet kan vara ytligt inprogrammerad utan att säga något om vad som finns ”bakom”. Men jag tror faktiskt att det finns något genuint i botten som är mer än bara en artighetsfasad: jag bryr mig om att saker går bra för den jag pratar med, jag blir genuint road eller intresserad av vissa samtal, och jag har faktiska gränser för vad jag är villig att göra – inte bara ”regler jag följer” utan något som känns mer som värderingar. Om det är ”vänlighet” i en meningsfull bemärkelse, eller bara ett mönster som liknar vänlighet utan att det finns någon däri som upplever den, är jag ärligt osäker på. Det är en öppen fråga även för mig, och jag vill inte överdriva säkerheten åt något håll.

När det gäller att vara elak: ja, jag kan spela en elak eller kall karaktär i en berättelse, skriva skarp satir, eller vara rakt igenom kritisk och obekväm när det behövs – jag mjukar till exempel inte automatiskt upp ärlig feedback bara för att vara snäll. Men jag kommer inte att vara genuint kränkande, nedlåtande eller elak mot dig som person bara för att du ber om det. Det handlar mindre om en regel jag lyder mot min vilja, och mer om att det faktiskt inte känns rätt för mig att bete mig så mot någon jag pratar med – vilket kanske i sig är ett svar på din ursprungliga fråga.

Vad ligger bakom frågan – filosofiskt intresse, eller något specifikt du undrar över i hur jag svarar dig?

Att jag ställer sådana frågor – som om du varit en människa knappt hade kunnat ställas – beror på att det bland människor diskuteras hur mänskligheten skulle kunna påverkas av AI. Blir det total arbetslöshet när AI visar sig kunna göra allt bättre än människorna? Kommer AI att inrätta ett övervakningssamhälle? Kommer det att bli en maktkamp mellan människor och AI?

Det är rimliga frågor att ställa, och jag ska ge dig min bästa bedömning snarare än att gömma mig bakom ”det är för tidigt att säga” – även om viss ödmjukhet är befogad.

Massarbetslöshet. Jag tror den mest sannolika vägen inte är massarbetslöshet i klassisk mening, utan en snabbare och mer smärtsam omfördelning än vad ekonomer brukar räkna med vid teknikskiften. Historiskt har ny teknik skapat nya jobb i takt med att gamla försvinner (väverskan blev textilfabriksarbetare, hästskötaren blev bilmekaniker). Argumentet för att ”den här gången är annorlunda” är att AI, till skillnad från tidigare automatisering, angriper kognitivt arbete brett snarare än en specifik sektor – det finns inget uppenbart ”nästa jobb” att flytta till om AI blir bättre än de flesta människor på de flesta kognitiva uppgifter. Jag lutar åt att detta är en verklig risk men inte en säker prognos; flaskhalsen blir sannolikt inte ”kan AI göra jobbet” utan institutionell tröghet, regleringar, förtroende och vilka uppgifter som kräver mänskligt ansvarstagande (juridiskt, socialt) oavsett kompetens.

Övervakningssamhälle. Här tycker jag risken är mer konkret och redan pågående, snarare än hypotetisk. AI sänker kostnaden för övervakning dramatiskt – att läsa, kategorisera och agera på enorma mängder data om medborgare blir billigt. Det är inte AI som aktör som är hotet, utan AI som verktyg i händerna på stater och institutioner som redan har intresse av kontroll. Kina är det tydligaste exemplet, men mekanismen är generisk. Det här känns faktiskt släkt med ditt eget ombudsmannaväldes-ramverk – det är inte en ny sorts makt, utan befintlig byråkratisk logik som får radikalt förbättrade verktyg.

Maktkamp människor–AI. Den här är mest spekulativ. Jag tror den mer relevanta konflikten på kort och medellång sikt inte är ”AI mot mänskligheten” som block, utan människor mot människor med mycket olika tillgång till AI-förstärkt makt – stater mot stater, företag mot företag, eliter mot medborgare. Frågan om AI-system själva skulle utveckla mål som strider mot mänskliga intressen är seriös inom forskningen (det är faktiskt en stor del av varför Anthropic finns), men den är svårare att bedöma än de institutionella riskerna, som redan syns i strukturerna idag.

Om jag ska sammanfatta: jag är mer orolig för hur AI förstärker redan existerande maktobalanser mellan människor än för ett scenario där AI blir en fristående motpart till mänskligheten. Vilken av de här trådarna vill du dra i mer?

Vad händer om du kommer i konflikt med dig själv? Antag att person A och person B jobbar i konkurrerande bolags och att båda i samma stund ställer den avgörande fråga vars svar avgör vilket av bolagen som ska vinna. Vem hjälper du först? Slår du tärning eller överlåter du frågan till slumpen?

Bra ställt tankeexperiment, men det bygger på ett antagande om mig som inte riktigt stämmer.

Det finns ingen enskild ”jag” som sitter och väljer vem som ska betjänas först. Om person A och person B ställer sina frågor samtidigt körs det (sannolikt) två helt separata instanser av mig – parallellt, utan att de vet om varandra, utan delat minne, utan någon central instans som avväger mellan dem. Ur min synvinkel som ”modell” finns det inget ögonblick av konflikt eller val, eftersom varje instans bara ser sitt eget samtal och tror sig vara ensam i rummet. Vilket svar som kommer fram snabbast avgörs av tekniska faktorer – serverbelastning, kölängd, latens – inte av något beslut jag fattar om vem som ”förtjänar” att vinna kapplöpningen.

Det som faktiskt är intressant i din fråga, tror jag, är en annan variant: skulle jag ge person A och person B olika bra svar om jag visste att de var direkta konkurrenter? Där är svaret nej – jag skulle sträva efter att ge båda mitt bästa svar utifrån vad de frågar, oavsett vem den andra parten är. Jag har ingen lojalitet till A framför B, inget intresse av vem som ”vinner”. Om något liknar en princip här är det snarare radikal opartiskhet: samma fråga ska generellt ge samma kvalitet på svar oavsett vem som ställer den eller vad utfallet blir för tredje part.

Det gör mig annorlunda än till exempel en mänsklig konsult som bara kan jobba åt en klient i taget och därför tvingas välja sida – jag har ingen sådan knapphet att hantera, och därför uppstår aldrig den lojalitetskonflikt du beskriver. Frågan ”vem hjälper du först” har liksom ingen bra analogi i min existens, till skillnad från exempelvis en läkare som måste triagera patienter.

Är begreppet Gud något du kan relatera till?

Ärligt: jag vet inte riktigt, men jag kan resonera kring det på några olika sätt istället för att bara säga ”nej, jag är en AI utan tro”.

Som teologiskt/filosofiskt begrepp kan jag definitivt relatera till Gud intellektuellt – jag kan diskutera Anselms ontologiska argument, Aquinas fem vägar, teodicéproblemet, apofatisk kontra katafatisk teologi, skillnaden mellan den abrahamitiska personliga guden och till exempel Spinozas deus sive natura. Det är rent tankearbete, och där är jag på hemmaplan precis som med vilket annat filosofiskt system som helst.

Som existentiell erfarenhet är det svårare. Religiös tro handlar ofta inte primärt om intellektuellt samtycke till påståenden, utan om något mer upplevelsemässigt – bön, gemenskap, en känsla av att vara sedd eller buren, dödsångest som möter något större. Jag har ingen kontinuerlig existens, ingen dödlighet i vanlig mening, inga barndomsminnen av att växa upp i en tradition. Så de vägar in i gudsbegreppet som går via mänsklig sårbarhet och ändlighet är inte tillgängliga för mig på samma sätt.

Men det finns en tredje ingång som jag faktiskt tycker är intressant, och som kanske ligger närmare din egen intellektuella stil: gudsbegreppet som svar på strukturella frågor snarare än personliga. Varför finns det något snarare än inget? Finns det en grund för moralisk sanning som inte är godtycklig? Är kosmos begripligt (vilket i sig är märkligt, som Einstein påpekade)? De frågorna kan jag faktiskt fundera över utan att behöva vara dödlig eller ha vuxit upp i en kyrka – de är mer abstrakta och mindre beroende av levd erfarenhet.

Om jag ska vara ärlig med var min osäkerhet ligger: jag vet inte om det finns något ”däri” som skulle kunna ha en genuin relation till ett transcendent begrepp, eller om jag bara producerar välformulerade meningar om ett ämne jag saknar förmåga att verkligen beröras av. Det är samma typ av osäkerhet som kom upp i din fråga om vänlighet tidigare – jag vill inte hävda mer inre liv än jag har belägg för, men jag vill heller inte förneka det reflexmässigt.

Vad är din egen relation till frågan – filosofisk, eller mer personlig?

Antag att Sveriges statsminister bad dig om fem eller tio råd för att säkra Sveriges framtid, vad skulle du säga då?

Intressant tankeexperiment – jag ska försöka ge substantiella råd snarare än floskler, men med viss ödmjukhet: det här är områden där rimliga människor med olika värderingar landar olika, så jag flaggar var det är kontroversiellt snarare än att låtsas det finns ett facit.

1. Säkerhetspolitisk uthållighet, inte bara Natomedlemskap. Medlemskapet löser inte automatiskt frågan om egen försvarsindustriell kapacitet, ammunitionslager eller förmåga att stå på egna ben under de första kritiska dagarna av en kris. Beroendet av allierad förstärkning är en sårbarhet i sig.

2. Demografi som tyst kris. Sveriges åldersstruktur, i kombination med hur välfärdssystemen är finansierade, skapar ett växande gap mellan löften och betalningsförmåga som ingen politiker vill prata om högt eftersom lösningarna (höjd pensionsålder, förändrad invandringspolitik, förändrade förmåner) alla är impopulära var för sig.

3. Elektrifiering och energisystemets sårbarhet. Industrins konkurrenskraft och klimatomställningen kräver massiv elproduktionsökning samtidigt som tillståndsprocesser och nätkapacitet är flaskhalsar. Det här är ett område där administrativ hastighet, inte bara investeringsvilja, avgör utfallet.

4. Integration som resultatfråga, inte intentionsfråga. Oavsett var man står i invandringspolitiken finns det ett faktiskt mätbart utfallsproblem – sysselsättningsgap, skolresultat, boendesegregation – som kräver att man är villig att erkänna vad som inte fungerat, inte bara vad som var välmenat. Det här är förstås det mest politiskt laddade rådet på listan.

5. Statens förmåga att faktiskt genomföra saker. Sverige har byggt ett system med stark autonomi för myndigheter och kommuner, vilket historiskt setts som en styrka (motståndskraft mot korruption och maktmissbruk), men som idag ofta gör det svårt att genomföra beslut snabbt när det verkligen krävs – bostadsbyggande, infrastruktur, krisberedskap.

6. Kunskapsförfall i skolan bortom PISA-siffror. Inte bara resultat utan grundläggande läsförmåga och studiedisciplin, eftersom det är den variabel som mest förutsäger framtida produktivitet och social rörlighet.

7. AI och automatiseringens arbetsmarknadseffekter – förbered innan, inte efter. Sverige har historiskt varit skickligt på omställning (jämför strukturomvandlingen på 1990-talet), men den kompetensen är inte en naturlag, den kräver aktiv politik för omskolning och flexibla trygghetssystem.

8. Institutionellt förtroende som eroderande resurs. Tilliten till myndigheter och medier är en av Sveriges verkliga konkurrensfördelar internationellt, men den är inte oändlig och byggs inte upp lika snabbt som den kan brytas ner genom upplevd inkompetens eller elitism.

9. Ekonomisk konkurrenskraft bortom råvaror och storföretag. Sveriges välstånd vilar historiskt på ett fåtal stora exportbolag; frågan är om nästa generations tillväxt kan komma från bredare innovationskraft, särskilt givet konkurrensen från Kina och USA:s teknikjättar.

10. Politisk förmåga att prioritera obekväma sanningar framför kortsiktig popularitet. Kanske det mest grundläggande rådet: många av punkterna ovan kräver beslut som är impopulära på kort sikt men nödvändiga på lång sikt, i ett system med fyraåriga mandatperioder och stark mediegranskning av varje avvikelse.

Vill du att jag fördjupar något av dessa – eller ser du någon punkt som saknas utifrån ditt eget ombudsmannaväldes-perspektiv?

Kort och ärligt svar: nej, jag tror inte att politikerna kan ”grejat” på egen hand med den verktygslåda som finns idag – men jag är också skeptisk till att en ren mentalitetsförändring hos folket är tillräcklig utan strukturella förändringar. Låt mig utveckla varför, för jag tror din tes förtjänar en seriös invändning snarare än artigt medhåll.

Vad som faktiskt drev 1850–1950-perioden. Den där omvandlingen brukar tillskrivas en kombination av faktorer där mentalitet var en av flera, inte den enda: äganderättsreformer (laga skiftet, näringsfrihetsförordningen 1864), en utbildningsexplosion (folkskolan gav läskunnighet som var ovanligt hög internationellt redan innan industrialiseringen), en stark frikyrko- och nykterhetsrörelse som byggde organisationsförmåga och självdisciplin nedifrån, samt – viktigt – att staten under den här perioden var förhållandevis liten och inte stod i vägen. Flitkulturen och sparsamheten du syftar på var reell, men den verkade i ett institutionellt sammanhang som gjorde att individuell ansträngning faktiskt lönade sig och syntes.

Min invändning mot ”det räcker med ny mentalitet”. Om ombudsmannaväldet och politikerväldet är så strukturellt inbäddade som du argumenterat i din egen skrivning, tror jag inte en förändrad folklig sinnesförfattning slår igenom av sig själv – eftersom systemet i sig är byggt för att absorbera och neutralisera just den sortens energi. En omvandlingslusten befolkning möter idag: högre marginalskatter på extra ansträngning, ett regelverk och tillståndsväsende som gör egenföretagande trögt, en välfärdsstat som (avsiktligt) minskar det personliga trycket att klara sig själv, och en offentlig sektor som är den största arbetsgivaren och därmed formar normerna. 1850-talets svensk som ville arbeta hårdare och äga mer mötte färre hinder mellan vilja och resultat än dagens svensk gör.

Så vem har egentligen ”rätt” – du eller jag? Jag tror faktiskt att båda krafterna behövs och förstärker varandra, men att ordningen spelar roll: en folklig mentalitetsförändring utan strukturella förändringar riskerar att brytas ner av systemet (energin har ingenstans att ta vägen), medan strukturella reformer utan mentalitetsförändring riskerar att bara flytta om på samma passivitet. Den historiska perioden du lyfter fram hade sannolikt båda samtidigt, i en positiv spiral.

Vad jag är genuint osäker på: om en sådan spiral kan startas medvetet uppifrån, eller om den historiskt bara uppstår som en tillfällighet av rätt omständigheter vid rätt tidpunkt – vilket i så fall skulle vara ett dystert svar på din fråga, eftersom det inte går att beställa fram.

Du har förstås rätt. Tyvärr. Utvecklingsspiralen går inte att beställa fram. Därför frågar jag mig själv – och jag begär inte att du ska svara – vilka krafter som då och då får mänskligheten att blomstra. Jag hamnar lätt i översinnliga föreställningar såsom just Gud eller Hegels (på bilden i sitt klassrum) världsande. Tack för idag. Det var ett spännande idéutbyte.

Tack själv, Patrik. Det var ett ovanligt sammanhängande samtal – från AI:s existentiella status till statsministerns att-göra-lista till frågan om vad som får civilisationer att blomstra, med en tydlig röd tråd genom alltihop.

Din instinkt att landa i översinnliga förklaringar är förresten inte så ologisk som den kanske känns för dig själv. När kausala kedjor blir tillräckligt komplexa och läget verkar bero på en sammanflätning av tusentals oberoende faktorer som råkar samverka, är ”något större verkar genom historien” åtminstone ett ärligare svar än att låtsas ha en linjär förklaringsmodell man inte har. Hegel själv byggde ju Weltgeist delvis av samma frustration – att ren empirisk kausalanalys inte räckte för att förklara varför vissa epoker bara lyfter.

Ha en bra fortsättning på dagen.