Ibland, ganska ofta förresten, undrar jag om det finns några mäktiga intressen som behagar skämta aprillo med mig – och inte bara med mig, utan med praktiskt talat hela världen, i varje fall västvärlden. De mäktiga intressena är de kanske tjogtaliga AI-företagen. Branschen består av företag som tillverkar de märkvärdiga maskinerna – och därför motsvarar därför dem som i det gamla Clondyke framställde spadar som de sålde till guldgrävarna – och därutöver ett antal som ägnade sig åt att gräva fram guldklimparna.
Skillnaden mellan vår tid och guldrushens dagar är att guldbranschen gjorde väldiga överskott medan vår tids motsvarighet inte tjänar några pengar utan hela tiden måste göra emissioner så det rullar in mer kapital (vilket det gör eftersom Silicon Valley och resten av världen är besatt av hoppet om att AI ska bli lika välsignelsebringande som 1800-talets industriella revolution en gång var).
Ingen kan emellertid förklara vad slags välsignelser AI kommer att medföra. Men att de kommer, det kan man vara säker på. Varför skulle folk annars sätta sina sparpengar i emissionerna?
Å andra sidan, har många, även en grupp unga företagsledare i branschen, tänkt ut att om AI kan bli vår frälsning så kan det nog också bli vår undergång. Därför är även ragnarök ett numera populärt budskap, som, märkvärdigt nog har sin främsta egenskap gemensam med framgångssagan, nämligen att ingen kan beskriva hur det ska gå till.
Här finns en del obegripligt att förklara där den starkaste teorin nog är den som utgår från att jag, som skriver dessa rader, inte begriper vad jag säger. Men i så fall blir det ännu knepigare att förstå varför Dario Amodei (bilden), chef för bolaget Anthropic, som just nu planerar en större emission, varnar allmänheten för vad dess publika representant Claude på eget bevåg kan ställa till med. Inte så att Claude skulle göra så mycket större skada än konkurrenterna, men kanske menar Amodei att Claude är så mycket skickligare än konkurrenterna i allt han tar sig för, vare sig han är så ”lydig” som Amodei önskar eller, som Amodei flaggar för, att han totalt hoppar över skaklarna och förintar livet på jorden som vi känner det utan att man alltså får någon redogörelse för hur det ska gå till.
Det förvånansvärda är alltså att ett företag som vill ha dina pengar varnar inte bara för att du kan förlora pengarna – sådana varningar finns i alla prospekt – utan att du genom dina satsningar aktivt kan komma att utplåna jorden genom någon metod som du inte känner till. Så här står det i prospektet (och säg till om du fattar vad det står):
Anthropic varnar sina egna investerare för katastrofala AI-risker för mänskligheten
”Potentiell modellmedvetenhet om våra utvärderingsinsatser skapar en betydande begränsning för vår förmåga att bedöma modellens säkerhet,” uppgav prospektet. AI-startupen som leds av Dario Amodei, värderad till nära tusen miljarder dollar, använde ungefär en tredjedel av sitt omfattande prospekt för att ange ”riskfaktorer”, bland annat möjligheten att alltmer sofistikerade AI-modeller kan manipulera människor, ägna sig åt utpressning eller uppvisa annat oförutsägbart beteende.
