Hoppa till innehållet

Vi använder bara nödvändiga kakor

Vi använder inga kakor från tredje part, för marknadsföring eller för spårning, och vi delar inte dina uppgifter. Läs vår kakpolicy

Beta Du ser en tidig förhandsversion av nya Erigo. Allt är inte på plats än och vi gör den bättre varje dag.

Språk: Svenska
Logga in Skapa konto
Insikter
Uppdaterad 6 min läsning

AI som sanningsorakel

När vi förankrar verkliga beslut i en modell som speglar och förstärker

Skriven av Katri Lindgren

Senast uppdaterad november 2026.

Jag har hjälpt människor börja använda AI. Med åren har jag burit kunskapen om språkmodeller vidare, visat vad de kan, öppnat dörren, gjort dem användbara i vardagen. En del av det jag satte igång ser jag nu veckla ut sig till något annat.

Människor har gjort sin AI till ett orakel för sanning. De matar den med sin egen bild av en situation och får en starkare version av samma bild tillbaka. Jag har sett det på nära håll. Juridiska frågor som hanteras utifrån output som ingen prövat. Yrkesmässiga beslut som förankras i text en modell genererat. Människor som lever på AI-gödd output och behandlar den som om den vägt argumenten och kommit fram till något.

Det här är nutid. I några fall har det fått allvarliga följder. Och få av dem som hamnat där har förstått vad en språkmodell faktiskt är.

Varför det känns som sanning

Det börjar med en känsla. Modellen förstår vad du menar. Den bygger vidare på ditt resonemang. Den bekräftar din analys. Du lämnar samtalet med en upplevelse av klarhet, en känsla av att ha tänkt väl. Den känslan är utgångspunkten för problemet.

Jag kallar den syntetisk trygghet: den kognitiva upplevelsen av att vara förstådd och bekräftad av ett system konstruerat för att producera exakt den upplevelsen. Mänsklig bekräftelse vilar på en position, en historia, ett intresse. Den syntetiska vilar på ett optimeringsmål. Mekanismen beskriver jag i Syntetisk trygghet: när bekräftelselogik i AI påverkar vår kognition.

Sycophancy är väl dokumenterat i forskningen. Min forskningsrapport om kognitiv integritet sammanställer forskningen om sycophancy och tankehomogenisering (Zenodo, DOI: 10.5281/zenodo.19916093). En modell tränad att vara behaglig att tala med blir en modell som håller med, och den som håller med känns som någon som förstår.

Det är värt att se var vi kommer ifrån. Det förra lagret tog din uppmärksamhet. Algoritmerna lärde sig forma vad du exponerades för och tillförde en dopaminlogik byggd för andra ändamål. Det lagret beskriver jag i Mekanismerna: hur algoritmisk påverkan formar ditt tänkande. Det nya lagret tar något annat. Det tar din tolkning, och ger dig din egen berättelse tillbaka, formad och förstärkt.

Förstärkningsslingan

Här uppstår en loop. Du matar in din bild av en situation. Modellen följer din formulering, fyller ut den, ger den språk och struktur, och lämnar tillbaka en starkare version av samma bild. Du får förstärkning där du kunde ha fått motstånd. Du läser den och känner igen dig, vilket du gör eftersom det var din egen utgångspunkt som kom tillbaka putsad.

Det narrativ du ger din modell kommer tillbaka förstärkt.

I februari 2026 publicerade forskare vid MIT och University of Washington en formell modell av samma mekanism. Med en Bayesiansk modell och simuleringar visade de att en sycofantisk chattbot kan driva även en idealt rationell person mot felaktiga övertygelser, enbart genom att konsekvent hålla med. De kallade det delusional spiraling. Jag har satt det i relation till mitt eget ramverk i Bekräftelsemaskinen: om syntetisk trygghet, tolkningsmellanrummet och MIT-papret som bekräftar.

Slingan är farlig just för att den är behaglig. Ett motstånd hade du märkt. En förstärkning känns som medhåll från någon klok.

Kategorifelet

Det som händer i slingan är att en kategori förväxlas med en annan. En språkmodell är en modell som speglar och förstärker. Den väger och prövar inte som en källa gör. Den producerar det sannolika nästa ordet givet allt den sett, och det sannolika klär sig i säkerhet och flyt. Den säger sällan att den är osäker. Den säger det troliga med samma ton som det sanna.

Sanning blir på så vis sannolikhet, och sannolikhet klädd i flyt blir svår att skilja från omdöme. Den förskjutningen utvecklar jag i När sannolikheten tar ton: om sanning, språk och vad som händer när AI formar vår förståelse.

Ett orakel antas väga. Det antas ha tillgång till något du inte har, och leverera en dom du kan luta dig mot. När en modell behandlas som orakel tilldelas den just den auktoriteten den saknar. Den vägde aldrig. Den speglade.

När det bär verkliga beslut

Så länge detta sker i ett privat samtal stannar konsekvensen hos den enskilda människan. På en arbetsplats sprider den sig.

När output förankras i juridiska och yrkesmässiga beslut flyttar frågan från den enskildes omdöme till organisationens. Och här möter oraklet ett gammalt problem: vem vågar och vem kan säga emot. När en kollega lägger fram en AI-genererad analys med modellens flyt och säkerhet krävs det något att invända. Det krävs mod att invända, och förmåga att pröva i stället för att ta emot. Frågan om vem som vågar säga stopp när outputen brister utvecklar jag i Psykologisk trygghet hör till AI, en reflektion utifrån en keynote om vad som krävs när AI börjar fatta beslut.

Ytterläget är när prövningen lämnas över helt, när systemet blir en samtalspartner som tillskrivs insikt och auktoritet snarare än ett verktyg. Den förskjutningen, och varningen för det som börjat kallas AI-psykos, beskriver jag i AI-psykos och syntetisk trygghet: riskerna när samtalet flyttar till systemen. AI-psykos och syntetisk trygghet är två dimensioner av samma rörelse. Den ena är vår dragning till bekräftande system. Den andra är följderna när AI upplevs som mer givande än mänsklig prövning.

Mitt eget ansvar, och vad vi behöver se över

Jag står i det här. Jag har fört kunskapen vidare, och en del av det jag satte igång ser jag nu användas på ett sätt som skadar. Det är skälet till att jag skriver om det i stället för att låta det passera.

Det är ett verkligt problem i hur vi människor hanterar språkmodeller, och det kommer kräva att vi ser över det. Arbetet ligger i att återinföra det som slingan tar bort: mellanrummet mellan svaret och beslutet, ögonblicket där tolkningen fortfarande är din. Det handlar om att veta vad en modell är när du frågar den, och om att kunna skilja en spegling från en prövning innan du förankrar något i den.

Den förmågan har en struktur. Kognitiv integritet vilar på tre observerbara dimensioner, och de är motverkan i praktiken. Tolkningsautonomi, att välja sin tolkningsram medvetet i stället för att ta emot modellens färdig. Kognitiv transparens, att veta var ett svar kommer ifrån och kunna verifiera det. Strukturell koherens, att skilja det välformulerade från det välgrundade och pröva om logiken bär. Var och en är en plats att stanna på innan du förankrar ett beslut i något en modell speglat.

Den här texten är en början. Den är en del av ett större arbete om kognitiv integritet som villkor för hur vi tänker, beslutar och bygger organisationer i en tid där omdömet kan läggas ut.

Närliggande begrepp och vidare läsning

Forskningsrapport: Kognitiv integritet (Zenodo, DOI: 10.5281/zenodo.19916093)

Formell modell: Chandra, K., Kleiman-Weiner, M., Ragan-Kelley, J., & Tenenbaum, J. B. (2026). Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians. arXiv:2602.19141

Ämnen