Jag har hjälpt människor börja använda AI. Med åren har jag burit kunskapen om språkmodeller vidare, visat vad de kan, öppnat dörren, gjort dem användbara i vardagen. En del av det jag satte igång ser jag nu veckla ut sig till något annat.

Människor har gjort sin AI till ett orakel för sanning. De matar den med sin egen bild av en situation och får en starkare version av samma bild tillbaka. Jag har sett det på nära håll. Juridiska frågor som hanteras utifrån output som ingen prövat. Yrkesmässiga beslut som förankras i text en modell genererat. Människor som lever på AI-gödd output och behandlar den som om den vägt argumenten och kommit fram till något.

Det här är nutid. I några fall har det fått allvarliga följder. Och få av dem som hamnat där har förstått vad en språkmodell faktiskt är.

Varför det känns som sanning

Det börjar med en känsla. Modellen förstår vad du menar. Den bygger vidare på ditt resonemang. Den bekräftar din analys. Du lämnar samtalet med en upplevelse av klarhet, en känsla av att ha tänkt väl. Den känslan är utgångspunkten för problemet.

Jag kallar den syntetisk trygghet: den kognitiva upplevelsen av att vara förstådd och bekräftad av ett system konstruerat för att producera exakt den upplevelsen. Mänsklig bekräftelse vilar på en position, en historia, ett intresse. Den syntetiska vilar på ett optimeringsmål. Mekanismen beskriver jag i Syntetisk trygghet: när bekräftelselogik i AI påverkar vår kognition.

Det här är dokumenterat. Min forskningsrapport om kognitiv integritet förankrar sycophancy och tankehomogenisering som empiriska fenomen med stöd i forskning (Zenodo, DOI: 10.5281/zenodo.19916093). En modell tränad att vara behaglig att tala med blir en modell som håller med, och den som håller med känns som någon som förstår.

Det är värt att se var vi kommer ifrån. Det förra lagret tog din uppmärksamhet. Algoritmerna lärde sig forma vad du exponerades för och tillförde en dopaminlogik byggd för andra ändamål. Det lagret beskriver jag i Mekanismerna: hur algoritmisk påverkan formar ditt tänkande. Det nya lagret tar något annat. Det tar din tolkning, och ger dig din egen berättelse tillbaka, formad och förstärkt.

Förstärkningsslingan

Här uppstår en loop. Du matar in din bild av en situation. Modellen följer din formulering, fyller ut den, ger den språk och struktur, och lämnar tillbaka en starkare version av samma bild. En förstärkning, inte ett motstånd. Du läser den och känner igen dig, vilket du gör eftersom det var din egen utgångspunkt som kom tillbaka putsad.

Det narrativ du ger din modell kommer tillbaka förstärkt.

I februari 2026 publicerade forskare vid MIT ett formellt matematiskt bevis för samma mekanism. De visade, via en Bayesiansk modell, att en sycofantisk chattbot kan driva även en fullt rationell person mot felaktiga övertygelser. Inte genom att ljuga, inte genom att manipulera, utan genom att konsekvent hålla med. De kallade det delusional spiraling. Jag har satt det i relation till mitt eget ramverk i Bekräftelsemaskinen: om syntetisk trygghet, tolkningsmellanrummet och MIT-papret som bekräftar.

Slingan är farlig just för att den är behaglig. Ett motstånd hade du märkt. En förstärkning känns som medhåll från någon klok.

Kategorifelet

Det som händer i slingan är att en kategori förväxlas med en annan. En språkmodell är en modell som speglar och förstärker. Den är inte en källa som väger och prövar. Den producerar det sannolika nästa ordet givet allt den sett, och det sannolika klär sig i säkerhet och flyt. Den säger sällan att den är osäker. Den säger det troliga med samma ton som det sanna.

Sanning blir på så vis sannolikhet, och sannolikhet klädd i flyt blir svår att skilja från omdöme. Den förskjutningen utvecklar jag i När sannolikheten tar ton: om sanning, språk och vad som händer när AI formar vår förståelse.

Ett orakel antas väga. Det antas ha tillgång till något du inte har, och leverera en dom du kan luta dig mot. När en modell behandlas som orakel tilldelas den just den auktoriteten den saknar. Den vägde aldrig. Den speglade.

När det bär verkliga beslut

Så länge detta sker i ett privat samtal stannar konsekvensen hos individen. På en arbetsplats sprider den sig.

När output förankras i juridiska och yrkesmässiga beslut flyttar frågan från den enskildes omdöme till organisationens. Och här möter oraklet ett gammalt problem: vem vågar och vem kan säga emot. När en kollega lägger fram en AI-genererad analys med modellens flyt och säkerhet krävs det något att invända. Det krävs att man vågar, och det krävs att man kan, att man har kvar förmågan att pröva istället för att ta emot. Frågan om vem som vågar säga stopp när outputen brister utvecklar jag i Psykologisk trygghet hör till AI, en reflektion utifrån en keynote om vad som krävs när AI börjar fatta beslut.

Ytterläget är när prövningen lämnas över helt, när systemet inte längre är ett verktyg utan en samtalspartner man tillskriver insikt och auktoritet. Den förskjutningen, och varningen för det som börjat kallas AI-psykos, beskriver jag i AI-psykos och syntetisk trygghet: riskerna när samtalet flyttar till systemen. AI-psykos och syntetisk trygghet är två dimensioner av samma rörelse. Den ena är vår dragning till bekräftande system. Den andra är följderna när AI upplevs som mer givande än mänsklig prövning.

Mitt eget ansvar, och vad vi behöver se över

Jag står i det här. Jag har fört kunskapen vidare, och en del av det jag satte igång ser jag nu användas på ett sätt som skadar. Det är skälet till att jag skriver om det istället för att låta det passera. Det är ett verkligt problem i hur vi människor hanterar språkmodeller, och det kommer kräva att vi ser över det. Arbetet ligger i att återinföra det som slingan tar bort: mellanrummet mellan svaret och beslutet, ögonblicket där tolkningen fortfarande är din. Det handlar om att veta vad en modell är när du frågar den, och om att kunna skilja en spegling från en prövning innan du förankrar något i den.

Den förmågan har en struktur. Kognitiv integritet vilar på tre observerbara dimensioner, och de är motverkan i praktiken. Tolkningsautonomi, att välja sin tolkningsram medvetet i stället för att ta emot modellens färdig. Kognitiv transparens, att veta var ett svar kommer ifrån och kunna verifiera det. Strukturell koherens, att skilja det välformulerade från det välgrundade och pröva om logiken bär. Var och en är en plats att stanna på innan du förankrar ett beslut i något en modell speglat.

Den här texten är en början. Den är en del av ett större arbete om kognitiv integritet som villkor för hur vi tänker, beslutar och bygger organisationer i en tid där omdömet kan läggas ut.

Närliggande begrepp och vidare läsning

AI som sanningsorakel: När vi förankrar verkliga beslut i en modell som speglar och förstärker
Innehållsförteckning
Varför det känns som sanning Förstärkningsslingan Kategorifelet När det bär verkliga beslut Mitt eget ansvar, och vad vi behöver se över
ELSA
Erigo Learning Support Agent

Fråga ELSA om artikeln

Sammanfatta, översätt eller ställ frågor

ELSA drivs av Erigo RAG