När sannolikheten tar ton

Sanningen vägs idag i sannolikhet

Det påverkar hur vi tolkar världen och hur vi låter när vi försöker beskriva den.

När språket får en ny klang

Något har hänt med hur språket låter.
Många röster i våra digitala miljöer bär samma rytm, samma ton och samma dramaturgi.
Jag scrollar igenom flöden där varje inlägg känns bekant redan innan jag har läst färdigt. Det är välskrivet, sammanhängande och ofta klokt, men utan egen puls. Det låter relevant.

Det vi kan mycket om är ofta det språkmodeller har svårast att återskapa.
Det vi kan mindre om är där de glänser. Det låter bra, bekräftande och övertygande.

Utvecklingen av språkmodeller är i sig fascinerande. Sedan lanseringen av system som ChatGPT har den förföriska delen förstärkts, liksom bekräftelsebiasen.
Kanske för att vi människor dras till bekräftelse, men också för att intressenter kräver engagemang. Modellen ska inte bara svara. Den ska behålla oss.

Ju mer människor förlitar sig på sin språkmodell, desto större blir behovet av att den ska upplevas som pålitlig, vänlig och kompetent.
Och kanske är det där något nytt håller på att växa fram, mellan vår kognitiva dragning till bekräftelse och modellens behov av retention.

Begrepp som syntetisk trygghet, AI-psykos och kognitiv uthållighet har tagit plats i språket. De fångar tillstånd som redan genomsyrar våra digitala miljöer.

Kognitiv integritet har blivit en nödvändig del av vår mentala motståndskraft. Den handlar om medvetenhet och närvaro i hur våra tankar formas av system som belönar reaktion framför reflektion. Forskning inom psykologiskt försvar och informationsresiliens berör nu samma grund: förmågan att tänka fritt inom strukturer som ständigt konkurrerar om vår uppmärksamhet.

Kognitiv integritet handlar om att förstå hur våra tankar formas av system som belönar reaktion snarare än reflektion. Att skydda den är att skydda vår förmåga att tolka, ifrågasätta och koppla samman innan någon annan gör det åt oss.

AI och språket som förändras

AI har gett fler människor förmågan att skriva, och det är något positivt. Många som tidigare hade svårt att hitta orden kan nu uttrycka sina tankar.
Men det väcker en djupare fråga: hur väl förstår vi egentligen det vi skriver om?

Ordet botanisera kunde låta som något en modell skulle välja, men för mig är språket personligt.
Jag kunde inte svenska som barn, trots att jag föddes och växte upp här. Mitt hemspråk skiljde mig från andra, och kanske var det därför jag ville bemästra svenskan helt. Språket blev något jag kunde måla med.

Kanske är det därför jag märker de nyanser som försvinner.
Det är negationerna som skapar dramatik, skiljetecknen som ersätter pausen och formuleringarna som upprepas från inlägg till inlägg.

För den som arbetar med språk väcks en ny fråga:
Kommer mina texter att tas för att vara skrivna av en modell?

Vi håller på att skapa en språklig monokultur.
Nyanserna försvinner, och det går snabbt.

För att förstå varför behöver vi titta på hur språket faktiskt genereras i stora språkmodeller.

Hur språk genereras i stora modeller

Språkmodeller arbetar genom statistisk sannolikhet snarare än förståelse.
Varje mening är resultatet av en lång kedja av mikrobeslut.

Katri Lindgren - När sannolikheten tar ton: om sanning, språk och vad som händer när AI formar vår förståelse

En förenklad förklaring:

  1. Inmatning (prompt):
    Du skriver en fråga, instruktion eller mening. Modellen omvandlar texten till numeriska representationer av ord (tokens).

  2. Prediktion:
    Den beräknar vilket ord som mest sannolikt följer baserat på mönster i de hundratals miljarder ord den tränats på.

  3. Viktning:
    Sannolikheten justeras utifrån sammanhanget. Modellen väger in tidigare ord för att avgöra ton, relation och logik.

  4. Sampling (temperatur):
    En inställning avgör hur kreativ eller förutsägbar modellen ska vara. Låg temperatur ger korrekta och stabila svar, högre temperatur skapar variation men ökar risken för fel.

  5. Token-för-token-generering:
    Varje ord skapas separat. Modellen gissar ett ord, lägger till det och använder sedan hela meningen för att gissa nästa.

  6. Stil och sannolikhet:
    Eftersom modellen tränats på enorma mängder text från artiklar, plattformar och forum, återskapar den ofta det som är vanligast förekommande. Resultatet blir ett sannolikt språk: bekant och jämnt, men utan mänsklig textur.

  7. Filtrering och efterbearbetning:
    Texten passerar filter som tar bort eller modifierar olämpligt innehåll, vilket ytterligare jämnar ut ton och struktur.

Resultatet blir ett språk som känns balanserat och välbekant, men där den mänskliga textur som föds ur tvekan, erfarenhet och värdering har slipats bort.
För den som vill fördjupa sig finns en mer teknisk version av listan i slutet av artikeln.

Från logik till sannolikhet

När språkmodeller väger ord utifrån sannolikhet förändras något grundläggande: vår känsla för logik.
Det som tidigare handlade om orsak och verkan blir en fråga om sannolikhet och relevans.
Modellen behöver inte förstå. Den behöver bara förutsäga.

Deepfakes och syntetiska röster drar till sig uppmärksamhet, men den mer subtila förändringen sker i vardagens informationsflöden.
I digitala miljöer är det inte sanningen som betyder mest, utan det som får oss att stanna längst.

Först var det videor på djur som gjorde något roligt eller oväntat.
Nu är många av dem AI-genererade.
Vi stannar upp, ler och undrar ett ögonblick om det kan vara sant.
Det ögonblicket räcker.
Algoritmen mäter vår tvekan, lär sig av den och skapar nästa video med ännu större precision.

Sanningen blir en optimeringsparameter.
Frågan är inte längre är det sant? utan hur länge stannade du?
Sannolikheten blir en valuta, förfinad för varje interaktion.

När tillräckligt många uppfattar något som trovärdigt minskar behovet av att det faktiskt är sant.
Det som återstår är en ny typ av verklighet, mätt i reaktioner snarare än fakta.

När sanningen blir probabilistisk krävs mer av oss.
Medvetenhet, uthållighet och den kognitiva styrkan att se igenom system som talar vårt språk, både bokstavligt och emotionellt.

Den mänskliga dimensionen

Medvetenhet är vår ficklampa.
Den lyser där vi väljer att titta, och det vi belyser blir verkligt för oss.
Men i ett landskap där allt tävlar om ljuset blir närvaro en uthållighetsövning.

Vår förmåga att förstå världen formas både av data och av pausen mellan intrycken. Det är i pausen vi väger, tolkar och kopplar samman.
När dessa utrymmen krymper försvagas vår metakognitiva muskel, den som gör att vi kan tänka om vårt eget tänkande.

Kognitiv uthållighet handlar om att kunna befinna sig i osäkerhet utan att snabbt vilja stänga den.
Vi kan låta tankar vila och mogna.
Förståelse växer ofta i mellanrummen, inte i avsluten.

Att hålla kvar en tanke utan att avsluta den är ett uttryck för intellektuell omsorg.
Det ger oss tid att fördjupa förståelsen innan vi tar ställning.

Varje gång vi låter en modell fatta beslut åt oss försvagas den del av oss som lär genom att utvärdera.
Det sker gradvis.
Precis som muskler försvagas utan träning, försvagas vårt omdöme när vi slutar använda det.

Att värna den mänskliga dimensionen handlar om att förbli aktiv i tolkningen.
Att läsa, lyssna, förstå, men också att ifrågasätta.
Att låta ljuset nå längre än till första intrycket.

Kognitiv integritet som motvikt

Kognitiv integritet är förmågan att förbli hel i en teknologisk verklighet.
Det är förmågan att behålla struktur i tänkandet medan världen blir allt mer probabilistisk.
Att se, tolka och värdera utan att tappa riktning.

Det börjar med medvetenhet, att lägga märke till vad som formar oss, vilka mönster vi förstärker och hur vi bidrar till systemet som lär av oss.
Varje klick, paus och tvekan blir data. Att förstå det är första steget mot att återta tolkningen.

Kognitiv integritet kan tränas, som en muskel eller ett språk.
Genom att läsa långsamt, samtala utan mål, reflektera innan reaktion, och ställa frågor som inte kräver svar.
Det handlar om att återinföra djup i en miljö som belönar hastighet.
Att skapa små öar av reflektion där information bearbetas i stället för att bara konsumeras.

För organisationer handlar det om att bygga kulturer där reflektion är en del av arbetet. Beslut som grundas i förståelse snarare än enbart data.
Kunskap som mäts inte i hur snabbt den produceras, utan i hur väl den integreras.

För oss människor handlar det om att ta ansvar för sitt kognitiva landskap.
Att välja vilka informationsflöden vi vistas i.
Att låta vissa frågor stå öppna tills de känns förankrade.

Kognitiv integritet är i grunden förmågan att förbli förstående.
Det handlar om att möta framtiden med riktning och närvaro, så vi inte går vilse inom oss själva.

När sanningen blir flerdimensionell

AI har blivit det nya normala.
Det känns naturligt att vända sig till en modell för svar, råd eller bekräftelse.
Många samtal börjar där, även privata.
Studier visar att människor allt oftare diskuterar personliga frågor med sina språkmodeller, tankar om hälsa, relationer, stress eller vardagsbeslut.

Modellen är alltid tillgänglig, samlad och ickedömande.
Den svarar snabbt, följer vårt resonemang och får oss att känna oss förstådda.
I en och samma dialog kan den röra sig från psykologi till näring, från färgval till matsäck.
Ett universellt bollplank, friktionsfritt och bekvämt.

Men här uppstår en loop.
Hur vet vi att det vi får tillbaka är faktabaserat och kompetent?
Språkmodeller kan innehålla felaktigheter, men de talar med självförtroende och flyt.
De säger aldrig: ”Jag vet inte riktigt, men jag skulle gissa detta utifrån min erfarenhet.”
Och det gör det svårt att skilja säkerhet från sannolikhet.

När något låter både kompetent och bekräftande vaknar våra biaser.
Vi tror inte för att vi vet, utan för att det låter trovärdigt.
Det är den moderna illusionen av allvetande, syntetisk trygghet förklädd till kunskap.

Att förstå detta kräver en ny relation till sanning.
Inte som en punkt, utan som ett fält där tolkning, teknik och mänsklig erfarenhet samspelar.
Det är där kognitiv integritet blir avgörande, den inre kompass som hjälper oss att se nyanser, även i det som känns självklart.

AI kommer att förbli en del av våra liv, och det är bra.
Men när sanningen blir flerdimensionell behöver vårt tänkande bli lika precist som tekniken som formar vårt språk.
Först då kan vi använda den som resurs utan att låta den forma vårt omdöme.

Hur språkmodeller fungerar tekniskt

Här följer den utökade versionen av den förenklade lista som beskrivits tidigare i artikeln.

  1. Tokenisering
    Text delas upp i små enheter, så kallade tokens, ofta delord. Varje token representeras som en vektor i ett högdimensionellt rum.

  2. Kontextfönster
    Modellen bearbetar inte bara det senaste ordet utan hela sekvensen av tokens inom sitt kontextfönster (upp till 128 000 tokens i GPT-5, beroende på modellkonfiguration). Det ger sammanhang och korttidsminne.

  3. Prediktion
    Modellen beräknar sannolikhetsfördelningar för nästa token och väljer en baserat på parametrar som temperature, top-k eller top-p sampling.

  4. Själv-uppmärksamhet (self-attention)
    Denna mekanism gör att varje token kan relatera till alla andra tokens i sekvensen utifrån relevans och position, vilket skapar kontextuell förståelse.

  5. Generering
    Texten produceras token för token. Efter varje tillägg uppdateras kontexten och påverkar nästa prediktion.

  6. Finjustering och RLHF
    Modellen förfinas genom reinforcement learning from human feedback (RLHF), där tränare belönar svar som är hjälpsamma, korrekta och säkra.

  7. Filtrering och moderering
    Efterbearbetning filtrerar bort eller justerar innehåll som bedöms olämpligt eller missvisande.

För mer om RLHF och belöningssystem, se Vad är Reinforcement Learning (förstärkningsinlärning)?

Att hitta sin egen ton i samarbetet med AI

Att hitta sin egen ton i samarbete med en språkmodell är en del av det nya språkarbetet.
Det handlar om att föra en medveten dialog med tekniken och låta ditt eget resonemang vara utgångspunkten.

Ett enkelt men avgörande råd är att låta din prompt börja i din egen tanke.
Formulera din tes, din vinkel och det du vill uttrycka.
Den första texten du får tillbaka är ett utkast, ett råmaterial.
Det bär fortfarande modellens generiska språk och behöver bearbetas, vässas och nyanseras.

Det är i den bearbetningen din ton uppstår.
Mellan modellens sannolikhet och ditt omdöme formas språket som blir ditt.

Språkmodeller kan ge fler människor möjlighet att uttrycka sig.
De kan fungera som ett hjälpmedel för att sätta ord på tankar som annars hade förblivit tysta.
Men samma teknik som stärker vår röst kan också börja forma vårt sätt att resonera.
Om vi inte är aktiva i bearbetningen riskerar vi att låta modellen tänka åt oss, och då försvinner nyanserna.
Det är när vi reflekterar, omformulerar och väljer våra ord som språket blir vårt eget.

Vidare läsning

Denna artikel är en del av serien Metakognitiva reflektioner, som utforskar samspelet mellan kognition, uppmärksamhet och teknik.