När stöd blir styrning

När AI förändrar referensramarna

Studier visar att AI-assistans kan höja träffsäkerheten i stunden men samtidigt minska vår förmåga när stödet inte finns. En metaanalys av 44 randomiserade studier visar att AI-stödd koloskopi höjer adenomdetektionen med 8 procentenheter. I en flercenterstudie publicerad i The Lancet Gastroenterology & Hepatology sjönk samtidigt adenomdetektionen vid koloskopier utan AI-stöd från 28,4 % till 22,4 %, efter att endoskopisterna börjat arbeta regelbundet med AI. Forskning publicerad i Royal Society Open Science pekar på en liknande trend inom vetenskaplig kommunikation: språkmodeller tenderar att generalisera bredare än sina källor, vilket öppnar för att vi tolkar och prioriterar information annorlunda.

Det handlar inte om en plötslig förlust av kompetens. Förändringen är tyst och ackumulerande, en gradvis anpassning där vårt eget arbete anpassas till systemets logik.

Förändringen är tyst och ackumulerande, en gradvis anpassning där vårt eget arbete anpassas till systemets logik.

Från aktör till observatör

Automation bias är en av de mest väldokumenterade mekanismerna bakom denna förskjutning. När systemet föreslår ett svar, minskar benägenheten att ifrågasätta även om förslaget är fel. Detta gäller inte bara inom medicin eller vetenskap, utan i alla arbetsmiljöer där AI fungerar som filter, vägvisare eller beslutsunderlag.

Resultatet blir deskilling över tid. Fallet med koloskopister är inte ett undantag, utan en tidig indikator. Om förmågan försämras i ett område med så höga krav på precision, är sannolikheten stor att vi ser samma mönster i fler sektorer. Vi kommer sannolikt att få fler rapporter och studier som bekräftar detta, och behovet av att införa kognitiv riskhantering kommer bara att växa. Ju tidigare vi styr in på det spåret, desto större är chansen att vi bevarar och utvecklar våra färdigheter snarare än att gradvis förlora dem.

"När vi låter system fatta våra beslut, tränar vi bort vår egen förmåga. Frågan är: vad händer sen?"
— Katri Lindgren

Kognitiv integritet i praktiken

Kognitiv integritet är förmågan att bevara och använda sin tolkningskapacitet även när externa system levererar färdiga slutsatser. Det handlar om att behålla en egen inre struktur för hur information värderas, verifieras och sätts i kontext.

I praktiken betyder det att aktivt skapa friktion mot den passiva bekräftelselogiken. Att ibland läsa långsammare. Att medvetet välja källor som inte är förprocessade. Att ställa följdfrågor som systemet inte själv föreslår. Det är små handlingar som tillsammans utgör ett motstånd mot en utveckling där stöd riskerar att bli styrning.

Kognitiv integritet är förmågan att bevara och använda sin tolkningskapacitet även när externa system levererar färdiga slutsatser.

Perspektivet som saknas, systemnivån

Frågan om deskilling och automation bias reduceras ofta till individens förmåga eller ansvar. Men de största konsekvenserna uppstår på systemnivå: när organisationers kompetensförsörjning, beslutsvägar och strategier formas av verktyg vars logik är optimerad för snabb leverans, inte nödvändigtvis för djup förståelse (synthetic safety).

Att hantera detta kräver mer än individuella strategier. Det kräver att AI-integrationen designas med redundans, manuella kontrollpunkter och möjlighet till oberoende verifiering, och att dessa ses som långsiktiga investeringar, inte som hinder.

Nästa steg i diskussionen

AI har accelererat vårt arbete. Frågan är hur vi kan använda tekniken som en katalysator för mänsklig skicklighet, inte som en ersättning för den. Den tysta förskjutningen från aktör till observatör är svår att upptäcka i realtid, men lättare att förebygga om vi redan från början bygger system och kulturer som värnar om kognitiv uthållighet.

Det är där nästa diskussion behöver börja. Inte i frågan om vi kan använda AI, utan hur vi kan använda det utan att förlora förmågan att tänka själva.

Vidare läsning samt källor till siffror och påståenden

Källor

• Budzyń K, Romańczyk M, Kitala D, m.fl. Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study. The Lancet Gastroenterology & Hepatology. 2025;10(10):896–903. DOI 10.1016/S2468-1253(25)00133-5 Retrospektiv observationsstudie vid fyra endoskopicentrum i Polen inom ACCEPT-studien. Kvaliteten mättes tre månader före och tre månader efter att AI-stöd infördes i verksamheten. Jämförelsen gäller koloskopier som utfördes utan AI-stöd i båda perioderna: 795 undersökningar före och 648 efter. Adenomdetektionen sjönk från 28,4 % (226 av 795) till 22,4 % (145 av 648), en absolut skillnad på 6,0 procentenheter (p = 0,0089). Författarna påpekar att designen är känslig för urvalsbias och störfaktorer och att fler kontrollerade studier behövs.

• Soleymanjahi S, Huebner J, Elmansy L, m.fl. Artificial intelligence-assisted colonoscopy for polyp detection: a systematic review and meta-analysis. Annals of Internal Medicine. 2024;177(12):1652–1663. Metaanalys av 44 randomiserade studier. AI-stödd koloskopi ökade adenomdetektionen med 8 procentenheter jämfört med standardkoloskopi.

• Peters U, Chin-Yee B. Generalization bias in large language model summarization of scientific research. Royal Society Open Science. 2025;12(4):241776. DOI 10.1098/rsos.241776 Tio språkmodeller testades och 4 900 genererade sammanfattningar jämfördes med sina originaltexter. De flesta modellerna generaliserade bredare än originalet även när de uttryckligen ombads vara korrekta. Sammanfattningar från modeller var nära fem gånger mer benägna att innehålla breda generaliseringar än sammanfattningar skrivna av människor (oddskvot 4,85). Nyare modeller presterade sämre än äldre. Studien mäter texternas innehåll och undersöker inte effekten på läsares tolkning.

Vidare läsning

• AI och kvalitet: från mikronivå till systemrisk
  En genomgång av hur AI påverkar precision och beslutsfattande, från kliniska mikronivåer till strukturella systemrisker.

Utforska fler perspektiv i Metakognitiva reflektioner, en artikelserie av Katri Lindgren.