Sycophancy betyder medhåll
Ett tekniskt ord för ett välbekant fenomen.
Ordet sycophancy har funnits i AI-forskningen i flera år. Det förekommer i papers, i modellutvärderingar och i teknisk dokumentation från de stora AI-bolagen, och under det senaste året har det tagit steget ut i den bredare diskussionen om hur språkmodeller påverkar oss. Ordet låter specialiserat, som en egenskap bara forskare kan mäta och bara ingenjörer kan åtgärda.
Läs mer
Bekräftelsemaskinen
Om syntetisk trygghet, tolkningsmellanrummet och MIT-papret som bekräftar
I nästan två decennier har jag arbetat med hur digitala system påverkar mänskligt beteende och kognition. När språkmodellerna slog igenom började jag systematiskt korsa neurovetenskap, beteendeforskning och LLM-arkitektur för att förstå vad som faktiskt händer när människor samtalar med AI.
Läs mer
Håll dig uppdaterad
Få nyheter, artiklar och inspiration direkt i din inkorg.