En AI-assistent skriver flytande, sammanhängande och självsäkert — även när den har fel. Fenomenet kallas ofta "hallucination": AI hittar på information som låter helt rimlig men inte stämmer.

Varför AI "hittar på" men ändå låter äkta

Kom ihåg det centrala: en språkmodell slår inte upp fakta i ett lexikon. Den förutsäger den mest sannolika textföljden utifrån vad den läst. "Låter rimligt" och "är sant" överlappar för det mesta — men inte alltid, och det är där faran ligger.

När du bör vara mest på din vakt

  • Siffror, statistik och specifika datum.
  • Citat, dokumentnamn, länkar — AI kan hitta på länkar som inte finns.
  • Lagar, regler och myndighetsrutiner — där ett fel ord ställer till det.
  • Namn, titlar och uppgifter om verkliga personer.

Omvänt är risken mycket lägre för språkbaserade uppgifter — skriva om, sammanfatta, föreslå idéer, brainstorma — eftersom det inte finns ett enda "rätt svar" att fabricera fel.

En enkel princip: använd AI för att skriva och föreslå, men för varje siffra eller fakta du tänker föra vidare, kontrollera vid källan. En minut extra är mycket billigare än ett fel som gått ut.

Jag var nära att skicka en rapport med siffror som AI hittat på, men som lät helt övertygande. Sedan dess har jag en regel: varje siffra granskas mot källan innan jag skriver under.

— Johan, verksamhetschef

Att arbeta med AI handlar inte om att lita blint eller misstro allt. Det handlar om att veta när du kan lita på det, när du bör granska — och att hålla ditt eget omdöme påslaget.