Vad klarar AI inte av? Begränsningar och faktakoll

Varför är det bra att känna till begränsningarna?

AI skriver flytande, snabbt och med säker röst. Just därför är dess misstag lömska: felaktig information ser exakt likadan ut som korrekt. Ingen skulle skriva under ett dokument utan att ha läst det. Samma sak gäller text från AI.

Den här guiden är ingen varning för att använda AI. Det är en bruksanvisning: när du känner till begränsningarna vet du när du kan lita på svaret och när du ska kontrollera.

1. Hallucinationer: AI hittar på saker

En hallucination är när AI hittar på en uppgift som inte finns och presenterar den som sann. Den kan hitta på:

• en lagparagraf eller en FPA-förmån som inte finns
• en bok, en studie eller en tidningsartikel som aldrig publicerats
• ett företags telefonnummer, adress eller öppettider
• ett citat som ingen har sagt

Varför händer det? En språkmodell är tränad att producera trovärdig text. När den inte minns något fyller den luckan med något som låter rätt. Den ljuger inte medvetet, men resultatet blir ändå fel. Mer bakgrund i guiden hur AI fungerar.

Nyare modeller gör färre fel, och många kan redan säga "jag är inte säker". Problemet har ändå inte försvunnit, så det är fortfarande viktigt att kontrollera.

2. Föråldrad information

En AI-modell har tränats fram till ett visst datum. Den vet inte automatiskt vad som hänt sedan dess: nya lagar, ändrade priser, valresultat eller om närbutikens öppettider har ändrats.

Det här är särskilt viktigt i Finland, där belopp och regler för till exempel beskattning, FPA-förmåner, elpriser och pensioner ofta ändras vid årsskiftet. AI kan ge fjolårets siffra som om den gällde i år.

En del tjänster kan söka på nätet och visar då oftast länkar till källorna. Till exempel Perplexity är byggd just för att söka och visa källor. Även då lönar det sig att öppna länken och se om källan verkligen säger samma sak.

3. Matematik och exakta siffror

Det låter överraskande, men ett datorprogram kan räkna fel. Orsaken är att en språkmodell behandlar siffror som text och inte räknar som en miniräknare. Enkla uträkningar blir oftast rätt, men långa uträkningar, procent, ränteberäkningar och skillnader mellan datum kan bli fel.

Många tjänster använder i dag ett separat räkneverktyg i bakgrunden, vilket har förbättrat läget tydligt. Ändå: räknar du månadsrater för ett lån, momsandelar eller en budget, kontrollera resultatet med miniräknare eller kalkylprogram. Mer i guiden Excel och data.

4. Källor och hänvisningar

Om du ber AI:n ange sina källor kan den ge en lista som ser övertygande ut – men en del länkar fungerar inte eller artiklarna finns inte. Det gäller särskilt tjänster som inte söker på nätet.

Tumregel: en källa är en källa först när du själv har öppnat den och sett att där står det som AI:n påstår.

5. Saker som AI inte kan veta

AI vet ingenting om din egen situation om du inte berättar. Den ser inte Mina Kanta-sidorna, ditt skattekort, ditt bankkonto eller ditt företags bokföring. Den vet inte vad läkaren sade till dig förra veckan. Därför passar allmänna råd inte alltid just din situation.

Den kan inte heller bedöma saker som kräver sinnen och ett besök på plats: om stugans tak verkligen är i dåligt skick, om källaren luktar mögel eller om en begagnad bil är ett bra köp.

Så kontrollerar du AI:ns svar – fem steg

1. Fråga hur säker den är. "Hur säker är du på det här? Vilka delar borde jag kontrollera?" AI kan ofta själv peka ut de svaga punkterna.
2. Be om källor och öppna dem. Nöj dig inte med en länklista, utan öppna åtminstone de viktigaste.
3. Kontrollera på den officiella webbplatsen. FPA, Skatteförvaltningen (vero.fi), Mina Kanta, Traficom, din kommuns sidor eller företagets egna sidor är alltid pålitligare än AI:ns svar ur minnet.
4. Fråga med andra ord eller en annan AI. Om svaren motsäger varandra är åtminstone det ena fel.
5. Använd sunt förnuft. Låter något för bra eller konstigt för att vara sant är det ofta så. Livserfarenhet är det bästa verktyget här.

Prova: be AI:n granska sig själv

När du har fått ett viktigt svar, kopiera den här följdfrågan till samma samtal:

Det gör inte svaret automatiskt rätt, men det lyfter fram de punkter som du bör kontrollera.

Var AI är bra – och var den inte är det

Sammanfattning

AI kan hitta på saker, ge föråldrad information, räkna fel och erbjuda källor som inte finns. Den vet inte heller något om din situation om du inte berättar. Det gör den inte oanvändbar – det gör den till ett verktyg som ska användas med eftertanke. Använd AI för utkast, förklaringar och idéer, och kontrollera alltid siffror, lagar och hälsofrågor i officiella källor. Fler tips för bättre frågor finns i guiden så frågar du AI på rätt sätt.