Hvad er en AI-hallucination?
En AI-hallucination er, når en AI-model giver et svar, der lyder overbevisende, men som er forkert eller helt opdigtet. Det kan være falske fakta, kilder der ikke findes, eller tal uden grundlag. Fænomenet er især kendt fra chatbots og andre værktøjer bygget på store sprogmodeller.
Hvorfor hedder det en hallucination?
Ordet er lånt fra psykologien, hvor en hallucination er en oplevelse af noget, der ikke er der. Når en AI-model hallucinerer, præsenterer den noget som fakta, selvom det ikke har rod i virkeligheden.
Nogle forskere kritiserer ordet, fordi det får modellen til at lyde menneskelig. På dansk bruges også "opdigtede svar" eller "fejlinformation". Hallucination er dog blevet det mest brugte ord, også i danske medier og virksomheder.
Hvad er årsagen til AI-hallucinationer?
En stor sprogmodel er trænet til at forudsige, hvilke ord der mest sandsynligt kommer efter hinanden. Den slår ikke fakta op i en database. Den skriver det, der lyder mest sandsynligt ud fra de mønstre, den har lært.
Det fungerer godt i de fleste tilfælde. Når modellen mangler viden, gætter den dog i stedet for at sige, at den ikke ved det. Resultatet er en tekst, der lyder lige så sikker, uanset om den er rigtig eller forkert.
Typiske årsager er:
- Manglende viden: Emnet var sjældent eller fraværende i træningsdata.
- Forældet viden: Modellen kender ikke til begivenheder efter sin træning.
- Uklare spørgsmål: Prompten giver plads til mange tolkninger.
- Pres for at svare: Modellen er trænet til at være hjælpsom og giver hellere et svar end intet.
- Lange opgaver: Fejl i starten af en lang tekst kan føre til nye fejl senere.
Hvordan ser en AI-hallucination ud?
Hallucinationer kan være svære at opdage, fordi de ofte er skrevet i samme sikre tone som resten af svaret. Typiske eksempler er:
- Kilder, artikler eller domme, der ikke findes.
- Citater, som den nævnte person aldrig har sagt.
- Tal og statistikker uden grundlag.
- Forkerte detaljer om virksomheder, produkter eller personer.
- Funktioner i et system, som ikke findes.
- Links, der fører til sider, som aldrig har eksisteret.
Hvorfor lyder hallucinationer så overbevisende?
Sprogmodeller er trænet på enorme mængder tekst skrevet af mennesker. De har lært, hvordan en troværdig tekst lyder, med fagord, præcise tal og en sikker tone. Den sproglige kvalitet er den samme, uanset om indholdet er rigtigt eller forkert.
Det gør hallucinationer svære at opdage for læsere, der ikke kender emnet. Jo mere professionelt svaret lyder, jo mindre tilbøjelige er vi til at tjekke det. Derfor er det ofte de velskrevne fejl, der slipper igennem.
Hvordan kan en AI-hallucination se ud i marketing?
Tallene og situationen her er et tænkt eksempel. En marketingmedarbejder beder en AI-chatbot om at skrive en artikel om branchens udvikling med tre statistikker. Svaret indeholder tre præcise procenttal med navnet på et analysefirma som kilde.
Ingen af tallene findes i virkeligheden. Modellen har skrevet noget, der ligner den slags statistikker, den har set mange gange før. Hvis artiklen bliver udgivet uden kontrol, kan en kunde eller konkurrent opdage fejlen, og virksomhedens troværdighed lider skade.
Hvorfor kan AI-hallucinationer være farlige?
En hallucination bliver et problem, når nogen handler på den. I marketing kan det være en artikel med forkerte fakta, en pressemeddelelse med et opdigtet citat eller et salgsmateriale, der lover noget, produktet ikke kan.
Konsekvenserne kan i værste fald være tabt troværdighed, juridiske problemer og forkerte beslutninger. Et forkert tal i en analyse kan fx føre til, at budgettet bliver fordelt forkert. Derfor skal AI-svar altid tjekkes, før de bliver brugt til noget vigtigt.
Hvor ofte hallucinerer AI?
Det varierer meget mellem modeller, opgaver og emner. De nyeste modeller hallucinerer generelt mindre end de første versioner, og modeller med adgang til søgning eller egne dokumenter er mere præcise.
Risikoen er størst ved sjældne emner, præcise tal, navne, datoer og kildehenvisninger. Den er mindre ved generelle forklaringer, omskrivning af tekst, som brugeren selv har leveret, og opgaver, hvor svaret kan kontrolleres med det samme.
Hvordan opdager man en AI-hallucination?
- Tjek kilderne: Find artiklen, rapporten eller dommen, og se, om den findes og siger det samme.
- Vær skeptisk over for præcise tal: Tal med decimaler og årstal uden kilde er et advarselstegn.
- Spørg igen: Stil samme spørgsmål på en anden måde. Skifter svaret, er modellen sandsynligvis usikker.
- Bed modellen vurdere sig selv: Spørg, hvilke dele af svaret den er mindst sikker på.
- Brug en fagperson: Den, der kender emnet, opdager ofte fejl, som andre overser.
Hvordan mindsker man risikoen for hallucinationer?
- Giv modellen kilderne: Indsæt de dokumenter eller fakta, svaret skal bygge på.
- Skriv præcise prompts: God prompt engineering mindsker gætteriet.
- Bed om kilder: Bed modellen henvise til, hvor oplysningerne kommer fra, og tjek dem.
- Giv lov til at sige "ved ikke": Skriv i prompten, at modellen skal sige det, hvis den mangler viden.
- Del store opgaver op: Korte, afgrænsede opgaver giver færre fejl end lange.
- Brug RAG: Lad AI-løsningen hente svarene i virksomhedens egne dokumenter.
- Tjek altid fakta: Tal, navne, citater og kilder skal kontrolleres af et menneske.
Hvordan hænger hallucinationer sammen med RAG?
RAG (Retrieval-Augmented Generation) er en metode, hvor AI-løsningen først finder relevante tekststykker i virksomhedens egne dokumenter og derefter skriver svaret ud fra dem. Det giver modellen et fast grundlag at holde sig til.
RAG mindsker risikoen for hallucinationer, men fjerner den ikke helt. Hvis dokumenterne er forkerte, eller systemet finder de forkerte tekststykker, kan svaret stadig blive forkert. Derfor er god datakvalitet i dokumenterne en forudsætning.
Hvad betyder hallucinationer for AI-genereret indhold?
Når virksomheder bruger AI til at skrive tekster, er hallucinationer den største risiko for kvaliteten. Teksten kan lyde professionel og samtidig indeholde fejl, som læseren opdager, før virksomheden selv gør.
Google vurderer indhold på, om det er hjælpsomt og troværdigt. AI-genereret indhold med faktuelle fejl skader både læserens tillid og virksomhedens E-E-A-T. En menneskelig faglig gennemgang er derfor nødvendig, før indholdet bliver udgivet.
Hallucinerer AI-søgninger også?
Ja. AI-svar i søgemaskiner, fx AI Overviews, bygger på sprogmodeller og kan også indeholde fejl. Risikoen er mindre, fordi svarene bygger på søgeresultater, men modellen kan misforstå eller blande oplysninger fra flere kilder.
For virksomheder betyder det, at AI-tjenester kan gengive forkerte oplysninger om dem. Klare og ensartede oplysninger på egen hjemmeside og i andre kilder gør det lettere for AI at give et korrekt billede.
Hvilke opgaver er mest udsatte?
Nogle opgaver er mere risikable end andre:
- Faktatunge tekster: Artikler med tal, årstal, navne og kilder.
- Juridiske og økonomiske emner: Fejl kan få direkte konsekvenser.
- Produktbeskrivelser: Forkerte specifikationer kan skabe klager.
- Citater og cases: Opdigtede udsagn kan skade relationer.
- Analyser: Modellen kan opfinde tendenser, der ikke findes i data.
Mindre risikable opgaver er fx idéudvikling, omskrivning af egen tekst, forslag til overskrifter og struktur. Her bliver resultatet altid vurderet, før det bliver brugt.
Hvad betyder hallucinationer for AI-agenter?
En AI-agent kan selv udføre opgaver, fx sende mails, opdatere systemer eller bestille varer. Hvis agenten handler på en hallucination, får fejlen konsekvenser i virkeligheden, fx en forkert mail til en kunde eller en forkert ordre.
Derfor kræver agenter klare grænser for, hvad de må gøre uden godkendelse. Handlinger med økonomiske eller juridiske konsekvenser bør altid godkendes af et menneske.
Hvem har ansvaret, når AI tager fejl?
Virksomheden har ansvaret for det, den udgiver og sender til kunderne, også når teksten er skrevet af AI. Markedsføringslovens krav om korrekte oplysninger gælder uanset, hvordan indholdet er lavet.
Det betyder, at "det var AI'en" ikke er et forsvar. Den, der godkender teksten, har ansvaret for indholdet. Er I i tvivl om de juridiske konsekvenser på et bestemt område, så tal med en jurist.
Kan man helt undgå AI-hallucinationer?
Nej. Så længe sprogmodeller bygger på sandsynligheder, vil der være en risiko for fejl. Risikoen kan gøres meget mindre med de rigtige metoder, men den forsvinder ikke.
Den bedste beskyttelse er at behandle AI som en dygtig assistent, hvis arbejde altid skal gennemgås. Jo vigtigere opgaven er, jo grundigere skal kontrollen være.
Det er også en god idé at dele erfaringerne internt. Når medarbejderne fortæller hinanden om de fejl, de har fundet, lærer alle hurtigere, hvilke opgaver der kræver ekstra opmærksomhed, og hvordan prompterne kan blive bedre.
Hvordan laver man en politik for AI og hallucinationer?
En kort AI-politik gør det tydeligt, hvordan medarbejderne skal bruge AI ansvarligt. Den bør som minimum beskrive:
- Hvilke opgaver AI må bruges til, og hvilke det ikke må.
- Hvilke oplysninger der aldrig må indtastes, fx fortrolige kundedata.
- Hvem der skal godkende AI-indhold, før det bliver udgivet eller sendt.
- At tal, navne, citater og kilder altid skal kontrolleres.
- Hvordan fejl bliver rapporteret og rettet.
Politikken bør være en del af virksomhedens AI-strategi, så den hænger sammen med de værktøjer og mål, virksomheden har valgt.
Bliver hallucinationer et mindre problem i fremtiden?
Udviklingen går i den rigtige retning. Nyere modeller er bedre til at sige, når de er usikre, og flere værktøjer kan søge på nettet eller i virksomhedens egne dokumenter, før de svarer.
Samtidig bliver AI brugt til flere og vigtigere opgaver. Selv om fejlene bliver færre, kan konsekvenserne blive større. Kontrol og sund skepsis vil derfor fortsat være en del af ansvarlig brug af AI.
Hvad er forskellen på en hallucination og en almindelig fejl?
En almindelig fejl opstår, når en kilde er forkert, eller når nogen misforstår noget. Fejlen kan spores tilbage til et bestemt sted. En hallucination har ingen kilde. Modellen har skabt oplysningen selv ud fra sproglige mønstre.
Forskellen har betydning for kontrollen. En almindelig fejl kan opdages ved at tjekke kilden. En hallucination kræver, at man undersøger, om kilden overhovedet findes. Derfor er det vigtigt at bede om kilder og at åbne dem, før svaret bliver brugt.
Hvad er forskellen på hallucinationer og bias?
En hallucination er et forkert eller opdigtet svar. Bias er en skævhed i svarene, fx at modellen oftere forbinder bestemte job med bestemte køn. Bias kommer typisk fra skævheder i de data, modellen er trænet på.
Begge dele kan påvirke kvaliteten af AI-svar, og begge kræver menneskelig kontrol. Hallucinationer er dog lettere at opdage, fordi de kan tjekkes mod fakta. Bias kræver ofte, at man ser på mange svar samlet og sammenligner dem med, hvordan virkeligheden faktisk ser ud.
Det ser vi i praksis
Når vi arbejder med AI-strategi for B2B-virksomheder, er hallucinationer en af de første ting, vi taler om. Mange medarbejdere bruger allerede AI i hverdagen, men der er sjældent faste regler for, hvad der skal tjekkes.
Det vigtigste er at matche kontrollen til risikoen. En idé til en overskrift kræver ingen kontrol. Et tal i et tilbud til en kunde kræver altid, at en fagperson har set det.
Senest opdateret: 13. november 2026
