AI-hallusinasjoner: 9 tiltak som virker

AI-hallusinasjoner er en teknologisk barnesykdom som ikke stopper din virksomhet fra å utnytte kunstig intelligens til stor gevinst, så lenge du tar dine forholdsregler.

Feilinformasjon er bare et problem hvis den slipper igjennom uten kontroll. Du trenger ikke å si nei takk til økt effektivitet, kreativitet på høygir og betydelig produktivitetsvekst.

For alt dette, og mer til, er åpent tilgjengelig for din virksomhet gjennom målrettet AI-integrasjon. AI-hallusinasjonene kan du temme med riktig praksis, inntil utviklerne av AI-løsningene får ryddet dem av veien.

I denne artikkelen får du 9 konkrete tiltak som tillater din virksomhet å dra nytte av AI, uten å bekymre deg for uønskede AI-hallusinasjoner.

Les også: Ansvarlig AI-integrasjon: Sjekkliste for bedrifter

Gratis E-bok

AI-ordliste: Kunstig intelligens enkelt forklart

Denne AI-ordlisten er laget spesielt for ledere i norske virksomheter. Her får du de viktigste begrepene innen kunstig intelligens (KI) kort forklart, uten fagprat.

Last ned gratis E-bok

Hva er AI-hallusinasjoner?

Du har sikkert opplevd det: du stiller et enkelt spørsmål til en språkmodell, og svaret kommer tilbake med imponerende selvtillit, men det er feil. Dette er AI-hallusinasjoner. 

Kort forklart betyr det at systemet genererer tekst som ser troverdig ut, men som ikke har rot i faktiske data. Årsaken ligger både i hvordan språkmodeller fungerer og hvordan de evalueres. 

La oss ta ChatGPT. Den gjetter neste ord i en gitt sammenheng basert på mønstre i enorme mengder tekst. Det gir ofte briljante svar, men åpner også for at den «dikter opp» når informasjonen mangler eller er tvetydig. 

Modellen testes grundig av OpenAI, og belønnes for gjetting fremfor ærlig usikkerhet, akkurat som en elev som heller resonnerer seg frem enn å levere blankt.

Hvorfor fjerner ikke utviklerne dette? Fordi hallusinasjoner er en innebygd konsekvens av probabilistisk tekstgenerering og dagens evalueringssystemer. Å eliminere dem fullstendig ville også ødelegge modellens kreativitet, fleksibilitet og evne til å håndtere åpne spørsmål.

Det er viktig å være klar over at språkmodeller som ChatGPT er utviklet for å jobbe med språk. Det er ikke modellens feil at vi alle bruker den som en informasjonskilde. Strengt tatt bruker vi den «feil», fordi den gir enorme muligheter for verdiskaping.

Utfordringen er derfor ikke å fjerne fenomenet, men å redusere det og kontrollere når det oppstår, særlig i situasjoner hvor presisjon er kritisk for din virksomhet.

Les mer: KI sprer løgner dobbelt så ofte som i fjor – feilinformasjon florerer som aldri før

9 tiltak som kurerer AI-hallusinasjoner

Den gode nyheten er at hallusinasjoner kan håndteres. Ikke med én enkel løsning, men med en kombinasjon av teknikker. I praksis handler det om å bygge et rammeverk rundt språkmodellen som gjør den mer pålitelig i den konteksten du bruker den.

Vi skal nå se nærmere på følgende ni konkrete tiltak:

• Forankring i egne dokumenter (RAG)
  
• Tilpasning til din virksomhet (finetuning)
  
• Still krav til kilder
  
• Ikke ta kildene for god fisk
  
• Feilforebyggende promptformulering
  
• Selvkonsistens: flere utkast og konvergens
  
• Skjemavalidering og regelbasert guardrailing
  
• Evalueringssett og monitorering i drift
  
• Menneske i loopen med QA-sjekkliste
  

Til sammen gir dette en systematisk verktøykasse. Noen tiltak er raske å sette i gang, andre krever mer teknisk innsats. Vi skal gå gjennom dem i tur og orden.

Gratis E-bok

Sjekkliste for oppstart med AI-agenter

AI-agents krever ikke millionbudsjett, ekspertansettelser eller «disruptive» prosjekter for å skape verdi. Slik gjør du virksomheten din klar til å dra nytte av AI-agenter.

Last ned gratis E-bok

1. Forankring i egne dokumenter (RAG)

Når presisjon teller, gjelder det å hindre at språkmodellen bare «gjetter». Løsningen er å forankre svarene i dine egne dokumenter. 

Dette kalles Retrieval-Augmented Generation (RAG), eller enklere sagt: modellen søker først i virksomhetens dokumenter, og bygger deretter svaret sitt på det den finner.

Fordelen er todelt:

• Trygghet: Du vet at svaret bygger på kilder du selv kontrollerer.
• Sporbarhet: Alle svar kan spores tilbake til originaldokumentet.

I praksis settes dette ofte opp gjennom et API, altså et standardisert grensesnitt som lar ulike systemer snakke sammen. Det betyr at språkmodellen kan «plugges inn» i dokumentlageret ditt uten at du må bygge nye systemer fra bunnen av. 

For en mellomstor bedrift kan dette være alt fra prosedyrer og håndbøker til kontrakter og kundedokumentasjon. Resultatet er en AI-assistent som både snakker godt norsk, og faktisk kjenner virksomheten din.

Trenger du hjelp med å utvikle interne AI-løsninger med API, trening av språkmodeller med egne data, eller iverksetting av AI-agenter? Tenk Digitalt kan bidra med alt dette. Les mer om våre tjenester innen AI-integrasjon her!

2. Tilpasning til din virksomhet (finetuning)

Mens forankring i dokumenter gjør at AI svarer riktig på konkrete spørsmål, løser det ikke alt. Språkmodeller er generalister. De kan litt om alt, men mangler ofte dybdekunnskap om din bransje og din virksomhet.

Her kommer finetuning eller bruk av såkalte «adaptere» inn. Kort sagt handler det om å trene modellen videre på dine egne data, slik at den lærer terminologien, prosessene og erfaringene som gjør virksomheten din unik.

Når vi snakker om «trening», betyr det ikke at du starter et forskningsprosjekt. Det er mer som å gi modellen en oppdateringspakke basert på materiale du allerede har, for eksempel produktkataloger, rutiner eller kundedialoger.

Fordelen er at modellen «snakker språket» til organisasjonen. Dermed blir hallusinasjonene færre, og svarene mer presise for både ansatte og kunder.

Lær mer: Generativ AI: Slik trener du ChatGPT til å styrke din posisjon i markedet

3. Still krav til kilder

Et enkelt, men svært effektivt tiltak er å instruere språkmodellen om alltid å angi kilder når den gir faktabaserte svar. Når kildene uteblir, er det en varsellampe: svaret bør dobbeltsjekkes før det brukes.

For deg som leder betyr dette en tydelig praksis: innfør en regel i virksomheten om at AI-svar uten kilder aldri kan behandles som endelige. 

Dermed bygger du inn en sunn skepsis som reduserer risikoen for at feilinformasjon sniker seg inn i beslutningsgrunnlaget ditt.

4. Ikke ta kildene for god fisk

At en språkmodell oppgir kilder betyr ikke automatisk at de er riktige. Mange hallusinasjoner handler nettopp om falske eller feilsiterte referanser. Det er heller ikke uvanlig at AI trekker inn useriøse aktører med lav troverdighet.

Neste steg er derfor å sette modellen til veggs: be den forklare hvor i kilden påstanden faktisk står, eller gjengi avsnittet. Hvis svaret uteblir eller blir vagt, må informasjonen undersøkes nærmere.

For en mellomstor bedrift kan dette gjøres enkelt: innfør en rutine der alle som bruker AI i arbeidssammenheng ber om en kildesjekk før informasjon sendes videre i beslutningskjeden.

Slik sikrer du at AI ikke blir en snarvei til usikker kunnskap, men et verktøy som styrker kvaliteten på beslutningene dine.

I tillegg kan det være lurt å instruere modellen om å kun bruke kilder fra bestemte aktører eller akademiske miljøer. For eksempel kan du begrense den til Google Scholar eller andre autoritative databaser.

Les også: Slik sikres bærekraftig AI-drift og mindre press på datasentre

5. Feilforebyggende promptformulering

Mange AI-hallusinasjoner oppstår fordi vi stiller for åpne spørsmål. Et diffus prompt gir et diffust svar. Presise instruksjoner gir bedre kontroll og mer relevante resultater.

Eksempel:

• Dårlig prompt: «Hva er status for norsk økonomi?»
• Bedre prompt: «Oppsummer hovedpunktene fra SSBs siste publiserte kvartalsrapport om norsk BNP-vekst.»

Forskjellen ligger i at du rammer inn spørsmålet med både kontekst, kilder og ønsket format. Da reduserer du risikoen for at modellen improviserer og fyller inn hullene med noe den «tror» passer.

For virksomheter betyr dette at promptskriving bør sees på som en kjernekompetanse. Det er ikke komplisert, men det krever bevissthet og litt trening. 

Akkurat som Excel ble en standardferdighet på 90-tallet, vil promptskriving bli en grunnleggende ferdighet i 2020-årene.

Les mer: Lynkurs i prompt engineering — legg grunnlaget for AI-suksess

6. Selvkonsistens: flere utkast og konvergens

Hvorfor stole på ett eneste svar fra en språkmodell når du kan få flere? En enkel måte å redusere hallusinasjoner på er å be modellen gi deg flere utkast på samme spørsmål, og så se hvor de overlapper. 

Hvis tre av fire peker i samme retning, øker sjansen kraftig for at det faktisk stemmer. Dette kalles selvkonsistens. AI kan produsere mange utkast raskt, uten ekstra kostnad. For deg betyr det at du kan bygge inn en «flertallsbeslutning» i hvordan virksomheten bruker AI.

I praksis kan dette gjøres på to nivåer:

• Manuelt: Ansatte ber om flere svar og sjekker mønstre selv.
• Automatisert: Systemet er satt opp til å hente inn flere utkast og velge det mest konsistente.

Poenget er enkelt: du reduserer risikoen for å falle for et enkelt hallusinerende svar, og dermed får du bedre kvalitet i beslutningsgrunnlaget.

7. Skjemavalidering og regelbasert guardrailing

Kildesjekk handler om hvor informasjonen kommer fra. Guardrailing handler om å legge inn regler for hvordan informasjonen må se ut før du kan stole på det. Tenk på det som en siste sikkerhetssjekk, som når tallene må stemme før økonomiavdelingen godkjenner et regnskap.

Eksempel: Ber du modellen hente et organisasjonsnummer, kan systemet automatisk sjekke at det følger riktig format og finnes i Brønnøysundregistrene. Ber du den om et budsjettall, kan du legge inn grenser som sørger for at svaret holder seg innenfor din egen budsjettramme.

Dette får du ikke til med åpne AI-løsninger på nett. Skal du bruke guardrailing i praksis, må det bygges inn i virksomhetens egne AI-løsninger gjennom API og intern integrasjon. Reglene settes opp én gang og går deretter av seg selv i bakgrunnen.

Poenget er enkelt: AI får ikke lov til å levere svar som bryter med rammene du har satt. Slik kutter du risiko og bygger tillit til at AI faktisk kan brukes trygt i din virksomhet.

Les også: Gjør kunstig intelligens oss smartere eller dummere? (Slik påvirkes hjernen)

8. Evalueringssett og monitorering i drift

Et evalueringssett er en testpakke med spørsmål modellen må klare for å være nyttig for din virksomhet. Nøkkelen er innholdet: dropp lærebokfakta. 

Bruk virksomhetsspesifikke, ferske og litt kinkige spørsmål der modellen faktisk kan bomme. Velg ett tema av gangen, pek ut én autoritativ kilde per tema, og lag 20–30 spørsmål. Oppdater settet kvartalsvis når rutiner og tall endres.

Eksempler:

• «Hva er gjeldende satser i vår interne reisepolicy?»
• «Oppsummer de tre siste kundeklagene på produkt X.»
• «Hva var nøkkeltallene fra SSBs siste kvartalsrapport om norsk BNP?»

Sjekk svar mot fasit i dine kilder. Riktig = treff. Feil eller manglende kilde = hallusinasjon. Mål treffsikkerhet, hallusinasjonsrate og kildekvalitet (gyldig, klikkbar kilde). Sett terskel (f.eks. 90 % treff + 0 ubegrunnede påstander) og sammenlign runde for runde.

I drift trenger du samme disiplin som ellers: logg prompt og svar, krev kildelenker, ta daglige stikkprøver, og justér når avvik dukker opp. Legg inn en enkel «riktig/feil»-knapp i brukerflaten med årsakskode, så bygger du læring over tid.

Merk: Automatisering av dette krever intern AI-integrasjon via API.

Les også: Hva betyr EUs AI Act (KI-forordning) for din bedrift?

9. Menneske i loopen med QA-sjekkliste

AI skriver raskt, men siste ord skal være menneskelig når noe kan få konsekvenser. «Menneske i loopen» betyr at et AI-utkast alltid kvalitetssikres før det brukes i rapporter, kontrakter eller kundedialoger. 

Poenget er tempo uten slurv: En kort QA-sjekkliste gjør kontrollen effektiv. Er kilder oppgitt og sporbare? Stemmer tall mot autoritative registre eller interne masterdata, og er datoen tydelig? Er språk og tone tilpasset målgruppen og formatet? 

Når disse spørsmålene besvares før publisering, bygger du forutsigbar kvalitet uten flaskehalser, og effektiviserer en rekke prosesser i samme sleng.

Hva bedriften tjener på å kurere AI-hallusinasjoner

La oss være krystallklare: Hallusinasjoner er ikke bare et teknisk irritasjonsmoment. De er en direkte trussel mot kundeforhold, beslutningskvalitet og i verste fall virksomhetens juridiske og regulatoriske trygghet. Én feilplassert setning kan koste mer enn hundre riktige.

Derfor er det ikke valgfritt å ta kontroll. Det er et lederansvar. Og gevinsten? Den er tredelt og svært håndfast:

• Beslutningskraft – Når fakta stemmer, tas beslutninger på solid grunnlag.
• Effektivitet – Når feilinformasjon stoppes før den sprer seg, frigjøres arbeidstid til verdiskaping.
• Omdømme – Når kunder og partnere ser at du styrer AI med fast hånd, øker respekten og tilliten til virksomheten din.

Å kurere AI-hallusinasjoner handler altså ikke om å være teknologioptimist, men om å være forretningsstrateg. Når du bygger et system rundt AI som setter grenser, sikrer kilder og involverer mennesker, forvandler du et usikkert verktøy til en konkurransefordel.

For deg som leder er budskapet enkelt: Overlat aldri sannheten til en språkmodell alene. Bygg strukturen som gjør AI til en pålitelig partner, og du får både kraften og tryggheten i samme pakke.

Les mer: 10 AI-tips som optimaliserer din bedriftsledelse

Merk at vi har utviklet to AI-løsninger som automatiserer store deler av både markedsføring (inkludert SEO) og salg for norske virksomheter. Hvis du vil effektivisere dine prosesser kan du lese mer her om vår Marketing Intelligence og Sales Intelligence.

Foredrag med Jan Storehaug

Fremtidens verktøy – praktisk bruk av AI med Jan Storehaug

Hvordan kan kunstig intelligens og ny teknologi gi konkrete fordeler i din hverdag som leder? Jan Storehaug holder foredrag som gir praktiske råd, eksempler og løsninger du kan ta i bruk umiddelbart.

Les mer