Hallusinasjon

Hva er en hallusinasjon?

Fordi en språkmodell produserer det som er språklig sannsynlig, kan den fylle ut hull med noe som ser riktig ut. Den finner på et telefonnummer, en åpningstid, en referanse eller en påstand om et selskap.

Feilen er ikke bevisst. Modellen har ingen mekanisme for å merke at den ikke vet.

Hvorfor er det et forretningsproblem?

Fordi feilen kan gjelde din bedrift. Feil adresse, feil tjenestetilbud eller en påstand om at dere ikke finnes i et område dere faktisk dekker, får konsekvenser når svaret leses som en anbefaling.

Risikoen er størst der det finnes lite entydig informasjon om selskapet. Da har modellen mer å gjette på.

Hva reduserer risikoen?

Konsistente og lett tilgjengelige grunnopplysninger: samme navn, adresse og telefonnummer overalt, tydelig beskrivelse av hva dere gjør og hvor, og maskinlesbare data som bekrefter det. Jo mindre det er å gjette på, jo mindre gjettes det.

Relaterte begreper

• Stor språkmodell (LLM) — En stor språkmodell er et AI-system trent på svært store mengder tekst, som svarer ved å forutsi hvilke ord som mest sannsynlig følger.
• Grounding — Grounding er når en AI-tjeneste forankrer svaret sitt i faktiske kilder den henter inn der og da, i stedet for å svare kun fra det modellen har lært på forhånd.
• NAP (navn, adresse, telefon) — NAP er de tre grunnopplysningene navn, adresse og telefonnummer, som må være identiske overalt en virksomhet er oppført.
• Entitet — En entitet er en klart identifiserbar ting i verden — en bedrift, en person, et sted eller et produkt — som en søkemotor eller AI-tjeneste kan kjenne igjen som noe eget.