Min yndlings AI-hallucination

Falling into the Rabbit Hole
Ned i kaninhullet

Vidste du, at en engelsktalende kun har 167 ord til sin rådighed, i modsætning til os dansktalende, som kan prale af at kunne hele 17.241 ord? Nej, vel? Alligevel var det, hvad Googles AI, Gemini Advanced, forsøgte at overbevise mig om med vanlig AI-selvsikkerhed, da jeg for nylig mødte den.

Jeg spurgte den på dansk, om det er bedre at prompte på engelsk frem for et ikke-engelsk sprog som dansk, og om Gemini, ligesom ChatGPT, bruger et oversættelseslag, når den kommunikerer på dansk, så vi faktisk har en (meget) mindre hukommelse i vores chats.

Læs min artikel: Sådan håndterer du en AI’s begrænsede hukommelse

Ned i kaninhullet

Og så pludselig, midt i en ellers ret informativ samtale, faldt vi ned i det berygtede kaninhul fra Alice i Eventyrland. Først hævdede Gemini, at engelsk har et ordforråd på 250.000 ord, mens dansk har et meget mindre ordforråd på 100.000 ord.

Man skulle tro, at det ville afgøre sagen. Men nej, Gemini opfinder en ny fortolkning af det lingvistiske begreb ”vocabulary density” (normalt brugt til at beregne, hvor let eller kompleks en tekst er at læse) ved at dividere, hvad den mener, er antallet af ord i det engelske sprog med, hvad den tror, er antallet af engelsktalende, og sådan bliver engelsk lige pludselig et lille og fuldstændig ubrugeligt sprog, der gør den babylonske sprogforvirring til en sand leg, idet hver engelsktalende tildeles 167 unikke og tilfældige ord, som ingen andre kan bruge:

”Engelsk har en befolkning på ca. 1,5 milliarder mennesker, mens dansk har en befolkning på ca. 5,8 millioner mennesker. Dette betyder, at der er ca. 167 ord per person i engelsk og ca. 17.241 ord per person i dansk.”

Du kan se Geminis fulde svar til mig i dette skærmbillede:

Udover at være umådelig sjovt, er det lidt skræmmende, at vi integrerer AI i alle dele af vores IT-infrastruktur.

Sådan kan du reducere mængden af hallucinationer

Her er 5 ting, du kan gøre for at reducere mængden af hallucinationer, når du arbejder med AI:

  1. Prompt kun om emner, hvor du har tilstrækkelig viden, så du ved, hvordan du skal prompte, og hvordan du evaluerer svaret. Dette er især vigtigt med AI-automatisering. Og hvis du er i tvivl om resultatet, så tjek pålidelige kilder.

  2. Kontroller, om AI’en har tilstrækkelig viden om dit interesseområde. Hvis ikke, så upload dine data.

  3. Brug en større AI-model (hvilket ofte er ensbetydende med en betalingsversion), da større modeller har tendens til at hallucinere mindre end mindre modeller.

  4. Skriv længere, strukturerede prompts med en detaljeret AI-rollebeskrivelse og tilføj relevant kontekst, så AI’en ved, hvor den skal lede efter relevant information i sin vidensbase.

  5. Prompt på engelsk, da sprogmodeller som Gemini (i ovenstående eksempel) favoriserer engelsk over ikke-engelske sprog som dansk.

    Læs min LinkedInpost: Why You Should Prompt in English

Del denne artikel

Picture of Jakob Styrup Brodersen

Jakob Styrup Brodersen

Jeg har arbejdet med datadrevet online optimering i 20 år, i 5 forskellige brancher. Nu arbejder jeg som freelance CRO og AI konsulent: Jeg underviser og rådgiver i, hvordan man kan udnytte fordelene ved AI, og jeg hjælper med at skrive prompts.