AI-chatbots kan føre til et ’videnskollaps’

• Af:
  
• John Nyberg

Hvor man før "googlede" sig frem til information har AI-chatbots taget over som den gængse måde at finde svar på stort set alt. Men, de store sprogmodeller, som AI-chatbots er baseret på, giver brugerne et markant smallere udvalg af information end en almindelig internetsøgning, viser et studie anført af Datalogisk Institut på KU:

”Samtlige sprogmodeller, vi har testet, giver brugeren mere ensartet information end en simpel Google-søgning på tværs af alle de emner, vi undersøgte. Folk bliver altså i høj grad eksponeret for den samme information igen og igen. Så AI-chatbots ændrer ikke kun, hvordan vi finder viden, men også hvilken viden vi får adgang til,” siger førsteforfatter Dustin Wright, der er tidligere adjunkt på Datalogisk Institut, og i dag tilknyttet Aalborg Universitet, AAU.

Forskernes undersøgelse viser, at selv den sprogmodel med de mest mangfoldige svar, nemlig GPT-5 fra OpenAI, giver mindst 18,7 procent mindre varieret information end traditionel Google-søgning. Således er der, ifølge forskerne, langt fra konsekvensfrit, at folk i stigende grad bruger AI-modeller som deres primære indgang til information:

“Vi risikerer, at folk bliver eksponeret for færre forskellige perspektiver og et smallere udvalg af viden. Og så kan der opstå en ond cirkel, hvor det mest populære indhold bliver endnu mere dominerende, mens andet indhold bliver mere og mere overset,” siger professor og seniorforfatter Isabelle Augenstein fra Datalogisk Institut,Data, og tilføjer:

”Det er ligesom med globaliseringen. I dag kan du få de samme varer og finde de samme kaffekæder næsten overalt i verden. Det giver mange fordele, men har også reduceret mangfoldigheden.”

Den lave diversitet i sprogmodellerne skyldes ifølge forskerne, at modellerne fungerer ved at komprimere den enorme mængde tekst, de er trænet på, og lære de mønstre, der går mest igen. I den proces frasorterer de information, der afviger fra de mest almindelige mønstre.

I undersøgelsen kan man dog se, at de seneste modeller giver lidt mere varierede svar end de ældre modeller, så videnskollapset er ikke i gang endnu. Men, mekanismen, der på længere sigt kan udløse det, er til stede, idet sprogmodeller lærer af AI-genererede sprogmodeller.

”Selvfølgelig kan AI-chatbotters opsummeringer være nyttige – det er jo derfor, så mange bruger dem. Men det er vigtigt stadig at opsøge forskellige kilder for at forstå nuancerne og få et bredere billede – især for den yngre generation, der vokser op med AI. Vi må ikke blive så afhængige af teknologien, at vi holder op med selv at forstå og tænke,” påpeger Isabelle Augenstein.

Også AI-branchen bør have et blik på problemet, mener forskerne:

”Vi håber AI-udviklerne vil lave sprogmodeller på en måde, der bevarer bredden i den viden, vi mennesker har adgang til. Vi har her en metode, de kan bruge til at måle diversiteten i modellerne, som kan være med til at sikre, at fremtidens sprogmodeller ikke bliver mindre mangfoldige,” slutter Dustin Wright.

Ud over Datalogisk Institut, KU, og AAU så omfatter forskergruppen også repræsentanter for Stanford University, University of Colorado Boulder og University of Texas Austin.