Amerikanske nyhedsmedier svømmer over med eksempler, hvor Googles nye ‘AI Summary’-funktion giver forkerte og bizarre svar. Det har fået selskabet til at deaktivere funktionen for en del søgninger.
Googles ‘AI Summary’-funktion skal give et AI-genereret overblik over det, som brugeren har søgt på, der optræder før selve søgeresultaterne. Funktionen blev officielt lanceret for alle amerikanske brugere ved udviklerkonferencen I/O for et par uger siden. Men nu bliver den kritiseret for at levere forkerte oplysninger.
‘AI Summary’ har været i betatest i næsten et år, og Googles CEO Sundar Pichai har oplyst, at Google har behandlet over en milliard forespørgsler i denne periode. Men de seneste fejl har rejst tvivl om funktionens brugbarhed. Selskabet arbejder nu på højtryk for at rette fejlene og forbedre systemet. I mellemtiden er funktionen blevet deaktiveret for en stor del søgninger.
En af de væsentlige problemer er tilsyneladende AI’ens manglende evne til at skelne mellem humor og fakta. For eksempel blev en Reddit-brugers ironiske anbefaling om at bruge lim til at få ost til at hænge fast på pizzadej taget ganske alvorligt af Googles AI. Den har også anvendt nyheder fra satire-websitet The Onion som kilde til fakta. Det har ført til både hån og kritik på sociale medier.
En anden udfordring er, at ‘AI Summary’ nogle gange leverer præcise sammenfatninger, men fra upålidelige kilder. Et eksempel på dette var en ‘AI Summary’ der hævdede, at ingen af Afrikas 54 lande starter med bogstavet “K”, hvilket ignorerer Kenya. Apropos Kenya, så er ‘AI Summary’ også blevet taget i at videreformidle den gamle konspirationsteori om at USAs tidligere præsident, den halvt kenyanske Barack Obama, er muslim.
Griber hurtigt ind
Googles talskvinde Meghann Farnsworth har i en e-mail til The Verge bekræftet, at selskabet træder hurtigt i aktion for at fjerne ‘AI Summary’ på bestemte forespørgsler og bruger disse eksempler til at forbedre systemet. Dette omfatter også beskyttelse mod manipulation af billeder og misinformation. Det er naturligvis langt fra første gang, at AI’er anklages for at sprede misinformation, hvilket sker på grund af, hvad der blandt AI-folk kaldes “hallucination”.
AI-eksperten Gary Marcus, der også er emeritus-professor i neurovidenskab ved New York University, har i denne forbindelse udtalt, at det er relativt nemt at opnå de første 80 procents korrekthed for generative AI’er. Men de sidste 20 procent er ekstremt udfordrende og kræver avanceret ræsonnering og faktatjek, som nuværende store sprogmodeller ikke kan levere.
Google har store planer for ‘AI Summary’, herunder multitrins ræsonnering for komplekse forespørgsler og AI-organiserede søgeresultat-sider. Google har lovet, at deres nye AI-søgeværktøjer vil gøre det nemmere og hurtigere at finde information online, hvilket som bekendt er firmaets kerneforretning.
‘AI Summary’ er en del af Googles større satsning på at integrere Gemini AI-teknologien i alle deres produkter, men de seneste problemer risikerer i stedet at underminere Googles omdømme som en troværdig kilde til online information.
