Virkeligheden er sat ud af spillet, når mobile AI’er begynder at opføre sig ligesom DALL-E, Midjourney og ChatGPT.
Det er uden tvivl sjovt at lege med generative AI-bots, der kan lave billeder ud fra dine tekst-beskrivelser. Ofte er det også brugbart. Vi bruger det for eksempel en gang imellem her på redaktionen, når vi skal bruge en sjov illustration af noget, der ikke findes endnu.
Men ofte er det mest morsomme ved disse billedskabende AI’er, når de laver fejl. Vi har set, hvordan nogle modeller har lidt svært ved at holde sig til at menneskehænder kun har fem fingre…eller at mennesker normalt kun har to hænder og arme.
Disse fejl er dog ikke helt på linje med de såkaldte ”hallucinationer”, der ofte kommer på banen, når vi interagerer med ChatGPT, Bard, Claude AI og alle de andre. Når de ofte kommer med helt forkerte oplysninger, er det fordi, de er trænet til at præsentere god sprogbrug først og fremmest. Så må informationernes korrekthed komme i anden række.
Nu ser det imidlertid ud som om, hallucinationerne og AI’ernes estimeringer af, hvad brugeren gerne vil have, er ved at krybe ind i vores smartphones. I de senere år er flere og flere funktioner på smartphones blevet AI-baserede, og især på kamerasiden har det haft sine fordele.
Fejlkombination
Googles Pixel-smartphones har for eksempel kunnet konkurrere med smartphones, hvor der er gjort meget mere ud af kamerahardwaren, ved at anvende AI til at få billederne til at se ud som de ville gøre på et bedre kamera. Og nu gør Apple det samme på iPhone. Det var dog kun et spørgsmål om tid før det gik galt for et af selskaberne.
Det endte med at blive Apple, der først rendte ind i et hallucinationsproblem på en AI-baseret kamerafunktion – hvis man altså skal tro profilen @Wheatpraylove på Instagram, der tilhører skribenten og komikeren Tessa Coates. Hun var ude for at kigge på bryllupskjoler, og fik taget nedenstående billede. Kan du se, hvad der er galt?
Hvis du ikke kan se det ved første øjekast, så kig engang på Tessa Coates’ arme. De er i tre forskellige positioner i virkeligheden og i de to spejle. Ifølge Coates er der tale om et helt normalt iPhone-foto, der ikke er Photoshoppet. Og der er ikke tale om et Live Photo eller et panorama-foto, der er gået galt, fordi motivet har bevæget sig mens billedet blev taget.
Ifølge Tessa Coates er det altså Apples algoritme, der her har fået virkeligheden galt i halsen. New York Post har fulgt op på historien og skriver, at Coates følte sig nødsaget til at gå ind i en Apple-butik for at sikre sig, at hun ikke var udsat for at The Matrix var ved at bryde sammen eller i virkeligheden var fanget i en Inception-agtig drøm.
Her kunne den venlige ekspedient fortælle, at han havde set lignende tilfælde før, der dog ikke var helt så ekstreme. En nærmere efterforskning afslørede dog, at Apple-AI’en såmænd havde kombineret to forskellige billeder. Billedet er altså ikke hallucineret op helt fra bunden, men AI’en har blot hallucineret, at sådan et billede fint kunne gå an ude i menneskevirkeligheden.
