Efter en ny rapport er kommet på banen, indrømmer Amazon, at selskabet bruger stemmekommandoer i reklamesammenhæng. Men der er huller i forskningen, siger selskabet.
Vi ved det jo godt. Det er bare nogle gange nemt at glemme. Men stort set alle steder, hvor der lovligt kan indsamles data fra vores interaktion med forskellige devices, bliver det gjort. Og vi siger selv ja til det, når vi accepterer brugervilkårene for den enkelte enhed.
Det gælder naturligvis også smarthøjttalere. Ejere af Googles Nest Home-højttalere har næppe nogensinde været i tvivl om at de forskellige opgaver, brugeren sætter højttaleren på via Google Assistant bliver registreret og brugt i andre sammenhænge. Det er ikke usædvanligt at se en musikkunstner, du ofte har lyttet til via højttaleren, dukke uanmeldt op i dit Google-baserede nyhedsfeed, f.eks.
Men det er måske lidt mindre åbenlyst, hvordan disse mekanismer rent faktisk virker, og hvor grænserne går. Af samme grund satte et hold af i alt ti forskere fra fire meget velansete amerikanske universiteter sig for at teste Amazons Alexa-assistent. Det har nu resulteret i en rapport, som forskerne har lagt op på forskningssiden Arxiv.
I rapporten har forskerne tilvejebragt et inspektionssystem, der via diverse til lejligheden opfundne person-profiler sender stemmeinput ind i Alexa via en Echo-højttaler. Derefter måler systemet, hvor der dukker personliggjorte reklamer, søgeresultater eller anbefalinger op, der kan spores tilbage til disse stemmeinput.
Skræddersyede reklamer på tredjeparts-medier
Forskerne fremviser resultater, der indikerer, at hvad man siger til Alexa (efter at have brugt vække-ordet og således aktiveret lydoptagelse), bliver brugt til at skræddersy ”radioreklamer” på musik-streamingtjenester og bannerreklamer på websites. Dette går ud over det forventelige, hvor f.eks. Amazon-butikkens anbefalinger eller Amazon-bannerreklamer påvirkes af, hvad man har sagt til Amazons egen virtuelle assistent.
Lauren Raemhild fra Amazon indrømmer overfor The Verge, at det sidste finder sted: ”Ligesom når du køber noget fra Amazon.com eller har lyttet til musik via Amazon Music, eller har bedt Alexa om at bestille toiletpapir, kan registreringen af disse handlinger hjælpe med at gøre reklamer mere relevante for brugeren på Amazon eller andre steder, Amazon placerer reklamer”.
Men Raemhild understreger samtidig, at ”Vi deler ikke vores kunders personlige informationer med tredjepart til brug i skills [en slags Alexa-apps, red.] uden kundernes tilladelse”. Alexa giver i indstillingerne mulighed for helt at standse personliggørelse af reklamer baseret på personlige data.
Det bør også nævnes, at Arxiv, hvor rapporten er blevet offentliggjort, blot er en åben platform, hvor alle forskere kan lægge forskningsrapporter op. Det betyder ikke, at rapporten er ”publiceret”, som det hedder i forskningssammenhænge, når forskning gennemgår faglig vurdering i det, der hedder en ”double-blind peer review”-proces.
”Upræcise spekulationer”
I sidstnævnte bliver en anonymiseret version af forskningsrapporten og dens konklusioner vurderet uafhængigt af to eller tre eksperter på området, som også forbliver anonyme igennem hele processen. Kun redaktøren af det pågældende forskningsmedie kender de involveredes identitet og typisk foretager redaktøren også en endelig vurdering af materialet.
Først, når alle er enige om at der er tale om betydningsfuld, korrekt udført og etisk forsvarlig forskning bliver resultaterne publiceret i forskningsmediet og anset for at være faktuelle. Og det er altså tilsyneladende ikke sket for den pågældende rapport endnu.
Amazon har altså muligvis noget at have det i, når firmaet i sit svar på rapporten, som en talsperson har givet til The Verge, mener, der kan rettes kritik af forskningsresultaterne. Raemhild siger, at i modsætning til rapportens konklusioner, holder Amazon de indsamlede data indenfor de rammer, der er sat af Amazon og firmaets partnere i fællesskab.
”Mange af konklusionerne er baseret på upræcise spekulationer og er ikke en korrekt refleksion af, hvordan Alexa virker”, siger Raemhild, ”Vi sælger ikke vores kunders personlige informationer, og vi deler ikke ting, kunden siger til Alexa med annonce-netværk”. Udtalelsen kommer som respons på rapportens ordlyd om at ”det ser ud som om, Amazon deler betydelige mængder data med adskillige tredjeparter”.
Svært at styre, hvor data ender henne
Ifølge Amazon deles data kun med tredjepart i forbindelse med en decideret aftale med Amazon om at lave f.eks. de såkaldte ”skills” (en slags apps) til Alexa og Echo-højttalerne. Og Amazon kræver at disse tredjeparter giver kunderne mulighed for at stoppe data-delingen og de skal også offentliggøre privatlivs-betingelserne for denne skill på nettet.
Hvis du f.eks. bruger Spotify gennem Alexa får Spotify altså adgang til disse data og bør i princippet kun bruge dem på Spotify. Og de bør give mulighed for at slå det fra. ”For eksempel kan en reklamefinansieret musik-streamingtjeneste give kunderne mulighed for at lade kunderne slå interesse-baserede reklamer til eller fra, hvor tjenesten kan bruges”, siger Raemhild til The Verge.
Forskerne fandt dog, at tredjeparternes datadelings-dokumentation i forbindelse med skills ofte var mangelfuld. Endvidere dokumenterer forskerne, at personliggjort annoncering baseret på inputs til Alexa dukkede op på websites, der ikke står Amazon på.
Det tyder på, at ikke alle tredjeparter i systemet følger reglerne, og er en påmindelse om, at når først vore data er sendt ud i verden, er det svært at styre, hvor de ender henne. Det gør det også svært for lægmand at vurdere, om Amazons praksis er i strid med GDPR i EU og lignende lovgivninger i USA’s enkelte stater, herunder Californien, hvor en del af forskerne har hjemme.
