Europa-parlamentet har vedtaget en resolution, der opfordrer EU-lande til at forbyde automatisk, offentlig ansigtsgenkendelse og begrænse politiets brug af AI.
I det kinesiske teknologimekka Shenzhen er et af de centralt beliggende fodgængerfelter ikke som de andre. Ved dette trafikkryds er der en skærm, der dels demonstrerer et semi-privat firmas kapacitet, når det gælder avanceret ansigtsgenkendelse, og dels, hvad staten formår, når de anvender firmaets teknologi.
Hvis fodgængere krydser over, mens der er rødt, bliver deres ansigter genkendte, identificeret og smidt op på en skærm på den anden side af krydset – med navn og det hele. Det er en slags offentlig gabestok, som myndighederne bruger til at sørge for, at folk holder sig inden for lovens rammer.
I flere amerikanske stater bruger myndighederne lignende ansigtsgenkendelse, men primært bag kulisserne, hvor offentligt (og knapt så offentligt) indsamlet overvågningsmateriale analyseres og bruges af politimyndigheder til at lokalisere og samle beviser mod mistænkte lovbrydere. Adskillige byer og stater har dog modsat forbudt sådanne aktiviteter i USA.
Men i EU vil politikerne helst undgå begge scenarier. Således vedtog Europa-parlamentet onsdag en resolution, der opfordrer medlemslandene til at forbyde brug af automatisk ansigtsgenkendelse i det offentlige rum i forbindelse med håndhævelse af loven.
Lægger pres på medlemslande
Resolutionen gør det stadig muligt at bruge ansigtsgenkendelse, hvis politiet jagter en mistænkt, men automatisk genkendelse af alle, der passerer forbi en sensor, med efterfølgende registrering af deres lokation, bør ikke finde sted ifølge resolutionen. ”Bør” er det rette ord at anvende her, for resolutionen er nemlig ikke bindende, og har til formål at lægge pres på medlemslandenes regeringer, så de selv indfører en lignende lovgivning.
Dette pres kan dog gå hen og blive ganske effektivt, eftersom resolutionen blev vedtaget med et stort flertal – 377 mod 268. 62 medlemmer af Europa-parlamentet undlod at stemme. At der er bred enighed om resolutionen i Europa-parlamentet har også betydning, fordi resolutionen indeholdt flere andre opfordringer til regulering af det digitale privatliv i unionen.
Med resolutionen opfordrer parlamentet også EU-kommissionen til at arbejde i retning af et forbud mod private ansigtsdatabaser i EU. Et sådant forbud vil formentlig ulovliggøre den slags ansigtsgenkendelses-systemer, som Salling Group blev kritiseret for at have sat op i Bilka, Føtex og andre supermarkeder over sommeren (og siden har taget ned igen).
Der er også blevet plads til at prøve at stoppe ’Minority Report’-lignende tilstande fra at udvikle sig, eftersom parlamentets resolution også opfordrer kommissionen til at anbefale et forbud mod såkaldt ”predictive policing”. Det refererer til politiets brug af AI og Big Data til at forsøge at forudsige risikoen for forøgelse af kriminaliteten i et givent, geografisk område.
Tilbage i april fremladge EU-kommissionen et lovforslag om regulering af AI helt generelt, som flere kommissioner under EU-parlamentet tygger på p.t. Dette lovforslag er langt mere gennemgribende og sætter lovmæssige rammer for stort set al anvendelse af kunstig intelligens.
