Bl.a. Amazon, Google, Meta, Microsoft og OpenAI har afgivet et fælles løfte om at gøre AI-genereret indhold mere troværdigt med f.eks. vandmærkning.
Fremtiden ser ud til at blive en lille smule sikrere, når det gælder misinformation og deepfakes skabt af de mange generative AI’er, der pibler frem alle vegne fra lige nu. Syv af de største AI-firmaer har lovet at skabe nye sikkerhedsforanstaltninger, der skal skabe tillid til AI i befolkningen.
Det er sket på foranledning af den amerikanske præsident Joe Biden og hans vicepræsident, Kamala Harris. I fredags mødtes repræsentanter for Amazon, Anthropic, Google, Inflection, Meta, Microsoft og OpenAI i Det Hvide Hus for at give håndslag på en frivillig forpligtelse til at udvikle af AI på en ”sikker og gennemsigtig” måde, som det hedder i en pressemeddelelse.
Selv om det er den amerikanske præsident, der har stået i spidsen for initiativet, rækker forpligtelserne langt ud over USA’s grænser. Ud over, at de syv selskaber står for AI-produkter, der bruges over hele verden, har Biden-Harris-administrationen koordineret forpligtelserne med lande over hele verden, inklusive nogle af de største EU-lande, Storbritannien, Indien, Japan, Sydkorea, med flere.
Og hvad er det så, de foreløbig syv selskaber har forpligtet sig til? Først og fremmest har firmaerne afgivet en musketér-ed på at ”sikkerhedsteste AI-systemer internt og eksternt” før de slippes ud til offentligheden. Disse sikkerhedstests skal blandt andet foretages af uafhængige eksperter.
Mekanismer ”såsom” vandmærkning
Dertil kommer et løfte om gennemsigtighed, der udmønter sig i vidensdeling omkring risici forbundet med AI’er. Firmaerne forpligter sig til at dele information om bl.a. problematiske hændelser, retningslinjer for sikker brug, og teknologiske samarbejder med offentligheden, myndighederne og forskermiljøet.
Men der, hvor brugerne måske kommer til at se resultatet af løfterne først, er når det gælder AI-genereret materiale. Firmaerne forpligter sig nemlig også til at indføre ”teknologiske mekanismer, der lader brugerne vide, når indhold er AI-genereret, såsom vandmærkning”. Det betyder dog ikke, at der kommer til at være et Microsoft-logo i hjørnet af alle billeder genereret via Microsofts integration af DALL-E, for eksempel.
Digitale vandmærker kan være så små, at du skal zoome meget langt ind for at se dem, eller så usynlige, at det kræver specialprogrammer at aflæse dem. Men det er naturligvis stadig nok til at ikke-vandmærket indhold kan ses som værende mere utroværdigt end vandmærket indhold.
Det lille ord ”såsom” indikerer også, at firmaerne ikke forpligter sig til decideret at bruge vandmærkning, men også kan anvende andre ”mekanismer”. Det kan være noget så simpelt som indikation af indholdets ophav i filens eller bitstrømmens metadata, eller noget mere avanceret som et blockchain-baseret mega-register over indhold, der genereres med firmaernes produkter.
Uanset hvad, har de syv selskaber lovet at iværksætte initiativerne med det samme, så det varer næppe længe, før vi hører mere om dem. Det skal naturligvis også nævnes, at det lige nu vælter ud med open source-baserede, generative AI’er, som individuelle aktører kan bruge uden hensyntagen til de ovenstående løfter.
