Model Q* (Q-Star) fra OpenAI frygtes af forskere at kunne udgøre en trussel mod menneskeheden
OpenAI, kendt for deres banebrydende arbejde inden for kunstig intelligens, har for nylig været genstand for kontroverser efter at have udviklet en ny avanceret AI-model kaldet Q* (udtalt “Q-Star”). Denne model har vakt bekymring blandt medarbejderne for dens potentielle magt og sikkerhedsrisici. Det skriver avisen The Guardian
Q*-modellen, som har kapaciteten til at løse matematiske problemer, den ikke tidligere har set, har skabt så meget uro, at nogle forskere hos OpenAI skrev til bestyrelsen for at advare om, at den kunne udgøre en trussel mod menneskeheden. Denne handling skete før Sam Altmans afskedigelse som CEO, som siden er blevet genindsat efter en næsten enstemmig trussel om opsigelse fra virksomhedens 750 ansatte.
Forstyrrelserne opstod i en periode med tumult hos OpenAI, baseret i San Francisco. Altmans midlertidige efterfølger, Emmett Shear, understregede, at Altmans afskedigelse ikke var relateret til specifikke uenigheder om sikkerhed.
Denne udvikling har rejst spørgsmål i AI-fællesskabet om hastigheden, hvormed virksomheder som OpenAI bevæger sig mod udviklingen af kunstig generel intelligens (AGI) – et system, der kan udføre en bred vifte af opgaver på et menneskeligt eller overmenneskeligt intelligensniveau. AGI kunne teoretisk set undslippe menneskelig kontrol.
Andrew Rogoyski fra Instituttet for Menneskecentreret AI ved University of Surrey bemærkede, at evnen hos store sproglige modeller (LLMs) til at udføre matematik er et stort skridt fremad og tilbyder nye analytiske kapaciteter.
OpenAI, oprindeligt grundlagt som en nonprofitorganisation, har en bestyrelse, der styrer en kommerciel datterselskab ledet af Altman. Microsoft er den største investor i den for-profit del af virksomheden. I forbindelse med Altmans genindsættelse vil OpenAI have en ny bestyrelse under formandskab af Bret Taylor, tidligere co-CEO for softwarefirmaet Salesforce.
OpenAI hævder at være etableret med målet om at udvikle “sikker og gavnlig kunstig generel intelligens til fordel for menneskeheden” og at den kommercielle del er “juridisk forpligtet til at forfølge nonprofitorganisationens mission”.
The Guardian har spurgt OpenAI om en kommentar til udviklingen af Q*-modellen og frygten hos medarbejderen, men de var ikke vendt tilbage inden avisens artikel blev trykt/udsendt.
