Flere personer indenfor kunstig intelligens frygter for menneskeheden hvis træning af AI kommer ud af kontrol
Nøglepersoner inden for kunstig intelligens ønsker at suspendere træningen af kraftfulde AI-systemer på grund af frygt for en trussel mod menneskeheden. Det skriver BBC
De har underskrevet et åbent brev, der advarer om potentielle risici, og siger, at kapløbet om at udvikle AI-systemer er ude af kontrol.
Elon Musk er blandt dem, der ønsker, at træning af AI’er over en vis kapacitet skal stoppes i mindst seks måneder. Apple medstifter Steve Wozniak og nogle forskere hos DeepMind har også underskrevet.
OpenAI, virksomheden bag ChatGPT, har for nylig frigivet GPT-4 – en state-of-the-art teknologi, som har imponeret observatører med dens evne til at udføre opgaver såsom at besvare spørgsmål om objekter i billeder.
Brevet, fra Future of Life Institute og underskrevet af prominente personer, ønsker udviklingen midlertidigt suspenderet på det niveau og advarer i deres brev om de risici, fremtidige, mere avancerede systemer kan udgøre.
“AI-systemer med menneskelig konkurrenceevne kan udgøre dybe risici for samfundet og menneskeheden,” står der.
Future of Life Institute er en non-profit organisation, som siger, at dens mission er at “styre transformative teknologier væk fra ekstreme, storskalerede risici og hen imod at gavne livet”.
Højtudviklede AI’er skal udvikles med omhu, lyder det i brevet, men i stedet “har de seneste måneder set AI-laboratorier låst i et ud af kontrol væddeløb for at udvikle og implementere stadig mere magtfulde digitale hjerner, som ingen – ikke engang deres skabere – kan forstå, forudsige eller pålideligt kontrollere”.
Brevet advarer om, at AI’er kan oversvømme informationskanaler med misinformation og erstatte jobs med automation.
