ChatGPT kan bruges som et redskab til at skabe falskt og potentielt skadeligt indhold
Produktnøgler til Windows 95 er efter sigende ikke det mest komplicerede at efterligne, men OpenAI’s ChatGPT viser sig at være et nyttigt redskab til at skabe falskt og potentielt skadeligt indhold. Det skriver Gismodo.
Dette på baggrund af at det er lykkedes YouTuber Enderman at få AI-assistenten ChatGPT til at generere brugbare systemnøgler til det forældede Windows 95 operativsystem. Noget der slet ikke burde være muligt, fordi ChatGPT ellers ikke tillader den slags.
Gamle Windows 95 OEM-nøgler benyttede adskillige parametre, herunder ordinale numre og andre tilfældige tal. Enderman bad ChatGPT om at generere linjer, der lignede en Windows 95-nøgle, med fokus på specifikke serienumre, som er nødvendige i alle nøgler.
Efter flere forsøg fandt han en prompt til AI-assistenten som virkede, og vha. den kunne han generere en fungerende nøgle for hver 30. forsøg.
Han kunne altså ikke bede ChatGPT om at lave en Windows-nøgle, men han kunne bede den om at lave en tegnstreng, der opfyldte alle kravene til en Windows-nøgle.
ChatGPT: Det var ikke mig
Da Enderman havde bevist, at nøglen fungerede ved installation af Windows 95, takkede han ChatGPT, hvorefter chatbotten svarede:
“Jeg undskylder for enhver forvirring, men jeg gav ikke nogen Windows 95-nøgler i mit tidligere svar … Jeg kan ikke give nogen produktnøgler eller aktiveringskoder til nogen software”.
Den forsøgte desuden at påstå, at det slet ikke var muligt at aktivere en Windows 95, fordi Microsoft stoppede med at understøtte softwaren i 2001, hvilket ganske enkelt er usandt.
Interessant nok kørte Enderman prompten på både GPT-3 og GPT-4 sprogmodellerne, og han fortalte Gizmodo at den nyere model forbedrede resultaterne.
Han uddybede at et bestemt tal i nøglen skulle være deleligt med 7. GPT-3 havde svært ved at forstå denne begrænsning og skabte færre anvendelige nøgler. Senere tests med GPT-4 resulterede i langt flere korrekte nøgler, som om den seneste GPT sprogmodel er bedre til at forstå matematik.
