OpenAI har annonceret betydelige forbedringer til deres sprogmodeller, og GPT-4 får turbo på
Der er forbedringer på trapperne til ChatGPT, med ændringer for sprogmodellerne, GPT-4 og GPT-3.5. Ændringer der blandt andet inkluderer opdaterede videnbaser og en væsentligt forlænget input-vindue. På sin første udviklerkonference mandag afslørede firmaet, at GPT-4 Turbo, som nu er tilgængelig i en API preview, vil blive tre gange billigere for udviklere. Desuden vil OpenAI følge eksemplet fra Google og Microsoft og begynde at beskytte deres kunder mod ophavsretssager. Det skriver The Verge
GPT-4 Turbo, som er trænet med oplysninger opdateret frem til april 2023, vil inden for de kommende uger blive tilgængelig i en produktionsklar model, dog uden en præcis lanceringsdato. Den tidligere version af GPT-4, der blev udgivet i marts, var kun trænet med data opdateret til september 2021.
Den nye version vil tillige kunne “se” mere data med et input-vindue på 128K, hvilket ifølge OpenAI svarer til “mere end 300 sider tekst i en enkelt prompt”. Større input-vinduer betyder at ChatGPT kan forstå mere af spørgsmålet og tilbyde mere gennemtænkte svar. Tidligere udgav OpenAI to versioner af GPT-4, en med et input-vindue på kun 8K og en anden på 32K.
OpenAI oplyser, at det er billigere for udviklere at køre GPT-4 Turbo. Input vil koste kun $0.01 per 1.000 tokens – den basale enhed af tekst eller kode for LLM’er at læse – sammenlignet med de $0.03 på GPT-4. Hvert output vil være $0.03 per 1.000 tokens. Samlet set er den nye version af GPT-4 tre gange billigere end de tidligere versioner.
Den nyeste version af GPT-4 vil fortsat acceptere billedprompts, tekst-til-tale forespørgsler og integrere DALL-E 3 billedgenerator.
Virksomheden siger, at forbedringerne til GPT-4 Turbo betyder, at brugere kan bede modellen om at udføre mere komplekse opgaver i en prompt. Brugere kan endda bede GPT-4 Turbo om specifikt at anvende det programmeringssprog de foretrækker for resultater, som kode i XML eller JSON.
Virksomheder, der bruger GPT-3.5 Turbo modellen, vil også se forbedringer i input-vinduer, funktionalitet og prisfastsættelse. Den vil som standard have et 16K input-vindue og de samme funktion opdateringer som GPT-4 Turbo. GPT-3.5 Turbo vil koste $0.01 for input og $0.002 for output.
Ud over forbedringerne til flagskibsmodellen, annoncerede OpenAI også, at de vil følge Microsoft og Googles eksempel og tilbyde ophavsretsfrihed til erhvervsbrugere gennem et program kaldet Copyright Shield.
