Ny digital stämpel gör det enklare att spåra AI-genererad text i ChatGPT och Codex

Så fungerar det – i klarspråk Vattenstämpeln är inte någon synlig symbol på skärmen. Istället fungerar tekniken, kallad textGrain, genom att verktyget gör extremt subtila justeringar i sina ordval när texten skapas. Dessa små mönster i språket är helt osynliga för det mänskliga ögat, men en särskild mottagare kan läsa av mönstret och bekräfta att texten kommer från en AI. Eftersom märkningen är inbyggd i själva ordvalen följer den med även när du kopierar och klistrar in texten i ett annat dokument. Förändringen sker helt i bakgrunden utan att textens kvalitet eller verktygets prestanda påverkas.

Vad du kan göra med det redan idag Om du bor i EU kommer den här funktionen att rullas ut automatiskt till ditt konto för ChatGPT eller Codex under de närmaste veckorna, oavsett om du använder gratisversionen eller en betaltjänst. För utvecklare som bygger egna verktyg via OpenAI:s programmeringsgränssnitt finns funktionen tillgänglig globalt redan nu, även om den är avstängd som standard. Det betyder att det snart finns ett inbyggt system för att underlätta verifieringen av varifrån informationen ursprungligen kommer.

Begränsningar och nästa steg Det finns dock tillfällen då märkningen försvinner eller blir svår att upptäcka. Om en användare redigerar texten manuellt i efterhand, till exempel genom att byta ut var tionde ord mot en synonym, sjunker träffsäkerheten för märkningen drastiskt från drygt 90 procent till 66 procent. Korta texter, matematiska svar och översättningar är också svåra att märka på ett säkert sätt. Dessutom har OpenAI än så länge valt att bara ge tillgång till detektionsverktyget till utvalda forskare och expertorganisationer för utvärdering.