Plagiátoři ChatGPT pozor, protože OpenAI vyvinula nástroj, který je schopen detekovat výstup zápisu GPT-4 s údajně 99,99% přesností. Však, společnost strávila více než rok váhání nad tím, zda to skutečně zveřejnit nebo ne.
Společnost údajně zvolila „záměrný přístup“ kvůli „složitosti a jejímu pravděpodobnému dopadu na širší ekosystém mimo OpenAI“. TechCrunch. „Metoda textového vodoznaku, kterou vyvíjíme, je technicky slibná, ale má důležitá rizika, která zvažujeme, zatímco zkoumáme alternativy, včetně náchylnosti k obcházení špatnými herci a potenciálu neúměrně ovlivnit skupiny, jako jsou neanglicky mluvící,“ mluvčí OpenAI. řekl.
Systém textového vodoznaku funguje tak, že do písemného výstupu modelu začlení specifický vzor, který je detekovatelný nástrojem OpenAI, ale pro koncového uživatele neviditelný. I když tento nástroj dokáže spolehlivě rozpoznat zápis generovaný vlastním GPT-4 enginem, nedokáže detekovat výstupy jiných modelů jako Gemini nebo Claude. A co víc, samotný vodoznak lze odstranit spuštěním textového výstupu přes Google Translate, jeho posunutím do jiného jazyka a pak zpět.
Toto není první pokus OpenAI o vytvoření nástroje pro detekci textu. Loni, tiše sekera podobný detektor textu byl ve vývoji kvůli nízké míře detekce nástroje a sklonu k falešným poplachům. Tento detektor, vydaný v lednu 2023, potřeboval, aby uživatel ručně vložil ukázkový text o délce alespoň 1 000 znaků, než mohl provést určení. Podařilo se mu správně klasifikovat obsah generovaný umělou inteligencí s přesností pouze 26 % a v 9 % případů označil obsah vytvořený člověkem jako odvozený od umělé inteligence. To také vedlo k jednomu Texaský profesor A&M nesprávně propadl v celé třídě za to, že údajně používali ChatGPT na svých závěrečných úkolech.
OpenAI také údajně váhá s vydáním tohoto nástroje ze strachu z reakce uživatelů. Podle Wall Street Journal se 69 % uživatelů ChatGPT domnívá, že takový nástroj by byl nespolehlivý a pravděpodobně by vedl k falešným obviněním z podvádění. Dalších 30 % uvedlo, že by ochotně opustili chatbota ve prospěch jiného modelu, pokud by OpenAI tuto funkci skutečně zavedla. Společnost se také obává, že by vývojáři byli schopni zpětně analyzovat vodoznak a vytvořit nástroje k jeho negaci.
I když OpenAI diskutuje o výhodách uvolnění svého systému vodoznaků, další začínající umělci spěchají s vydáním vlastních detektorů textu, včetně GPTZero, ZeroGPT, Scribbr a Writer AI Content Detector. Však, vzhledem k jejich obecné nepřesnosti, lidské oko zůstává naší nejlepší metodou, jak odhalit obsah generovaný umělou inteligencí, což není uklidňující.
