Nástroj na zpomalení ChatGPT šílenství

Řada profesionálních skupin se obává, že programy umělé inteligence jako ChatGPT drasticky připravují lidi o jejich práci. Je čas na ochranná opatření. Podnikatel Edward Tian, ​​22 letý student Princetonské univerzity, který studuje informatiku a žurnalistiku, vyvinul aplikaci s názvem GPTZero, která má usnadnit rozlišení mezi textem napsaným lidmi a textem vytvořeným strojem. Tento nástroj má podle jeho společnosti míru přesnosti 99 % pro lidský text a 85 % pro text AI. Nyní spouští nový program s názvem Origin zaměřený na „záchranu žurnalistiky“. 

GPTZero, nástroj vytvořený studentem Princetonské univerzity a určený k detekci textu generovaného umělou inteligencí, získal finanční prostředky ve výši 3,5 milionu dolarů na vybudování svého týmu, který bude lépe vylepšovat stávající technologii a spustí nový, automatizovaný nástroj pro kontrolu faktů na webu. Do GPTZero investovala společnost Uncork Capital a startupový akcelerátor Neo, stejně jako Jack Altman, bratr generálního ředitele OpenAI Sama Altmana a bývalého generálního ředitele New York Times Marka Thompsona. Společnost GPTZero, která nyní zaměstnává 10 lidí, byla spuštěna v lednu 2023. Více než 30 000 lidí vyzkoušelo tento nástroj během prvního týdne od jeho spuštění. 

 Tento nástroj analyzuje text z hlediska jeho „zmatenosti“ a „trhlosti“, dvě měřítka toho, jak složité a rozmanité je psaní, aby určil, zda je pravděpodobně generován AI, nebo ne. Tento přístup není bez nedostatků. Výzkumný dokument z dubna 2023 od akademiků Stanfordské univerzity zjistil, že nástroje pro detekci umělé inteligence, jako je GPTZero, často nespravedlivě kategorizovaly text napsaný nerodilými mluvčími angličtiny jako vytvořený umělou inteligencí, protože v jejich psaní nebyly rozdíly. Navzdory těmto důkazům o zkreslení zůstává zájem o detekci obsahu generovaného AI vysoký, jak ukazuje samotná investice do GPTZero. 

 Jak to tedy vlastně funguje? Detekce umělé inteligence GPTZero proti sobě aplikuje strojové učení prostřednictvím trénování klasifikačního modelu, který rozpoznává a analyzuje nepatrné rozdíly ve strukturách psaní mezi lidmi a umělou inteligencí a ve výběru slov napříč generacemi ze všech populárních, veřejně vydaných modelů umělé inteligence. Detekce GPTZero AI využívá vlastní generativní model AI k detekci použití generativní AI. Používá nejmodernější jazykový model s podobnou strukturou a parametry jako modely otevřené umělé inteligence, aby předpověděl, jaká je pravděpodobnost, že takový model vygeneruje vstupní text. 

 Minulý týden byl v obchodě Google Chrome spuštěn nový nástroj vyvinutý společností s názvem Origin. Umožňuje uživatelům zvýraznit text na internetu a rozšíření prohlížeče automaticky kontroluje, zda je obsah generován AI. Do budoucna bude ověřovat i zdroj informací. Mít takový nástroj je pro uživatele internetu ve věku AI životně určitě důležité. Detekce umělé inteligence je jen prvním krokem této dlouhé hry o tom, co lidé potřebují vědět v deltě mezi umělou inteligencí a lidským mozkem. GPTZero má jedinečnou pozici k úspěchu kvůli problémům s designem, které jsou vlastní současné generaci technologie GPT, a důležitosti identifikace, kde byl obsah vytvořen pomocí těchto nástrojů AI. Kromě vývoje nových funkcí budou finance použity na financování předních světových výzkumníků, aby přišli a pracovali s GPTZero, což jim umožní naučit se další techniky. Část finančních prostředků půjde také na další rozvoj Originu, který je v současnosti aktivně kódován. Největším rizikem umělé inteligence není „vědomí“, ale jsou to korporace, které je ovládají. 

 Petr Pelc, hlavní analytik zainvestuj.to

Okomentovat na Facebooku