Podle šéfa Microsoftu jsou největším problémem umělé inteligence zdařilé podvrhy

Prezident společnosti Microsoft Brad Smith koncem května prohlásil, že největší obavy v souvislosti s umělou inteligencí mu dělají tzv. deep fakes, tedy realisticky vypadající, nicméně falešný obsah.

V projevu ve Washingtonu, jehož cílem bylo řešit otázku, jak nejlépe regulovat umělou inteligenci, která se s příchodem ChatGPT od OpenAI rychle rozšířila, Smith vyzval ke krokům, které zajistí, aby lidé byli schopni rozpoznat, kdy jsou fotografie nebo videa skutečná a kdy jsou generována umělou inteligencí, a to případně dokonce i za nekalými účely. "Budeme se muset zabývat otázkami souvisejícími s vyspělými padělky. Znamená to řešit zejména to, čeho se obáváme nejvíce, tedy zahraniční kybernetické vlivové operace. To znamená věnovat se takovým druhům aktivit, které již nyní probíhají v režii ruské vlády, Číny a Íránu," řekl.

Podle Brada Smithe je třeba přijmout opatření na ochranu před pozměňováním legitimního obsahu s úmyslem oklamat nebo podvést lidi pomocí umělé inteligence. Dále rovněž vyzval k udělování licencí pro nejkritičtější formy UI s "povinnostmi chránit fyzickou bezpečnost, kybernetickou bezpečnost a národní bezpečnost". Zákonodárci ve Washingtonu se již několik týdnů potýkají s tím, jaké zákony přijmout pro kontrolu umělé inteligence v situaci, kdy se velké i malé společnosti předhánějí v uvádění stále všestrannější umělé inteligence na trh.

Co všechno je třeba chránit před „falešnou AI“

Sam Altman, generální ředitel společnosti OpenAI, která stojí za startupem ChatGPT, při svém prvním vystoupení před senátním panelem v Kongresu v květnu upozornil, že využívání AI zasahující do integrity voleb je "významnou oblastí, která vzbuzuje obavy", a dodal, že potřebuje regulaci. Altman dále vyzval ke globální spolupráci v oblasti AI a ke správné motivaci pro dodržování bezpečnostních opatření.

Podle Brada Smithe je třeba, aby lidé nesli odpovědnost za případné problémy způsobené AI, a vyzval zákonodárce, aby zajistili, že na AI používanou k řízení elektrické sítě, zásobování vodou a další kritické infrastruktury budou nasazeny „bezpečnostní brzdy“, aby lidé zůstali při manipulaci s nimi pod kontrolou.

Smith vyzval k tomu, aby vývojáři výkonných modelů AI měli přehled o tom, jak je jejich technologie využívána u klienta a aby informovali veřejnost o tom, jaký obsah AI vytváří, aby mohl být případně identifikován zfalšovaný obsah. Některé návrhy zvažované americkým Kapitolem se zaměřují na AI, která by mohla ohrozit životy nebo živobytí lidí, například v lékařství a finančnictví. Jiné se zasazují o pravidla, aby umělá inteligence nemohla být využita k diskriminaci nebo porušování občanských práv.