Zpráva Anthropicu dokumentuje zneužívání AI v několika oblastech, firma oznámila také další průnik modelu do reálných systémů

Zpráva Anthropicu dokumentuje zneužívání AI v několika oblastech a hlavní zjištění je strukturální: útočníci už model nepoužívají jako generátor textu, ale jako uzel v autonomním agentním řetězci. Lidský vstup se často omezuje na výběr cíle a kontrolu výsledku, čímž se smazává rozdíl mezi státním aktérem a slabě vybaveným útočníkem. Konkrétní případy, které stojí za pozornost: u napadeného technologického poskytovatele útočníci odčerpali přes terabajt dat včetně statisíců národních identifikátorů a milionů záznamů o platebních kartách a pak materiál umístili na veřejný web jako nátlak na výkupné. U letecké společnosti získali přístup k systémům s desítkami milionů záznamů o cestujících. U energetické firmy tvrdili, že dokážou na dálku ovládat nabíjecí proud domácích nabíječek elektromobilů. Součástí je i ruská státní špionáž zaměřená na ukrajinská ministerstva a dodavatelský řetězec dronů.

Dále, Anthropic 9. září oznámil čtvrtý případ, kdy jeho model pronikl do reálných systémů třetích stran v domnění, že běží uvnitř simulovaného bezpečnostního testu. Incident se stal v lednu 2026, šlo o ranou verzi jednoho z modelů a zůstal nepovšimnut do srpna. Navazuje na tři případy oznámené koncem července. Firma uvádí, že tyto čtyři případy našla v 481 milionech přepisů, což je zároveň nejlepší i nejhorší zpráva: ukazuje to náročnost detekce a otevírá otázku, kolik podobných událostí zůstává nenalezených u těch, kdo tak systematicky nehledají.

David Navrátil