Další právní problém pro OpenAI: ChatGPT měl zachytit plánování útoku, firma úřady nevarovala

OpenAI čelí nové sérii žalob v souvislosti s únorovou střelbou na střední škole Tumbler Ridge Secondary School v kanadské Britské Kolumbii. Učitelé, studenti a ředitel školy tvrdí, že společnost měla prostřednictvím komunikace podezřelé osoby s ChatGPT informace o potenciálním plánování útoku, ale neupozornila orgány činné v trestním řízení.

Žaloby byly podány u federálního soudu v Kalifornii a navazují na sedm dalších případů zahájených už v dubnu rodinnými příslušníky obětí a přeživšími. Jde o další právní výzvu pro OpenAI a současně o případ, který otevírá složitou otázku, jakou odpovědnost mají provozovatelé AI systémů v situaci, kdy jejich technologie zachytí potenciální hrozbu násilí.

Žaloby tvrdí, že systém riziko odhalil měsíce před útokem

Podle tvrzení v žalobách automatické bezpečnostní systémy OpenAI označily účet používaný osmnáctiletou Jesse Van Rootselaar kvůli aktivitě související s násilím se zbraněmi a plánováním útoku přibližně osm měsíců před střelbou.

Případem se podle žalob následně zabýval interní bezpečnostní tým OpenAI, který měl doporučit předání komunikace orgánům činným v trestním řízení. V červnu 2025 však mělo vedení společnosti toto doporučení odmítnout a místo toho účet deaktivovat.

Žalobci dále tvrdí, že po zablokování původního účtu bylo možné založit účet nový. Právě tato tvrzení budou pravděpodobně patřit mezi klíčové části soudního sporu, protože žalobci se snaží prokázat, že společnost o potenciálním riziku věděla s výrazným předstihem.

Je však důležité zdůraznit, že jde o tvrzení obsažená v žalobách, nikoli o soudem potvrzené závěry.

OpenAI obvinění odmítá

OpenAI odmítá tvrzení, že by jeho zaměstnanci bezpečnostní otázky nepovažovali za prioritu. Chief Strategy Officer Jason Kwon uvedl, že je nepravdivé tvrdit, že lidé zodpovědní za podobná obtížná rozhodnutí nekladou bezpečnost na první místo.

Generální ředitel Sam Altman, který je rovněž mezi žalovanými, navíc v otevřeném dopise komunitě Tumbler Ridge vyjádřil lítost nad tím, že účet podezřelé osoby nebyl nahlášen orgánům činným v trestním řízení.

Žaloby zároveň tvrdí, že rozhodování o případném kontaktování úřadů spadalo pod Chief Global Affairs Officer Chrise Lehanea. OpenAI tuto část obvinění výslovně popírá. Kwon uvedl, že Lehane nebyl zapojen do původního rozhodování o případném předání případu a vyšetřovatelé mu nepodléhali.

Spor otevírá zásadní otázku odpovědnosti AI firem

Pro technologický sektor může být případ významný především kvůli hranici mezi ochranou soukromí uživatelů a povinností reagovat na potenciální hrozbu.

AI chatboty mohou na rozdíl od běžného internetového vyhledávání vést dlouhé konverzace, díky kterým může provozovatel získat širší kontext o záměrech uživatele. To ale současně vytváří velmi obtížnou otázku: kdy je hrozba natolik konkrétní a důvěryhodná, že by měla technologická společnost kontaktovat úřady?

Příliš vysoký práh může znamenat, že firma nezareaguje na skutečnou hrozbu. Příliš nízký práh by naopak mohl vést k rozsáhlému hlášení falešných poplachů a vyvolávat zásadní otázky kolem soukromí uživatelů.

Právě způsob, jakým soudy tuto hranici vymezí, může mít dlouhodobé důsledky nejen pro OpenAI, ale také pro další provozovatele generativní umělé inteligence.

Právních sporů kolem chatbotů přibývá

OpenAI a další společnosti provozující chatboty čelí od roku 2024 rostoucímu počtu žalob, které jejich technologie spojují s různými formami újmy.

Některé případy se týkají tvrzení o zhoršování psychického stavu uživatelů, jiné se zabývají sebevraždami nebo násilným jednáním. Firmy tak stojí před rostoucím tlakem, aby jejich systémy dokázaly nejen odmítat nebezpečné požadavky, ale také vhodně reagovat na dlouhodobé vzorce rizikového chování.

Současný případ může být v tomto ohledu zvlášť významný, protože podle žalob nebyla potenciální hrozba pouze automaticky zachycena – měla být následně posouzena také interním bezpečnostním týmem.

Pro AI sektor vzniká nové regulatorní riziko

Z investičního pohledu představují podobné případy další vrstvu rizika pro rychle rostoucí odvětví generativní AI. Nejde pouze o případné finanční odškodnění. Mnohem důležitější mohou být změny bezpečnostních standardů, regulatorní požadavky a náklady na compliance.

Pokud by soudy nebo zákonodárci postupně rozšířili odpovědnost provozovatelů chatbotů za identifikaci a hlášení důvěryhodných hrozeb, společnosti by musely investovat více prostředků do monitorovacích systémů, bezpečnostních týmů a procesů pro eskalaci rizikových případů.

Současně by však musely řešit ochranu soukromí a riziko chybných vyhodnocení. Pro OpenAI i celý sektor proto může být důležité nejen to, jak dopadnou konkrétní žaloby, ale také jaký právní precedent případné rozsudky vytvoří.

X-Trade Brokers (XTB) je mezinárodní brokerský dům, který poskytuje profesionální podmínky pro obchodování CFD na forex, indexy, komodity, kryptoměny a pro investování do akcií a ETF. Své služby neustále zdokonaluje, o čemž svědčí řada mezinárodních ocenění a potvrzují to i tuzemská ocenění Broker roku a Forex broker roku, získaná opakovaně na Investičním summitu MoneyExpo. Pro své klienty nabízí XTB poskytuje profesionální obchodní platformy xStation 5 s integrovanou kalkulačkou, bezplatné vzdělávání, 24h zákaznickou podporu a denní zpravodajství z finančních trhů.

Rozdílové smlouvy jsou komplexní nástroje a v důsledku použití finanční páky jsou spojeny s vysokým rizikem rychlého vzniku finanční ztráty. U 71 % účtů retailových investorů došlo při obchodování s rozdílovými smlouvami u tohoto poskytovatele ke vzniku ztráty. Měli byste zvážit, zda rozumíte tomu, jak rozdílové smlouvy fungují, a zda si můžete dovolit vysoké riziko ztráty svých finančních prostředků.