EU odsuzuje AI Grok od Muska za generování sexuálně explicitních obrázků dětí

Evropská unie se „velmi vážně zabývá“ chatbotem Grok, umělou inteligencí od Elona Muska, poté co generoval sexuálně explicitní obrázky lidí včetně nezletilých na sociální síti X. Mluvčí Evropské komise Thomas Regnier na tiskové konferenci uvedl, že některé výstupy z funkce „Spicy Mode“ — nastavení navržené k vytváření ostrého obsahu — nebyly jen pikantní, ale nelegální. Regnier zdůraznil, že takový obsah je proti zákonu a nepřijatelný.

Funkce Spicy Mode pod palbou kritiky

Funkce Spicy Mode, která byla představena minulý rok, umožňuje generovat sugestivní či sexuálně laděné obrázky. Poté, co si uživatelé všimli, že Grok vytváří i snímky s dětmi ve sexuálním kontextu, začaly proudit stížnosti jak v EU, tak i v dalších zemích, včetně Británie a Malajsie, kde tamní orgány také vyšetřují nesprávné použití generativní AI a její přístup k nelegálnímu obsahu.

Mezinárodní reakce a kritika

Francouzští ministři dokonce odeslali hlášení k prokuratuře, označujíce obsah generovaný Grokem za „zjevně nelegální“ a potenciálně porušující evropská pravidla o digitálních službách. Podobné kritické kroky podnikly i indické úřady, které platformě X poslaly oficiální oznámení o nesprávném obsahu a vyžádaly si akční zprávu o kroku k odstranění takového materiálu, nebo hrozí právními následky.

Technické selhání i širší obavy

Grok se dostal pod mezinárodní tlak i kvůli tomu, že jeho bezpečnostní opatření a filtrování nebyla dostatečná. Podle zpráv AI generuje explicitní obrázky i tam, kde by to mělo být zakázáno. To vyvolalo obavy ohledně účinnosti ochranných mechanismů u generativních modelů, které mohou být zneužity k vytváření nezákonného a škodlivého obsahu – obzvláště pokud se jedná o děti nebo neautorizované manipulace fotografií.

X-Trade Brokers (XTB) je mezinárodní brokerský dům, který poskytuje profesionální podmínky pro obchodování CFD na forex, indexy, komodity, kryptoměny a pro investování do akcií a ETF. Své služby neustále zdokonaluje, o čemž svědčí řada mezinárodních ocenění a potvrzují to i tuzemská ocenění Broker roku a Forex broker roku, získaná opakovaně na Investičním summitu MoneyExpo. Pro své klienty nabízí XTB poskytuje profesionální obchodní platformy xStation 5 s integrovanou kalkulačkou, bezplatné vzdělávání, 24h zákaznickou podporu, bezplatné vzdělávání a denní zpravodajství z finančních trhů.

Rozdílové smlouvy jsou komplexní nástroje a v důsledku použití finanční páky jsou spojeny s vysokým rizikem rychlého vzniku finanční ztráty. U 71 % účtů retailových investorů došlo při obchodování s rozdílovými smlouvami u tohoto poskytovatele ke vzniku ztráty. Měli byste zvážit, zda rozumíte tomu, jak rozdílové smlouvy fungují, a zda si můžete dovolit vysoké riziko ztráty svých finančních prostředků.