Počet deepfake útoků se loni zvýšil na desetinásobek
Počet bezpečnostních incidentů spojených s deepfake technologií se loni ve světě meziročně zvýšil desetinásobně. Jen v Evropě byl zaznamenán nárůst o 780 procent. Nejde už jen o problém velkých korporací, ale stává se vážnou hrozbou pro řadu menších firem včetně českých. Uvedla to Česká asociace umělé inteligence v manuálu Deepfake 2024: Obranná strategie pro české firmy.
Důvodem je především velký pokrok ve využití nástrojů umělé inteligence, které tvorbu podvržených videí, fotek nebo zvuků výrazně usnadňují.
Pokrok v oblasti hlubokého učení usnadňuje tvorbu falešných multimédií, ale také činí jejich hromadnou výrobu méně nákladnou. Generativní AI umožňuje vytvářet vysoce realistická syntetická multimédia na základě mnohem větších datových sad.
Trh je zaplaven volně dostupnými nástroji, které činí tvorbu nebo manipulaci s multimédii otázkou několika minut. Demokratizace AI nástrojů pro tvorbu deepfakes se tak dostala na seznam největších rizik pro rok 2024, informuje manuál.
Ohrozí celou firmu a vytáhne citlivá data i peníze
Největší hrozby zneužití zahrnují techniky, které ohrožují značku organizace, napodobují vedoucí pracovníky a používají podvodnou komunikaci k získání přístupu k sítím, komunikaci a citlivým informacím organizace. Phishing, tedy typ kybernetického útoku zneužívající techniky sociálního inženýrství , bude s rozvojem AI ještě větší výzvou než kdykoliv dřív.
Nový manuál k boji proti deepfake poskytuje zaměstnancům českých firem a organizací přehled o současných i nadcházejících trendech v oblasti deepfakes, metodách jejich detekce a autentizace a strategiích k obraně proti těmto hrozbám.
„Je alarmující, že s minimálními náklady a úsilím může být vytvořen deepfake, který je prakticky nerozeznatelný od skutečnosti, což otevírá v roce 2024 dveře jak pro sofistikované podvody, tak pro šíření dezinformací a manipulaci s veřejným míněním. V tomto kontextu musí být české firmy nejen na pozoru, ale především aktivně podporovat vzdělávání a trénink svých zaměstnanců,“ uvedl ředitel České asociace umělé inteligence Lukáš Benzl.
Od manipulace s obsahem ke kompletně uměle vytvořenému videu a audiu
Mezi nejběžnější praktiky dosud patřily tzv. shallowfakes. Je to manipulace s obrazem prostřednictvím editace nebo záměrným vytržením z kontextu. Jde například o zpomalení videa přidáním opakujících se snímků, aby to vypadalo, jako by byl jedinec na videu intoxikován. Další metodou je kombinace zvukových klipů z jiného zdroje a nahrazení zvuku ve videu, aby se změnil příběh.
Na druhou stranu multimédia, která byla vytvořena nebo upravena pomocí umělé inteligence, se označují jako deepfakes . Mezi klasické příklady patří napodobení hlasu nadřízeného v telefonu, deepfakes v online schůzkách a pohovorech, zveřejnění falešného firemního prohlášení, nebo třeba vydírání zaměstnanců deepfake nahotou, popisuje manuál České asociace umělé inteligence, který je ke stažení zdarma na webu.
„Do budoucna se vyplatí začít používat AI rozšíření do webových prohlížečů. Ta budou schopna takový obsah detekovat a upozornit nás na něj. Velikost trhu s deepfake softwarem byla v roce 2023 oceněna na částku 72,41 milionu USD a očekává se, že do roku 2028 dosáhne velikosti 348,9 milionu USD,“ říká Lukáš Benzl.
Hlavní trendy ve vývoji médií zahrnují zlepšení a rozšíření využívání multimediálních modelů, schopnost převádět 2D obrázek na 3D pro realistickou generaci videa z jediného snímku , rychlejší a přizpůsobitelné metody pro tvorbu upraveného videa v reálném čase a modely, které potřebují méně vstupních dat pro přizpůsobení výsledků, jako je např í klad syntetické audio. Tyto trendy směřují k dalšímu rozvoji v oblasti deepfake útoků.
Poslední zprávy z rubriky Internet a telefony:
Přečtěte si také:
Prezentace
02.05.2024 SCHLIEGER loni zaznamenal čtyřnásobný nárůst...
30.04.2024 Tesla po špatných výsledcích roste, Meta po...
Okénko investora
Mgr. Timur Barotov, BHS
Diverzifikace v době koncentrovaných akciových trhů – výzkum Goldman Sachs
Miroslav Novák, AKCENTA
Michal Brothánek, AVANT IS
Petr Lajsek, Purple Trading
Olívia Lacenová, Wonderinterest Trading Ltd.
Jakub Petruška, Zlaťáky.cz
Za 1. čtvrtletí roku 2024 rozšířila ČNB „zlatý poklad“ o dalších téměř 5 tun
Ali Daylami, BITmarkets
Jiří Cimpel, Cimpel & Partneři
Okénko finanční rady
Petr Holub, Zoxo Financial s.r.o.
Tomáš Vrňák, Ušetřeno.cz
Fixace cen energií: Jak mít jistotu a ušetřit v nejistých časech
Richard Bechník, Swiss Life Select
Lukáš Kaňok, Kalkulátor.cz
Distribuční sazba nebo poplatek za jistič. Co všechno ovlivňuje cenu elektřiny?
Petr Holub, MojeNebankovka
Zuzana Dubová, RekvalifikacniKurzy.cz
Financování vašeho vzdělávání: Přehled možností financování rekvalifikačních kurzů
Iva Grácová, Bezvafinance
Marek Pokorný, Portu