Deepfakes jako bezpečnostní hrozba. Jejich počet loni vzrostl na desetinásobek
Publikováno: 7.1.2024
Česká asociace umělé inteligence představila manuál Deepfake 2024: Obranná strategie pro české firmy, který má poskytnout zaměstnancům srozumitelný přehled o tzv. deepfakes, tedy falešných videích, podvržených fotkách nebo audionahrávkách. Jejich počet totiž podle dat asociace loni světově vzrostl na desetinásobek. Jen v Evropě byl zaznamenán nárůst těchto útoků o 780 procent. Vysoký nárůst byl způsoben především pokrokem v oblasti používání a vývoje umělé inteligence. Ředitel asociace Lukáš Benzl upozornil, že trh je nasycen volně dostupnými nástroji, díky kterým je tvorba nebo manipulace s multimédii otázkou několika minut. "Rychlý rozvoj umělé inteligence, kterého jsme byli v roce 2023 svědky, mění pravidla hry. Hrozby spojené se sofistikovanými útoky a syntetickými médii budou v roce 2024 patřit k jedněm z nejpalčivějších problémů v kontextu bezpečnostní politiky firem," uvedl. Pro firmy a značky toto riziko platí také. Může jít o techniky, které ohrožují značku organizace, napodobují pracovníky a používají podvodnou komunikaci k získání přístupu k citlivým informacím. Phishing, tedy typ kybernetického útoku zneužívající falešnou identitu, bude s rozvojem AI podle odborníků ještě větší výzvou než kdykoliv předtím. Mezi příklady patří napodobení hlasu nadřízeného v telefonu, deepfakes v on-line schůzkách a pohovorech, zveřejnění falešného firemního prohlášení nebo třeba vydírání zaměstnanců falešnými snímky s nahotou, uvedla asociace. Deepfakes jsou jen těžko rozpoznatelné. Například podle výzkumu anglické University College London dokážou lidé rozpoznat umělou nahrávku pouze v 73 procentech případů. Výzkum zkoumal hlasové deepfakes v angličtině a mandarínštině. Během loňského roku se jich na sociálních sítích objevilo nespočet. Velkou reakci ale vyvolaly zejména údajné…