Dokážeme čelit deepfake podvodům?
Deepfake v podvodných kampaních se již dotklo i České republiky a s rozvojem umělé inteligence lze očekávat další rapidní nárůst. Problematice deepfake videí nebo zvukových nahrávek se však česká věda a výzkum věnuje jen okrajově a systematická podpora výzkumu problematiky deepfake v Česku chybí, jak ukazují výsledky studie Technologického centra Praha.
V iniciativě TC Spotlight posuzují analytické týmy z Oddělení strategických studií TC Praha aktuální technologicko-společenská témata z pohledu jejich zastoupení v české vědě a výzkumu a první zkoumanou oblastí se stal syntetický multimediální obsah. Deepfake videa a klonování hlasu využívající umělou inteligenci k vytváření falešných záznamů se staly výrazným tématem po roce 2016, kdy začaly vznikat výkonnější jazykové modely. V Česku se problematika deepfake videí nejvýrazněji projevila v podvodné kampani, ve které upravené video s prezidentem Petrem Pavlem doporučovalo investovat do pochybných finančních produktů, přičemž kvalita videa byla odborníky hodnocena jako velmi zdařilá. „Obavám z využití podvržených videí se v Česku věnuje pozornost více v souvislosti s blížícími se parlamentními volbami,“ říká Kristýna Meislová, analytička TC Praha.
Celá TZ je převzatá na portále MM Průmyslové spektrum.