Dnes už výměna lidského obličeje ve videu neznamená několikahodinovou retuši, AI pokročila mílovými kroky a zvládne to během chvíle. Dokonce umělá inteligence zvládá v reálném čase zachycovat výrazy v tváři či pohyby rtů a přenášet je na jiný obličej.
Toho bohužel využívají i podvodníci, podle reportu agentury iProov se jejich počet navýšil sedmkrát mezi první a druhou polovinou roku 2023.
Mezi nejpoužívanější nástroje pro výměnu obličejů se podle výzkumu řadí SwapFace, DeepFaceLive a Swapstream. Tyto nástroje jsou již velmi propracované a dokážou prolomit základní ověření identity – například umí nasimulovat pohled do kamery, otočení obličeje na obě strany a tím prokázat shodu s proklamovanou identitou.
K tomu je zapotřebí virtuální kamery, což útočníci obcházejí dalším trikem. Používají totiž emulátory, které se tváří jako jiné zařízení, například mobilní telefon. Následně to pro stránku vyžadující přihlášení vypadá, že se uživatel hlásí ze svého mobilu.
Deepfake cílí na osobní účty, ale i na podniky. Útočníci dokáží pomocí pokročilých nástrojů nasimulovat virtuální setkání, kde vystupují tváří i hlasem jiné osoby. Například takto mohou na dálku uzavřít obchod za miliony a beze stopy s penězi zmizet. Něco podobného se přihodilo finančnímu úředníkovi v Hong Kongu.
Podobných případů násobně přibývá a díky novým nástrojům generativní umělé inteligence bude růst i jejich propracovanost a důvěryhodnost. Stačí se jen podívat na nový nástroj Sora, který umí vytvářet realistická videa. Vůbec první problém, který se začal řešit je identifikace takového videa jako uměle vygenerovaného skrze metadata. Je však otázkou, jak tento systém bude spolehlivý a zdali ještě více nepřispěje k těžko odhalitelným podvodům.
Via PetaPixel