S publikováním portrétních fotek na internetu se váže několik potenciálních rizik, jak může být daný snímek zneužit. Umělé inteligenci dnes nedělá problém zpracovat ohromné množství obrazových dat a je tedy na čase uvažovat o možnostech ochrany. Výzkumníci z Georgia Institute of Technology přišli s metodou, která znemožní identifikaci lidí na fotce pomocí automatizovaných metod, má to však jednu důležitou a zajímavou vlastnost – lidé na fotkách vypadají zcela normálně.
Jedná se o digitální masku, jíž výzkumníci nazývají Chameleon. Jedná se o model využívající AI a jeho výsadami jsou nenáročnost výkonu pro vytváření a aplikování masek, zároveň člověk na fotce po nanesení digitální masky vypadá stejně jako předtím. Také se tak děje bez nutnosti zásahu člověka a zadávání vstupních parametrů.
Chameleon není první software svého druhu, nicméně po dokončení bude jeho zdrojový kód zveřejněný na GitHubu, takže jej může vzít každý a jako oper source jej integrovat do dalších aplikací. Jeho rozšíření by mohlo být jednoduché a široké.
Také je o tomto tématu potřeba čím dál tím více mluvit. Jedním z aktuálních problémů s AI je nedostatek dostupných dat pro jejich trénování a fakt, že si některé modely zkracují cestu a neoprávněně používají volně přístupné fotky bez svolení autorů. Klidně se tak může stát, že se do databáze dostane právě váš obličej a při specifických promptech jej AI může zpětně vytvořit.
Další nebezpečí ztráty soukromí hrozí v momentě, kdy AI začne skenovat vaše fotky a učit se na nich váš obličej pro další rozpoznávání vaší osoby. Může to znít dystopicky, ale třeba Facebook tuto funkci dlouho používal pro automatické označování uživatelů na fotkách, na dva roky ji kvůli ochraně soukromí vypnul, ale na podzim 2024 ji znova uvedl do provozu. Rozpoznávání obličejů tedy není nic výjimečného a do budoucna (či už nyní) může být nástroj jako Chameleon velmi užitečný.
Zdroj: Petapixel