Když už nestačí věřit vlastním uším. Vodafone Verify má odhalovat AI hlas i deepfaky

Ještě nedávno jsme u umělé inteligence řešili hlavně to, zda poznáme vygenerovaný obrázek podle prstů navíc nebo syntetický hlas podle podivné intonace. Jenže podobné vodítko má poměrně krátkou životnost. Na tiskové konferenci, kam nás Vodafone pozval při příležitosti českého uvedení služby Vodafone Verify, jsme se proto zajímali hlavně o to, jak se vlastně moderní deepfake poznává ve chvíli, kdy už našim vlastním uším nic podezřelého být nemusí.

Právě zvuk je pro nás na celé novince nejzajímavější. Vodafone Verify umí analyzovat fotografie, videa, dokumenty i odkazy, ale také hlasové zprávy a další zvukové nahrávky. Služba vznikla ve spolupráci se společností Synhawk a v Česku odstartuje 22. října.

Detektor nehledá jeden typický šum

Na místě jsme se o fungování systému bavili také s Matym Boháčkem, spoluzakladatelem a Chief Scientist společnosti Synhawk. Důležitá je podle něj hlavně skutečnost, že jejich technologie nestojí na několika univerzálních znacích, podle kterých by šlo AI obsah jednou provždy rozpoznat.

Takový přístup by totiž příliš rychle zastaral. Generátory obrazu, hlasu i videa se průběžně mění a chyby, které model produkoval před půl rokem, už jeho další verze vůbec dělat nemusí.

Spoluzakladatel a Chief Scientist ve společnosti Synhawk Maty Boháček se vývoji verifikačních nástrojů pro boj s deep fake médii věnuje už od studií na universitě, zdroj: hifimanie.cz

Synhawk proto používá výrazně dynamičtější postup. Systém sleduje vznik nových generativních modelů a s jejich pomocí si sám vytváří syntetická testovací data. Ta následně porovnává s přirozeným obsahem a hledá nové způsoby, jak výstupy konkrétních generátorů odhalit.

Ani tady ale AI nemá poslední slovo. Když systém přijde s novým způsobem detekce, předá svoje závěry lidem ke kontrole. Až po jejich ověření a schválení se nový mechanismus dostane do produkční verze Vodafone Verify.

To je docela podstatný rozdíl proti představě jednoduchého „AI detektoru“, který hledá stále stejné artefakty.

Od falešného hlasu k neexistujícím hudebníkům

Synhawk přitom stejný princip nezkoumá jen u řeči. Technologie pracuje také s obrazem, videem a textem a výzkum se podle Boháčka týká i hudby.

A tady už se téma potkává s něčím, co na Hifimanii řešíme delší dobu. Generativní služby dnes dokážou vytvořit nejen jednotlivou skladbu, ale i kompletního interpreta včetně hlasu, vizuální identity a příběhu. Příkladem byla třeba virtuální kapela The Velvet Sundown, která dokázala nasbírat statisíce posluchačů, přestože za ní nestála běžná skupina hudebníků.

I takhle se může prezentovat AI hudebník, který neexistuje, zdroj: velvetsundownmusic.com

Právě proto také Tidal letos oznámil, že začne plně AI generovanou hudbu označovat a vyřadí ji z vyplácení streamovacích odměn. Problém je ale stejný jako u deepfake hlasu: nejdřív musíte poměrně spolehlivě poznat, co vlastně AI vytvořila.

Vodafone Verify ovšem zatím na odhalování AI hudby necílí. Smyslem aplikace je především ochrana před podvody, krádežemi identity nebo falešnými dokumenty. Výzkum Synhawku ale ukazuje, že technologie pro rozpoznávání syntetického audia může mít časem mnohem širší využití.

Výsledek není jednoduché ano nebo ne

Do aplikace lze nahrát podezřelý soubor nebo odkaz a služba následně vrátí pravděpodobnostní vyhodnocení společně s vysvětlením. Vodafone ani Synhawk tedy netvrdí, že jejich aplikace představuje neomylný detektor. Ostatně jsme se v rámci konference dozvěděli, že jejich cílem je držet falešně pozitivní detekci AI pod 1 %.

Aplikace ověří podezřelé materiály na vyžádání a využije přitom i kontext, zdroj: tisková zpráva

Je tedy zřejmé, že samotná aplikace je jen první fronta. Měla by uživatele motivovat, aby ji použil a případně si pravost komunikace navíc ověřil sám, třeba prostřednictvím klasického telefonátu. To je nakonec asi nejrozumnější přístup. Čím lepší generativní modely totiž budou, tím méně se můžeme spoléhat na pocit, že přece poznáme hlas vlastního kolegy nebo člena rodiny.

Podle průzkumu Ipsos pro Vodafone už má přitom 24 % lidí v Česku osobní nebo zprostředkovanou zkušenost s podvodem využívajícím AI. Třetina dotázaných si nevěří při rozpoznávání deepfake videa a 41 % pochybuje o své schopnosti poznat AI vytvořenou či upravenou fotografii. Osobně se ale domnívám, že přesvědčení o vlastní schopnosti práci AI rozpoznat zdaleka skutečné schopnosti odpovídat nebude.

Příště už přímo během hovoru

Vodafone Verify má být pouze první částí většího systému. Připravuje se také Verify Meetings pro odhalování falešných účastníků videokonferencí a především Verify Network, který má detekci syntetického hlasu přesunout přímo do sítě operátora.

To už je z pohledu zvuku možná nejzajímavější část celého projektu. U kvalitní audiotechniky jsme se dlouhé roky snažili o to, aby reprodukovaný hlas zněl k nerozeznání od skutečného. Generativní AI nás teď staví před trochu paradoxní problém: když hlas zní dokonale přirozeně, ještě to neznamená, že za ním stojí skutečný člověk.

c bude dostupný od 22. října pro Android a iOS. U tarifů Black a části firemních tarifů bude součástí služby, ostatní zákazníci si jej budou moci aktivovat za 59 Kč měsíčně bez DPH.

Následující článek