A legkifinomultabb online átverés ellen fejlesztettek védelmet a BME kutatói

A 2006-os Mission Impossible 3 egy emlékezetes jelenetében pár perc alatt lemásolják egy fegyverkereskedő (Philippe Seymour Hoffman) hangszínét, majd számítógéppel valós időben úgy manipulálják az elmaszkírozott főhős (Tom Cruise) hangját, mintha ő beszélne. Ez 20 évvel ezelőtt az avatatlan néző számára elborult sci-finek tűnhetett: 

Ehhez képest ma arra is képesek bizonyos szoftverek, hogy élőben állítsanak elő hamis mozgóképet. Akár egy amerikai elnök szájába is adható lényegében késleltetés nélkül olyasmi, amit amúgy sohasem mondana:

A deepfake technológia ezen formája nagy fejtörést okoz az IT-biztonsággal foglalkozó szakembereknek, hiszen ahogy egyre több dolgot intézünk online, a csalásoknak is nagyobb a tere. Ezért nagy jelentőségű a BME Automatizálási és Alkalmazott Informatikai Tanszékén dolgozó kutatók és a TC&C Kft. közös fejlesztése, a Deepfake Guard platform, amely 

élő kommunikáció során valós időben képes leleplezni a hang- és videóalapú deepfake-manipulációkat.

Olyan helyzetekre kell gondolni, mint egy bankszámlanyitás vagy biztosításkötés, ahol a szolgáltatónak azonosítania kell az ügyfelet, hogy elkerülje a visszaélést. Már Magyarországon is dokumentáltak ilyen irányú csalási kísérleteket, sikerest is, a dark weben árult, bárki által elérhető eszközökkel végrehajtva. Ezek használatához nyilván kell némi technológiai tudás, de az eladók hovatovább profi szolgáltató cégekként lépnek fel, ügyféltámogatást adnak a bűnözőknek.

„Fontos, hogy az ellenőrzés valós idejű legyen, ne lehessen mesterséges intelligencia által generált hanggal, képpel meghamisítani az élő videókapcsolatot. Itt igazából mesterséges intelligencia harcol mesterséges intelligencia ellen, hiszen a deepfake-felismerő is egy MI-alapú algoritmus, vagyis folyamatosan tanul” – mondta a bme.hu-nak Forstner Bertalan egyetemi docens, aki Kővári Bence egyetemi docenssel és Békési Gergő doktorandusszal dolgozott együtt a fejlesztésen.

A TC&C vezetői – akik között vannak volt BME-sek is – két éve azért keresték meg a tanszéket a projekttel, mert belátták, fő termékük, a saját fejlesztésű call center-alkalmazás számára a legnagyobb kihívás hamarosan az lesz, hogy biztosítani lehessen: a kamera előtt tényleg az van, akinek mondja magát. Jó helyen kopogtattak az ötlettel. „Régóta dolgozunk generatív technológiákkal, sőt a kézzel írt aláírások hitelesítése terén is itt folynak a legösszetettebb hazai kutatások, a tudásnak a magyar rendőrség is látta már hasznát” – mondta Forstner Bertalan.

A kutatás eredménye egy, a hangot és a képet külön-külön szűrő rendszer. A kettő erősíti egymást, a szoftver ugyanakkor nem maga hoz döntést, hanem valós idejű elemzéssel kockázatértékelést készít és visszajelzést ad az operátornak. A pontossága az ismert módszerek esetében meghaladja a 98 százalékot.

A védelem részét képezik olyan, egyfajta captcha-ként működő megoldások is, mint hogy megkérik a hívottat, takarja el a száját a kezével. A deepfake-generátorok egyik gyakori gyenge pontja ugyanis, hogy ilyenkor a száj halványan megjelenik a kézfejen (nagyjából úgy, mint az alábbi képpárok jobb oldali tagján) – és máris nyilvánvaló, hogy akit látunk, az csak egy korábbi felvételek alapján generált avatár, amely mögött a valós beszélő rejtőzik.

A technológia nemcsak bankoknak lehet hasznos, hanem bármelyik nagyvállalatnak, még a belső kommunikációban is. „Hongkongban volt egy olyan csalás, hogy megszerezték egy cég pénzügyi vezetője asszisztensének az e-mail-címét, meghívták egy online meetingre, és utasították, hogy utaljon nagy összegeket bizonyos számlaszámokra. Értékes üzleti titkokat is ki lehet így csalni, és ahhoz képest, hogy mekkora a potenciális nyereség, ezek a generátortechnológiák relatíve olcsók” – magyarázta Békési Gergő.

Vagyis 

aki a privát beszélgetésein túl is használ élő videókapcsolaton alapuló eszközöket, annak valószínűleg előbb-utóbb szüksége lesz a védelemre.

A BME szakemberei szerint az üzleti felhasználók nagyon hamar el fogják várni az ilyen biztonsági funkciókat.

A következő egy évben a finomhangolás következik, részben azzal a céllal, hogy az algoritmus kisebb hardvereken, akár egy laptopon is fusson, így a termék vonzó lehessen átlagos üzleti felhasználóknak is. Megbízható konkurens egyelőre nemigen látszik a piacon, a Microsoft Azure előállt hasonlóval nagyjából három hónapja, de az sem kiforrott, mindent lefedő megoldás – mondta Békési Gergő.

gp
nyitókép: Perchance.org