Britská vláda nově spolupracuje s americkým Microsoftem a dalšími subjekty na identifikaci a potírání falešného digitálního obsahu – deepfake. Cílí hlavně na citlivý osobní obsah, finanční kriminalitu, ale i fenomén zvaný deepstate.
Nově vyvíjený systém má umožnit rychlou identifikaci manipulovaného obsahu ve velkém měřítku. K dispozici má být státním orgánům, médiím a online platformám. Detekční systém cílí zejména na citlivý osobní obsah. Uplatnění ale prý najde i v oblasti finanční bezpečnosti, kde přibývá podvodů založených na falešných hlasových zprávách či videozáznamech. Britská vláda už dříve uvedla, že zvláštní důraz klade i na ochranu volebních procesů. Digitální klamavé zprávy totiž mohou být zneužity i k šíření falešných prohlášení politiků a k manipulaci voličů. A to jak ze strany třetích zemí, tak domácích uskupení, které se snaží vytvořit takzvané deepstate [více níže, pozn. red.].
Deepfake je technologie, která umožňuje vytváření falešného digitálního obsahu, převážně audio a video obsahu, pomocí umělé inteligence [AI]. Ta dokáže realisticky nahradit tváře a hlasové stopáže v existujících videích, fotografiích nebo zvukových nahrávkách. Upravuje se především mimika obličeje a řeč jednotlivých aktérů. Lidé pak vykonávají činnosti, které ve skutečnosti nedělají, a říkají slova, která ve skutečnosti nikdy nepronesli.
Je více žádoucí, aby lidé mysleli kriticky, říká expert na AI
Deepstate zase tvoří skrytou síť moci, tvořenou byrokraty, zpravodajskými službami a vojenskými složkami. Ty operují nezávisle nebo ve shodě s voleným politickým vedením a prosazují vlastní agendu. A stejně jako podvodníci i tyto struktury využívají deepfake. V Česku se pro tento typ a jemu podobnému podvodnému jednání vžil výrok: „Dnešní informace je zítřejší dezinformace!“ Poukazuje tak na dynamickou povahu záměrně šířenými nepravdami v digitálním věku, jež ovlivňují veřejné mínění a politickou scénu.
Microsoft dodává know-how a datové kapacity
Britská vláda tento týden [5.2.] potvrdila, že se spojila s předními technologickými společnostmi, zejména firmou Microsoft, ale i akademiky a odborníky, aby společně vyvinuli a implementovali technologické nástroje, které rozpoznají deepfake výstupy.
„To pomůže Spojenému království stát se světovým lídrem v boji proti škodlivému a klamavému deepfake obsahu,“ tvrdí zástupci britské vlády v tiskové zprávě.
Microsoft do projektu přináší své know-how v oblasti AI, cloudové infrastruktury a kybernetické bezpečnosti. Společnost dlouhodobě investuje do nástrojů pro odpovědné využívání AI, včetně technologií pro označování, sledování a ověřování digitálního obsahu.
Výnosy vlastníka Googlu, Androidu či YouTube překonaly 8 bilionů korun
V testování se zaměřuje tým na detekci deepfake v oblasti citlivého osobního obsahu, finančních podvodů, vydávání se za jinou osobu a manipulace veřejnosti. Podle britské vlády loni lidé a instituce sdíleli na internetu 8 000 000 klamavých informací vytvořených pomocí AI. Přičemž ještě v roce 2023 jich bylo půl milionu.
„Tyto materiály zločinci často používají k podvodné krádeži peněz, zbavování důstojnosti žen a dívek a šíření škodlivého obsahu online. Zločinci již tuto technologii ale i využívají k vydávání se za celebrity, členy rodiny a politické osobnosti,“ uvádí britská vláda.
Soustředíme se hlavně na ochranu dětí
„Babička podvedená falešným videem svého vnuka. Mladá žena, jejíž obraz je manipulován bez jejího souhlasu. Podvodný zločinecký podnik, který se vydává za solidní společnost,“ uvedla několik konkrétních příkladů britská ministryně pro ochranu žen a dětí Jess Phillipsová [Labouristická strana].
Podle ní se nástroje k vytváření přesvědčivého falešného obsahu stávají čím dál levnější a dostupnější a vyžadují málo nebo žádné technické znalosti.
Britská ministryně pro vědu a technologie Liz Kendallová [Labouristická strana] zase řekla, že deepfake zneužívají zločinci nejen k deliktům proti lidské důstojnosti, ale i k podvádění veřejnosti a podkopávání důvěry v to, co vidíme a slyšíme.
„Spojené království vede globální boj proti zneužívání deepfake. A ti, kteří se snaží oklamat a ublížit ostatním, se nebudou mít kam schovat,“ řekla.
Stopy zneužívání dětí na internetu umí zachytit AI
Odhalování deepfake je podle ní jen součástí řešení. Zdůraznila, že i proto britská vláda kriminalizovala vytváření zejména falešných obrázků vytvořených AI u reálných osob. Upozornila na nedávnou akci Deepfake Detection Challenge, kterou financovala právě britská vláda. Akci pořádal Microsoft a za čtyři dny se jí zúčastnilo více než 350 lidí. Mezi nimi byli zástupci Interpolu, technologických firem i aliance Five Eyes. Školili se právě na rozpoznávání deepfake.
Čína a její firmy stahují americký technologický náskok v AI
Five Eyes [FVEY] je aliance zpravodajských služeb Austrálie, Kanady, Nového Zélandu, Británie a USA. Vznikla na základě dohody Ameriky a Británie už v roce 1946. Zaměřuje se na společný sběr a analýzu zpravodajských informací pro zajištění národní bezpečnosti.
Na projektu se podílí i policie City of London
„Práce na nových nástrojích k rozpoznávání deepfake a tvorbě právního rámce je silnou a včasnou reakcí Spojeného království na rychle se vyvíjející hrozbu, kterou představuje umělá inteligence a deepfake technologie,“ uvedl důstojník britské policie ze City of London Police, jež se specializuje na boj s hospodářskou kriminalitou.
Hlavní problém podle něj spočívá ve využívání moderních technologií podvodníky, kteří se s jejich pomocí prezentují jako důvěryhodné osoby. Tvrdí, že škody, které působí narůstají obrovskou rychlostí.
„Od důkladného testování deepfake technologií a stanovení jasných pravidel očekávám posílení pravomocí orgánů činných v trestním řízení udržet si náskok před pachateli trestných činů,“ uvedl s tím, že přínosem bude větší bezpečnost britské veřejnosti.
Prvním krokem je podle něj zavedení legislativy, která zakáže komukoli vytvářet nebo vyžadovat deepfake snímky dospělých a nezletilých osob bez jejich souhlasu.
–DNA–
