Britská vláda nově spolupracuje s americkým Microsoftem a dalšími subjekty na identifikaci a potírání falešného digitálního obsahu – deepfake. Cílí hlavně na citlivý osobní obsah, finanční kriminalitu, ale i fenomén zvaný deepstate.
Nově vyvíjený systém má umožnit rychlou identifikaci manipulovaného obsahu ve velkém měřítku. K dispozici má být státním orgánům, médiím a online platformám. Detekční systém cílí zejména na citlivý osobní obsah. Uplatnění ale prý najde i v oblasti finanční bezpečnosti, kde přibývá podvodů založených na falešných hlasových zprávách či videozáznamech. Britská vláda už dříve uvedla, že zvláštní důraz klade i na ochranu volebních procesů. Digitální klamavé zprávy totiž mohou být zneužity i k šíření falešných prohlášení politiků a k manipulaci voličů. A to jak ze strany třetích zemí, tak domácích uskupení, které se snaží vytvořit takzvané deepstate [více níže, pozn. red.].
Deepfake je technologie, která umožňuje vytváření falešného digitálního obsahu, převážně audio a video obsahu, pomocí umělé inteligence [AI]. Ta dokáže realisticky nahradit tváře a hlasové stopáže v existujících videích, fotografiích nebo zvukových nahrávkách. Upravuje se především mimika obličeje a řeč jednotlivých aktérů. Lidé pak vykonávají činnosti, které ve skutečnosti nedělají, a říkají slova, která ve skutečnosti nikdy nepronesli.
Je více žádoucí, aby lidé mysleli kriticky, říká expert na AI
Deepstate zase tvoří skrytou síť moci, tvořenou byrokraty, zpravodajskými službami a vojenskými složkami. Ty operují nezávisle nebo ve shodě s voleným politickým vedením a prosazují vlastní agendu. A stejně jako podvodníci i tyto struktury využívají deepfake. V Česku se pro tento typ a jemu podobnému podvodnému jednání vžil výrok: „Dnešní informace je zítřejší dezinformace!“ Poukazuje tak na dynamickou povahu záměrně šířenými nepravdami v digitálním věku, jež ovlivňují veřejné mínění a politickou scénu.
Microsoft dodává know-how a datové kapacity
Britská vláda tento týden [5.2.] potvrdila, že se spojila s předními technologickými společnostmi, zejména firmou Microsoft, ale i akademiky a odborníky, aby společně vyvinuli a implementovali technologické nástroje, které rozpoznají deepfake výstupy.
„To pomůže Spojenému království stát se světovým lídrem v boji proti škodlivému a klamavému deepfake obsahu,“ tvrdí zástupci britské vlády v tiskové zprávě.
Microsoft do projektu přináší své know-how v oblasti AI, cloudové infrastruktury a kybernetické bezpečnosti. Společnost dlouhodobě investuje do nástrojů pro odpovědné využívání AI, včetně technologií pro označování, sledování a ověřování digitálního obsahu.
Výnosy vlastníka Googlu, Androidu či YouTube překonaly 8 bilionů korun
V testování se zaměřuje tým na detekci deepfake v oblasti citlivého osobního obsahu, finančních podvodů, vydávání se za jinou osobu a manipulace veřejnosti. Podle britské vlády loni lidé a instituce sdíleli na internetu 8 000 000 klamavých informací vytvořených pomocí AI. Přičemž ještě v roce 2023 jich bylo půl milionu.
„Tyto materiály zločinci často používají k podvodné krádeži peněz, zbavování důstojnosti žen a dívek a šíření škodlivého obsahu online. Zločinci již tuto technologii ale i využívají k vydávání se za celebrity, členy rodiny a politické osobnosti,“ uvádí britská vláda.
Soustředíme se hlavně na ochranu dětí
„Babička podvedená falešným videem svého vnuka. Mladá žena, jejíž obraz je manipulován bez jejího souhlasu. Podvodný zločinecký podnik, který se vydává za solidní společnost,“ uvedla několik konkrétních příkladů britská ministryně pro ochranu žen a dětí Jess Phillipsová [Labouristická strana].
Podle ní se nástroje k vytváření přesvědčivého falešného obsahu stávají čím dál levnější a dostupnější a vyžadují málo nebo žádné technické znalosti.
Britská ministryně pro vědu a technologie Liz Kendallová [Labouristická strana] zase řekla, že deepfake zneužívají zločinci nejen k deliktům proti lidské důstojnosti, ale i k podvádění veřejnosti a podkopávání důvěry v to, co vidíme a slyšíme.
„Spojené království vede globální boj proti zneužívání deepfake. A ti, kteří se snaží oklamat a ublížit ostatním, se nebudou mít kam schovat,“ řekla.
Stopy zneužívání dětí na internetu umí zachytit AI
Odhalování deepfake je podle ní jen součástí řešení. Zdůraznila, že i proto britská vláda kriminalizovala vytváření zejména falešných obrázků vytvořených AI u reálných osob. Upozornila na nedávnou akci Deepfake Detection Challenge, kterou financovala právě britská vláda. Akci pořádal Microsoft a za čtyři dny se jí zúčastnilo více než 350 lidí. Mezi nimi byli zástupci Interpolu, technologických firem i aliance Five Eyes. Školili se právě na rozpoznávání deepfake.
Čína a její firmy stahují americký technologický náskok v AI
Five Eyes [FVEY] je aliance zpravodajských služeb Austrálie, Kanady, Nového Zélandu, Británie a USA. Vznikla na základě dohody Ameriky a Británie už v roce 1946. Zaměřuje se na společný sběr a analýzu zpravodajských informací pro zajištění národní bezpečnosti.
Na projektu se podílí i policie City of London
„Práce na nových nástrojích k rozpoznávání deepfake a tvorbě právního rámce je silnou a včasnou reakcí Spojeného království na rychle se vyvíjející hrozbu, kterou představuje umělá inteligence a deepfake technologie,“ uvedl důstojník britské policie ze City of London Police, jež se specializuje na boj s hospodářskou kriminalitou.
Hlavní problém podle něj spočívá ve využívání moderních technologií podvodníky, kteří se s jejich pomocí prezentují jako důvěryhodné osoby. Tvrdí, že škody, které působí narůstají obrovskou rychlostí.
„Od důkladného testování deepfake technologií a stanovení jasných pravidel očekávám posílení pravomocí orgánů činných v trestním řízení udržet si náskok před pachateli trestných činů,“ uvedl s tím, že přínosem bude větší bezpečnost britské veřejnosti.
Prvním krokem je podle něj zavedení legislativy, která zakáže komukoli vytvářet nebo vyžadovat deepfake snímky dospělých a nezletilých osob bez jejich souhlasu.
–DNA–
Článek píše: ……Digitální klamavé zprávy totiž mohou být zneužity i k šíření falešných prohlášení politiků a k manipulaci voličů. A to jak ze strany třetích zemí, tak domácích uskupení, které se snaží vytvořit takzvané deepstate…..
Dovolím si takovou úvahu. Vezměme si dva politiky. Třeba pana Fialu a pana Okamuru. A na oba nyní ve svém myšlenkovém experimentu vypustíme Krakena s názvem Deepfake.
1) U pana Okamury by to mohlo vypadat následovně. Pak Okamura tvrdí. Je třeba se důrazně vymezit proti xenofobii a rasizmu. Dali jsme si úkol výrazněji se angažovat v politice ochrany zranitelných lidí, kteří se ve svých zemích setkávají s brutální diskriminací a hledají v Evropě novou perspektivu svého života. Těm chceme být finančně i administrativně účinně nápomocni. To vám voličům slibuji.
2) U pana Fialy by skus Krakenových čelistí mohl vypadat takto. Jak jsem vždy tvrdil a na YouTube si to můžete dohledat, je třeba velmi úzce ve všem spolupracovat s EU, protože všechny její projekty fungují nezchybně a v co nejkratší době je třeba prijmout euro. Na tom začínáme intenzívně pracovat, to vám, voličům, slibuji.
A teď se zamyslete, jakým způsobem tento informační Kraken proudí přes vaše neurony v mozku a jaké tam vytváří pro úvahy nové spoje, které by mohly mít vliv na to, jak někoho volit budete, nebo nebudete, ač jste původně uvažovali přesně opačně. A když si to ujasníte, tak se zamyslete proč.
Malá nápověda. Účinek politického Krakena, pokud nějaký je, je jen rána z milosti, jak se říká. Takový závěr předchozích činností. Ovšem dlužno dodat, že zcela bezmocný politický Kraken také není. Jde o to, na koho jeho oko padne.