Prezident Microsoftu Brad Smith vyzval k urychlenému zavedení globálních bezpečnostních pravidel pro AI. Žádá nezávislé kontroly, povinné hlášení incidentů a možnost zastavit nebezpečně jednající systémy.
Uvedl to v rozhovoru pro BBC. V něm Smith přirovnal situaci k bezpečnostním kontrolám běžných výrobků. Podle něj dnes podléhají pračky přísnějším bezpečnostním pravidlům než AI. A zatímco každé balení mléka v obchodě splňuje dané požadavky a prochází kontrolou, AI nekontroluje nikdo. Zkušenosti s dohledem nad jinými produkty by tak podle něj měly posloužit při vytváření pravidel pro umělou inteligenci.
AI se sama zkopíruje ve vaší domácnosti
Na aktuální hrozby upozorňují i zástupci americké společnosti Anthropic. Podle nich některé systémy AI velice rychle míří ke schopnosti samostatně se kopírovat a šířit mezi zařízeními připojenými k internetu. Tyto systémy tak samy o sobě nepotřebují datová centra, protože parazitují na výkonu zařízeních napojených na internet. A to může být vaše lednička, pračka, telefon nebo automobil.
„Podle odborníků společnosti Anthropic menší modely AI již brzy samy dokáží vytvářet vlastní kopie a spouštět je na dalších zařízeních. Využijí k tomu bezpečnostní mezery u běžné elektroniky, například chytrých televizorů, domácích spotřebičů či dalších zařízení připojených k internetu. Jejich výpočetní výkon si vezmou pro vlastní provoz a své další šíření,“ potvrzuje pro FinTag analytik XTB Ondrej Greguš.
Je více žádoucí, aby lidé mysleli kriticky, říká expert na AI
Znepokojující podle něj je, že i relativně pokročilé modely AI lze provozovat na sítích levných elektronických zařízení s omezeným výpočetním výkonem.
„Výzkumníci Anthropicu dokázali spustit model Gemma4-26B-A4B od společnosti Google na 15 levných Android TV boxech. Přitom každý z nich stál přibližně 55 dolarů. Přestože systém pracoval poměrně pomalu, experiment ukázal, že k provozu modelu AI není nezbytné využívat drahé grafické procesory v datových centrech,“ vysvětluje.
Na druhou stranu podle něj takové zjištění i ukazuje, že podobným způsobem by se mohly v budoucnu vytvářet distribuované sítě zařízení, které by společně zajišťovaly provoz AI. Aby se tak stalo, je třeba ale mít celou věc pod kontrolou. A právě v tom je podle expertů ten největší háček.
Největší problém? Ztráta kontroly
Výzkumníci americké společnosti za zásadní riziko uvádějí vznik takzvaných „AI worms“. Jde o autonomní systémy AI, které se mezi elektronickými zařízeními rozšíří podobně jako počítačoví červi. Avšak na rozdíl od tradičního škodlivého softwaru tyto systémy využívají umělou inteligenci k přizpůsobování svého chování novým zařízením a bezpečnostním překážkám. A současně i přeprogramují stávající zařízení ke svým potřebám.
„Další klíčový problém spočívá v tom, že jejich zastavení se ukazuje jako mimořádně náročné. Pokud by totiž model AI fungoval současně na tisících nezávislých zařízení, neexistovalo by jediné centrální místo, jehož vypnutím by bylo možné celý systém zastavit,“ uvádí Ondrej Greguš.
Přední tvůrce umělé inteligence se obává toho, co sám stvořil
Společnost Anthropic sice už upozornila, že některé modely AI již dnes dokážou samostatně vykonávat několik dílčích kroků potřebných k replikaci, ale i dodala, že při jejich spojení do komplexního procesu zejména menší modely zatím stále dělají chyby. Firma také odmítla existenci plně autonomního a nekontrolovaně se šířícího systému AI. Nicméně odhad, že potřebné schopnosti těchto systémů AI by se mohly objevit během několika měsíců, je i podle ní velice pravděpodobný.
Nová výzva pro kybernetickou bezpečnost
Čím dál více analytiků tvrdí, že potenciální důsledky dalšího rozvoje samostatně fungujících technologií přesahují samotný sektor umělé inteligence. Stále větší množství domácích i podnikových zařízení je připojeno k internetu. A mnohá z nich mají slabé bezpečnostní zabezpečení. Takové prostředí vytváří prostor pro vznik rozsáhlých distribuovaných sítí, které by rizikové autonomní systémy dokázaly využívat bez vědomí jejich vlastníků.
„My potřebujeme zavést nouzové brzdy, které by umožnily pozastavit nebo zpomalit činnost umělé inteligence, pokud by se nějakým způsobem vymkla kontrole,“ říká k této a dalším hrozbám prezident Microsoftu Brad Smith.
Komentář: První AI byl Golem. Jak to s ním dopadlo, všichni víme
Avšak nejen to. Instituce, domácnosti a firmy podle něj musí více investovat do ochrany síťové infrastruktury, pravidelných bezpečnostních aktualizací a monitorování zařízení připojených do internetových sítí. Navrhl také, aby nové technologie v oblasti umělé inteligence posuzovali nezávislí vládní hodnotitelé.
„Víme, jak to dělat u jiných produktů,“ řekl Smith a dodal: „Měli bychom na těchto zkušenostech stavět a zamyslet se nad tím, jak je uplatnit u umělé inteligence.“
Nvidia opět překonala očekávání. Nové zlaté tele je agentická AI
„Když se podíváte na agenty umělé inteligence, kteří se vymkli lidské kontrole… Když se podíváte na modely, jež jsou tak výkonné, že ohrožují globální kybernetickou bezpečnost… Prostě už na nic dalšího nečekejme. Teď nastala ta chvíle,“ vyzval ke změnám.
Sám považuje za aktuálně největší technologický oříšek bezpečnostní zvládnutí schopnosti AI nejen samostatně vykonávat úkoly, ale také zajišťovat vlastní provoz a další šíření. Což platí dvojnásob, když se ukazuje, že tradiční mechanismy jejího monitorování a vypínání k tomu nepostačí už za několik měsíců.
–DNA–
