Česká státní správa nesmí využívat produkty čínské společnosti DeepSeek. Ta se zaměřuje na umělou inteligenci [AI]. Jako čínská společnost je ale v případě potřeby povinna spolupracovat s vládou Čínské lidové republiky. A to je riziko.
O zákazu využívání produktů DeepSeek v české státní správě rozhodla na svém včerejším [9.7.] zasedání vláda Petra Fialy [ODS]. Učinila tak na doporučení Národního úřadu pro kybernetickou a informační bezpečnost [NÚKIB].
DeepSeek je čínská společnost zabývající se umělou inteligencí [AI]. Mimo dalších produktů vyvíjí open-source velké jazykové modely. Společnost financuje čínský hedge fond High-Flyer. Obě společnosti, DeepSeek a High-Flyer, sídlí v Chang-čou v provincii Če-ťiang. Hlavní osobou firmy je Liang Wenfeng.
DeepSeek zazvonil právě včas. Vyplatí se investice do čínské AI?
DeepSeek na sebe upozornil na začátku letošního roku, když oznámil vývoj pokročilých AI modelů s výrazně nižšími náklady, než jaké má americká konkurence. A to včetně nákladů na spotřebu energie. Na čínskou AI prudce reagovaly burzy, konkurence i politici. Americký prezident Donald Trump dokonce uvedl, že spuštění čínského chatbotu R1 od DeepSeek by mělo být budíčkem pro firmy v USA. Reagoval i šéf konkurenční americké společnosti OpenAI Sam Altman.
„Chatbot R1 je více než působivý. A to hlavně díky tomu, co nabízí, a hlavně za jakou cenu,“ řekl, ale také dodal: „My samozřejmě dodáme daleko lepší modely.“
ChatGPT: Odsoudili ho za vraždu dvou dětí a pokus o vraždu třetího
I si zaspekuloval, že čínská firma využila pro vývoj svého chatbotu její technologie a data. Nástup čínského chatbotu ale neotřásl jenom americkými technologickými firmami, ale i hodnotou jejich akcií. Technologický index Nasdaq Composite v reakci na něj bezprostředně oslabil více než o tři procenta. Akcie amerického výrobce grafických karet pro AI, společnosti Nvidia [Nvidia se stala celosvětově první firmou s akciemi na burze, jejíž tržní hodnota dosáhla 4 bilionů dolarů, cca 84,2 bilionu Kč, pozn. red.], po nástupu DeepSeeku dokonce propadly o 17 procent.
Není všechno zlato, co se třpytí
„Pokud by se čínské systémy ukázaly jako dlouhodobě udržitelné, mohlo by to znamenat zásadní posun ve vnímání nákladů na vývoj AI a otevřít diskuzi o efektivnějším využití výpočetních zdrojů,“ okomentovali situaci analytici společnosti Amundi, která nedávno otevřela tematický podílový fond, jenž se zaměřuje na investice do AI.
Benjamin Lucas: Hospodářský růst podpoří AI. Nebude to ale hned
Na nástup čínského chatbotu DeepSeek reagovaly ale i další subjekty. Například izraelsko-americká společnost Wiz Research, která se zaměřuje na kybernetickou bezpečnost, brzy oznámila, že DeepSeek ponechal bez zabezpečení citlivá data uživatelů na internetu.
„Wiz Research identifikoval veřejně přístupnou databázi ClickHouse patřící DeepSeeku. Ta umožňuje plnou kontrolu nad databázovými operacemi, včetně možnosti přístupu k interním datům,“ upozornila tehdy kyberbezpečnostní společnost.
Čínský DeepSeek zaskočil Západ i investory. Co bude dál, se uvidí
Zjištění firmy zahrnovalo více než milion řádků nechráněných protokolových toků, které obsahují historii chatu, tajné klíče a další citlivé informace.
„Náš tým okamžitě a zodpovědně problém oznámil společnosti DeepSeek, která problém okamžitě vyřešila,“ dodala firma.
Tato slova potvrdil samotný DeepSeek, když uvedl, že po upozornění data neprodleně zabezpečil. Avšak pozdě. Chatbot R1 mezitím odstranily v některých zemích ze své nabídky firmy Apple a Google. To se stalo například v Itálii, kde se o čínský chatbot začaly zajímat tamější regulační úřady.
Meta Platforms jedná s investory o nových datových centrech pro AI
Na DeepSeek se zaměřil i irský úřad pro ochranu soukromí. To kvůli obavám ze způsobu, jakým jeho chatbot zpracovává údaje irských občanů. Úřad to vysvětlil tím, že má vážné obavy z možného porušování právních předpisů Evropské unie. Přičemž je to právě irský úřad pro ochranu osobních údajů, který je hlavním regulačním orgánem pro technologické firmy v EU. To proto, že mnohé z nich mají v Irsku svou evropskou základnu.
Premiér Petr Fiala: Obavy o bezpečnost
„DeepSeek je čínská společnost, která v letošním roce vydala svůj velký jazykový model R1. Jelikož se jedná o čínskou společnost, dopadají na ni veškeré povinnosti spojené s legislativou Čínské lidové republiky,“ uvedl včera po jednání vlády premiér Petr Fiala [ODS].
To podle něj zahrnuje i povinnost společnosti kdykoli poskytnout součinnost orgánům čínského státu, pokud si ji vyžádají.
„Což může vést k přístupu státního aparátu k datům uchovávaným na serverech v Čínské lidové republice,“ vysvětlil rizikovost používání těchto produktů český premiér.
Čínské součástky v autech vadí. Jsou totiž bezpečnostním rizikem
Aplikace podle něj vykazují i další bezpečnostní rizika, například nedostatečné zabezpečení přenosu a sběru dat. I proto vláda schválila, aby české úřady a instituce v rámci české státní správy vůbec nepoužívaly produkty, aplikace, řešení, webové stránky a webové služby poskytované čínskou společností DeepSeek.
Muskův Grok má problémy
Co se týče modelů AI, za pozornost stojí aktuální zveřejnění nové verze chatbota Grok 4 americké společnosti xAI miliardáře Elona Muska. Podle firmy nová verze nabízí vylepšenou schopnost hlasové komunikace. Grok je dostupný uživatelům sítě X. Podle dřívější zprávy Bloombergu společnost na vývoji AI modelů prodělává asi miliardu dolarů měsíčně.
Navíc se ukazuje, že nefungují vždy tak, jak by si mnozí představovali. Včera [9.7.] vyvolal chatbot Grok bouři nevole poté, co na sociální síti X zveřejnil sérii antisemitských příspěvků. V jednom z již smazaných výroků se Grok označil za „MechaHitlera“ a označil Adolfa Hitlera za ideálního vůdce k řešení „proti-bílé nenávisti“. Dále nesprávně obvinil uživatelku jménem „Cindy Steinberg“, že slaví smrt dětí v texaském letním táboře, a to pouze na základě jejího příjmení.
Elonova volba: Buď politika, nebo byznys. Obojí ale zvládá jen Trump
V dalších komentářích chatbot opakoval antisemitské stereotypy. Například, že Židé ovládají Hollywood a použil výrazy jako „zrzavá děvka“. Tyto výroky následovaly krátce po oznámení Elona Muska, že Grok projde změnami ke snížení „politické korektnosti“.
Muskova xAI reagovala rychle. Smazala problematické příspěvky, omezila schopnosti Groku publikovat texty na síti X a oznámila zavedení nových filtrů proti nenávistnému obsahu.
Je více žádoucí, aby lidé mysleli kriticky, říká expert na AI
Organizace Liga proti hanobení [ADL] incident označila za „nezodpovědný, nebezpečný a antisemitský“. Varovala, že šíření extremistického obsahu pomocí AI představuje vážnou společenskou hrozbu. Turecko následně zakázalo provozování Groku na svém území a Polsko plánuje nahlásit xAI Evropské komisi kvůli porušení nových digitálních pravidel týkajících se nenávistných projevů. V obou zemích došlo k zákazu technologie. Ta totiž urážela tamější politiky.
–DNA–
….Organizace Liga proti hanobení ……že Židé ovládají Hollywood……….Ta totiž urážela tamější politiky……
Je to neskutečná legrace!!! Je to legrace, když je jasné, kde a na čem ji tvůrci učí. Tak by se vlastně dalo říci: „Žák lepší učitele!“
Vždy tomu tak bylo. Důkazem je vývoj světa a lidské společnosti. Proto ani s umělou inteligencí tomu nemůže být jinak. A zákazy jsou na úrovni toho, jak v samém počátku průmyslové revoluce dělníci rozbíjeli stroje s představou, že jim berou práci. No, jim ji sice braly, to dělníci pravdu měli, ale už generaci jejich dětí ji mnohem více přinesly, než vzaly a navíc výrazně změnily svět práce k lepšímu.
Osobně si myslím, že hvězdná chvíle umělé inteligence teprve přijde. A to v oblasti, kde se může uplatnit nejvíce. Ve výzkumu mozku. To je nejméně probádaná oblast života, protože s ním nelze moc experimentovat. Je to řídicí jednotka jedince a každá chybička ho „snadno vyřadí z provozu.“ Z etického hlediska je to tedy závora, za kterou se není možné přímo dostat. A když se nedá dostat, možnosti jak věc zkoumat, v tomto směrů z valné části mizí. A když ne, jsou jen okrajové a nemohou jít na podstatu. Pokud se však u umělé inteligence modely postupně vypracují tak, jak se to zatím jeví, že se mozku budou podobat stále více a více, bude to potom takový model mozku a na tomto neživém modelu už experimentovat lze. Bude to takové souběžné přibližování se skutečnému mozku se současným experimentováním jak vlastně mozek funguje a výsledky výzkumu zase zpětně systém vylepší k větší dokonalosti.
A jak se věc bude vyvíjet dál? Stejně jako věky před tím. Čím více a lépe nám bude pomáhat, tím více na ni budeme závislí. A čím více na ni budeme závislí, tím více ji budeme vylepšovat a rozvíjet, aby nám byla ještě více a lépe užitečná.
A problémy? Nebudou. A pokud ano, tak jen ty, které si způsobíme sami sobě. Stejně, jako ty výpadky elektřiny. Většina situací nebude ta, že jako třeba dnes, že není elektřina, že vypadla a tak nemůže být ekonomický život. V reálu dochází vždy k tomu, že předchozí činností si ji nepřímo vypneme. Je to stejný princip, jako když vyjedete na obyčejnou okresku a tam v automobilu řežete zatáčky rychlostí, která nikdy neklesne pod 100km/h. Následně vás také nezbijí následky havárie, ale zabije vás nepřímo váš mozek, který řídil to, jak má noha tlačit na pedál plynu a rozhodoval, jak a kdy mají ruky točit volantem. A to ostatní jsou už jen zákonité projevy fyzikálních zákonů na vůli lidé nezávislých.
Takže tak nějak pak bude vypadat život s umělou inteligencí. Moc se od dnešního života se stroji lišit nebude. A ani nemůže. A že by nás přechytračila a ovládla? Odporuje to základním faktům. Na své tvůrce nemá a mít nebude a při kontaktu s blbcem je tento vůči ní imunní. Myšleno tak, že při takovém kontaktu to budou dva paralelní světy, bez možnosti jejich průniku. A xistence průniku je klíčova pro ovládnutí. Nakonec i dnes vidíte a máte krásné důkazy v příkladech paralelní existenci dvou světů, žijících na jednom místě a v jednom čase, a to bez jakékoliv možnosti jejich průniků. S umělou inteligenci to jiné nebude.