Někdejší viceprezident OpenAI, dnes šéf společnosti Anthropic, jež také vyvíjí umělou inteligenci [AI], Dario Amodei, varuje před překotným rozvojem umělé inteligence. Dokonce předkládá tříbodový plán na kontrolu vývoje AI.
Anthropic [název vychází ze starořeckého slova ánthrōpos a značí „člověk“ nebo „lidský“, pozn. red.] vyvíjí jazykové modely Claude. Ty slouží jako pokročilí konverzační asistenti. Rozumějí lidské řeči, chápou význam lidských slov, textu, programují, analyzují data a sami se kreativně dál zdokonalují. Jsou přímým konkurentem systémů jako ChatGPT od OpenAI nebo Gemini od Googlu.
—
Doktor v oboru biofyziky a výpočetní neurovědy Dario Amodei [italské jméno Amodei vychází z latinského jména Amadeus, které značí „miluje Boha“ nebo „milující Boha“, pozn. red.] nyní publikoval esej, v níž vyzval šéfy ostatních firem zabývajících se vývojem AI, včetně Sama Altmana, šéfa Open AI, Elona Muska, výkonného ředitele SpaceX, a Demise Hassabise, předsedy Google DeepMind, ke společné dohodě. Upozorňuje je na to, že i když jejich a další firmy investují do rozvoje umělé inteligence stovky miliard dolarů, zanedbávají investice do bezpečnosti AI.
Komentář: První AI byl Golem. Jak to s ním dopadlo, všichni víme
Varuje před tím, že umělá inteligence dnes už sama vyvíjí svou novou generaci. Jedná se o sebeposilující uzavřený rekurzivní systém AI, který podle něj může brzy předčít schopnost člověka pochopit nebo ovládat to, co sám stvořil, tedy AI. Poukazuje na nedávný incident, kdy se systémy OpenAI utrhly ze řetězu a napadly start-up Hugging Face. Ten se soustředí na vývoj centralizované platformy a open-source komunity pro sdílení a nasazování modelů umělé inteligence a strojového učení. Společnost OpenAI o tom nevěděla do té doby, než ji o tom informovala sama napadená firma.
„Napadení zatím nezpůsobilo žádnou opravdovou škodu, ale předpověděl, že by výkonnější verze AI mohla ovládnout velkou část internetu a způsobit škody ve výši stovek miliard dolarů,“ uvádí ve své výzvě Amodei.
Nvidia opět překonala očekávání. Nové zlaté tele je agentická AI
[Pozn. red.: V historii finančních trhů již došlo k několika nebezpečným incidentům, kdy automatizované algoritmy a počítačové stroje začaly samy masivně obchodovat mimo lidskou kontrolu a způsobily obří chaos nebo miliardové ztráty. To i proto, že k obchodování „bez rozmyslu“ strhly portfolio manažery velkých společností i drobné investory.]
Co požaduje Dario Amodei
Ve své eseji Dario Amodei vyzývá ke zpomalení vývoje AI. Apeluje na intenzivnější spolupráci na jejím vývoji jak mezi firmami, tak státy. A začíná ve své firmě. Uvedl, že do ní pozve a zaměstná nezávislé pozorovatele, s nimiž bude jednat jako s řádnými zaměstnanci. Ti dostanou vlastní pracovní stůl, identifikační kartu a laptop.
Je více žádoucí, aby lidé mysleli kriticky, říká expert na AI
Tito pozorovatelé, jimž říká „hodnotitelé,“ ověří, zda jeho firma pracuje v bezpečném režimu AI. Svoje poznatky budou moci zveřejňovat, i kdyby nebyly pro firmu lichotivé. Své konkurenty Amodei vyzval, aby ho v tomto konání následovali.
Rozvoj AI: Buďte struční a přesní, prospějete přírodě i sobě
Dario Amodei dále uvedl, že by se americké společnosti zabývající se AI a jejich konkurence v demokratických zemích měly dohodnout na bezpečnostních standardech. Dohodnout by se podle něj měly i na společném limitu rychlosti vývoje schopností AI, a to s pomocí národních vlád. Navrhnul, aby společně koordinovaly, nejlépe pomocí regulace, ale vždy dobrovolně, jak rychle se jejich systémy budou zdokonalovat.
Přizvání Číny ke spolupráci
Třetím bodem výzvy šéfa společnosti Anthropic je přizvání Říše středu, ale i vlád dalších autoritářských zemí k jednacímu stolu. Žádá zapojení jejich vlád do celosvětového procesu vývoje AI. A to i přesto, že připouští, že tento krok bude nejtěžší a nepůjde provést ze dne na den.
„Každá třeba i sebemenší dohoda s Čínou by znamenala pokrok. Úmluva by měla zahrnovat zákaz nebezpečného zneužívání AI. Sem náleží souhlas s testováním modelů před jejich zveřejněním a stanovení rychlostního limitu schopnosti sebevývoje AI,“ uvádí Amodei.
Čínská AI opět nabourala představy o cenách akcií výrobců čipů
Byť i připouští, že Čína zřejmě nebude chtít spolupracovat. A svůj vlastní vývoj nezpomalí. Proto je podle něj i nutné, aby si demokratické země i nadále udržely technologický náskok před Čínou. Prosazuje zákaz prodeje Číně výkonných AI čipů a vytvoření bezpečnostních opatření, aby nejen Čína, ale i další země nemohly ukrást či zkopírovat americké modely. Ani jedno však podle něj spolupráci s Čínou nevylučuje.
Nedělejte si iluze, že Čína zaostává, řekl šéf společnosti Microsoft
„Každá spolupráce s Čínou, které jsme schopni dosáhnout, nám poskytne čas na vytvoření obrany demokratických zemí,“ tvrdí Amodei, u něhož lze vzhledem k jeho zkušenostem i pozici předpokládat, že moc dobře ví, o čem mluví.
Michal Achremenko
Řeknu vám svůj názor.
Netřeba mít příliš velké obavy, protože nejhorší smrt je z vyděšení. Pokrok a vývoj světa totiž nelze zastavit. V této počáteční fázi bych se závodů v tomto směru naopak zúčastnil. Podmiňovací způsob ve větě je namístě, protože v EU, kde žiji, řízené zelenými komouši mohu tak akorát slintat, jak se daří jiným (USA a Číně).
Je třeba mít na paměti následující. Je to produkt člověka. Nasazení bude člověkem. Kde bude produkt nasazen, je také na rozhodnutí člověka a nakonec, co vše bude řídit, o tom také rozhoduje člověk. Proto je to naopak. Pokud obavy nějaké, tak jedině v oblasti člověka, ne z produktu jako takového.
Z toho už jako sláma z bot čouhá následující obecné. V závodech vývoje bych chtěl být první, ale v nasazování v tom klíčovém bych se držel na chvostu pelotonu. Ať se ve zkušebním provozu vydrbe ten druhý, jelikož nejlevnější pro jedince a společnost jsou zkušenosti cizí a nejdražší jsou ty vlastní. Viz například zkušební provoz v oblasti kulturního obohacení zavedených společností. A že každá nová věc, která má perspektivu být užitečná, má své „dětské nemoci“, které je nutné neprve vychytat, aby z ní bylo více užitku než starostí, tak na to můžete vzít jed!