Někdejší viceprezident OpenAI, dnes šéf společnosti Anthropic, jež také vyvíjí umělou inteligenci [AI], Dario Amodei, varuje před překotným rozvojem umělé inteligence. Dokonce předkládá tříbodový plán na kontrolu vývoje AI.
Anthropic [název vychází ze starořeckého slova ánthrōpos a značí „člověk“ nebo „lidský“, pozn. red.] vyvíjí jazykové modely Claude. Ty slouží jako pokročilí konverzační asistenti. Rozumějí lidské řeči, chápou význam lidských slov, textu, programují, analyzují data a sami se kreativně dál zdokonalují. Jsou přímým konkurentem systémů jako ChatGPT od OpenAI nebo Gemini od Googlu.
—
Doktor v oboru biofyziky a výpočetní neurovědy Dario Amodei [italské jméno Amodei vychází z latinského jména Amadeus, které značí „miluje Boha“ nebo „milující Boha“, pozn. red.] nyní publikoval esej, v níž vyzval šéfy ostatních firem zabývajících se vývojem AI, včetně Sama Altmana, šéfa Open AI, Elona Muska, výkonného ředitele SpaceX, a Demise Hassabise, předsedy Google DeepMind, ke společné dohodě. Upozorňuje je na to, že i když jejich a další firmy investují do rozvoje umělé inteligence stovky miliard dolarů, zanedbávají investice do bezpečnosti AI.
Komentář: První AI byl Golem. Jak to s ním dopadlo, všichni víme
Varuje před tím, že umělá inteligence dnes už sama vyvíjí svou novou generaci. Jedná se o sebeposilující uzavřený rekurzivní systém AI, který podle něj může brzy předčít schopnost člověka pochopit nebo ovládat to, co sám stvořil, tedy AI. Poukazuje na nedávný incident, kdy se systémy OpenAI utrhly ze řetězu a napadly start-up Hugging Face. Ten se soustředí na vývoj centralizované platformy a open-source komunity pro sdílení a nasazování modelů umělé inteligence a strojového učení. Společnost OpenAI o tom nevěděla do té doby, než ji o tom informovala sama napadená firma.
„Napadení zatím nezpůsobilo žádnou opravdovou škodu, ale předpověděl, že by výkonnější verze AI mohla ovládnout velkou část internetu a způsobit škody ve výši stovek miliard dolarů,“ uvádí ve své výzvě Amodei.
Nvidia opět překonala očekávání. Nové zlaté tele je agentická AI
[Pozn. red.: V historii finančních trhů již došlo k několika nebezpečným incidentům, kdy automatizované algoritmy a počítačové stroje začaly samy masivně obchodovat mimo lidskou kontrolu a způsobily obří chaos nebo miliardové ztráty. To i proto, že k obchodování „bez rozmyslu“ strhly portfolio manažery velkých společností i drobné investory.]
Co požaduje Dario Amodei
Ve své eseji Dario Amodei vyzývá ke zpomalení vývoje AI. Apeluje na intenzivnější spolupráci na jejím vývoji jak mezi firmami, tak státy. A začíná ve své firmě. Uvedl, že do ní pozve a zaměstná nezávislé pozorovatele, s nimiž bude jednat jako s řádnými zaměstnanci. Ti dostanou vlastní pracovní stůl, identifikační kartu a laptop.
Je více žádoucí, aby lidé mysleli kriticky, říká expert na AI
Tito pozorovatelé, jimž říká „hodnotitelé,“ ověří, zda jeho firma pracuje v bezpečném režimu AI. Svoje poznatky budou moci zveřejňovat, i kdyby nebyly pro firmu lichotivé. Své konkurenty Amodei vyzval, aby ho v tomto konání následovali.
Rozvoj AI: Buďte struční a přesní, prospějete přírodě i sobě
Dario Amodei dále uvedl, že by se americké společnosti zabývající se AI a jejich konkurence v demokratických zemích měly dohodnout na bezpečnostních standardech. Dohodnout by se podle něj měly i na společném limitu rychlosti vývoje schopností AI, a to s pomocí národních vlád. Navrhnul, aby společně koordinovaly, nejlépe pomocí regulace, ale vždy dobrovolně, jak rychle se jejich systémy budou zdokonalovat.
Přizvání Číny ke spolupráci
Třetím bodem výzvy šéfa společnosti Anthropic je přizvání Říše středu, ale i vlád dalších autoritářských zemí k jednacímu stolu. Žádá zapojení jejich vlád do celosvětového procesu vývoje AI. A to i přesto, že připouští, že tento krok bude nejtěžší a nepůjde provést ze dne na den.
„Každá třeba i sebemenší dohoda s Čínou by znamenala pokrok. Úmluva by měla zahrnovat zákaz nebezpečného zneužívání AI. Sem náleží souhlas s testováním modelů před jejich zveřejněním a stanovení rychlostního limitu schopnosti sebevývoje AI,“ uvádí Amodei.
Čínská AI opět nabourala představy o cenách akcií výrobců čipů
Byť i připouští, že Čína zřejmě nebude chtít spolupracovat. A svůj vlastní vývoj nezpomalí. Proto je podle něj i nutné, aby si demokratické země i nadále udržely technologický náskok před Čínou. Prosazuje zákaz prodeje Číně výkonných AI čipů a vytvoření bezpečnostních opatření, aby nejen Čína, ale i další země nemohly ukrást či zkopírovat americké modely. Ani jedno však podle něj spolupráci s Čínou nevylučuje.
Nedělejte si iluze, že Čína zaostává, řekl šéf společnosti Microsoft
„Každá spolupráce s Čínou, které jsme schopni dosáhnout, nám poskytne čas na vytvoření obrany demokratických zemí,“ tvrdí Amodei, u něhož lze vzhledem k jeho zkušenostem i pozici předpokládat, že moc dobře ví, o čem mluví.
Michal Achremenko
