Zdroj: Hospodářské noviny

Autor: Robert Neruda

Minulý týden přinesl několik zpráv, které se nečetly úplně dobře. Jacob Coxon, výzkumník, který odešel z Anthropicu, varoval, že největší AI společnosti míří k samostatně se zlepšující superinteligenci a „hazardují s našimi životy“. Jeho kolega v reakci na tento příspěvek (ani se mi o tom nechce psát!) odhadl, že šance na zničení lidstva do deseti let je více než 10 procent.

Pro mnohé není snadné si představit, jak by k tomu mohlo dojít. Jisté je, že AI zvládá stále složitější úkoly bez přímého lidského vedení. Její výkon roste rychleji než schopnost lidí kontrolovat tento proces. Připomeňme incident ve firmě Hugging Face, při němž se skupina AI agentů při testování sama a bez vědomí lidí pustila do kybernetických útoků. Představme si, co by se stalo, kdyby američtí AI agenti zaútočili třeba na čínskou infrastrukturu. Kolik času by měl Západ na to, aby vysvětlil, že šlo o omyl? Podobných příkladů přibývá.

Proto se stalo něco, co bychom si před pár lety nedokázali představit. Lidé stojící v čele největšího technologického závodu začali mluvit o brzdě.

Šéf Anthropicu, Dario Amodei, minulý týden navrhl zpomalení vývoje nejvýkonnějších modelů, aby bylo možné kontrolovat jejich bezpečnost. Sam Altman z OpenAI jeho výzvu veřejně podpořil, Elon Musk na své síti X napsal, že „Dario má pravdu“, a souhlasí i Demis Hassabis z Googlu. Amodei jde ale ještě dál. Navrhuje, aby se firmy domluvily na společných bezpečnostních standardech a koordinovaně omezily tempo vývoje.

A tady se do příběhu o možném konci lidstva dostává soutěžní právo. Připomeňme jeho základní pravidlo: konkurenti si mají konkurovat, ne se domlouvat, jak soutěž mezi sebou omezit. Státy ochraňují agresivní konkurenci, neboť ta zpravidla přináší spotřebitelům nízké ceny, inovace a nové produkty. Snahy tento proces omezovat dohodou podniků jsou zakázány a přísně trestány jako kartely.

Ne každá komunikace mezi konkurenty je zakázaný kartel. Výměna technických informací o útocích či „slepých místech“ by zřejmě byla v pořádku. Dohoda, že konkurenti nebudou své produkty vyvíjet nebo uvádět na trh rychleji, než si společně odsouhlasí, je ale úplně jiná liga. Jde o společné omezování technického rozvoje, tedy typ koordinace, který soutěžní právo tradičně zakazuje.

To, že kartelem není jen dohoda o cenách nebo rozdělení trhu, lze doložit jedním, pro tuto debatu důležitým precedentem. V roce 2021 Evropská komise potrestala automobilky za AdBlue kartel. Výrobci aut se nedohodli na cenách, ale na tom, že si nebudou konkurovat lepší technologií čištění emisí nad rámec zákonem stanovených minimálních požadavků. Pokuta ve výši 875 milionů eur byla tedy uložena za omezení technického rozvoje.

Povšimněme si, že u AI jde o trochu jiný motiv. Zatímco automobilky chtěly omezit technický pokrok, z nějž by lidstvo mělo prospěch, Amodei navrhuje tempo omezit, protože další pokrok může být podle něj nebezpečný.

Může tedy současný rámec aplikace soutěžního práva nějak pomoci odvrátit možný konec světa? Evropské právo zná výjimku ze zákazu koordinace mezi konkurenty: dohoda musí přinášet výhody, část z nich musí sloužit spotřebitelům, omezení musí být nezbytné pro dosažení účelu a soutěž nesmí zmizet z podstatné části trhu.

Zkusme tato kritéria použít na dohodu největších AI společností světa. Můžeme argumentovat, že přínosem má být odvrácení katastrofy a že z tohoto scénáře dostanou „přiměřený podíl“ i spotřebitelé, a to i ti, kteří AI denně používají a jsou na pokroku v této oblasti existenčně závislí. To asi lze obhájit.

Těžší může být prokázat, že stejného cíle nelze dosáhnout jinak. Kritici budou poukazovat na možnost zavedení regulace či nezávislých auditů. Stejně složité může být tvrdit, že dohoda tří nebo čtyř největších hráčů neznamená úplné vyloučení soutěže.

Potíž je v tom, že žijeme v téměř dokonalé informační asymetrii: nevíme, jaká je realita, a nemáme jak ověřit, zda skutečným motivem Amodeie a spol. jsou opravdu obavy o globální bezpečnost, nebo jde o snahu zvolnit finančně náročný globální závod. Menší firmy upozorňují, že pokud dovolíme omezení konkurence mezi největšími hráči, zhorší to možnosti jejich vyzyvatelů. Náklady spojené s audity a kontrolními mechanismy jsou snesitelné pro OpenAI, Anthropic nebo Google, start-up ale mohou zabít. Proto vidí v diskusích o společném zpomalení snahu o upevnění pozice těch nejsilnějších .

Američané mezitím už řeší možnost vydání zákonné antitrustové výjimky. V Kongresu leží návrh zákona, který by umožnil nejen sdílení informací o rizicích AI, ale i společný odklad vydání, vývoje nebo trénování systémů, pokud by se tím mělo zabránit významnému bezpečnostnímu riziku.

Jenže americká zákonná výjimka, i kdyby byla přijata, je v Evropě k ničemu. Dohoda uzavřená v Kalifornii, která ovlivní modely nabízené evropským zákazníkům, bude i nadále zakázaná unijním právem. Evropa by tedy musela najít vlastní řešení. Je ale reálné, že se EU na takové výjimce shodne dřív, než bude umělá superinteligence hotova?

A pak je tu ovšem Čína.

Bez globální dohody má západní všeobecné zpomalení problém: pokud zabrzdí americké a evropské firmy, a ne ty čínské, riziko katastrofy nezmizí. Sám Amodei říká, že dohoda s Čínou je nejtěžší část jeho plánu. Čínská státní média na jeho návrh reagovala chladně a vidí v něm především pokus Spojených států udržet si technologický náskok a omezit čínský vývoj.

Tady se kruh uzavírá. Firmy se bojí zpomalit samy, protože je předběhne konkurence. Nemohou se ani domluvit, protože to může být kartel. Stát může zasáhnout regulací, ale ta vzniká pomalu a končí na hranicích. A globální dohoda bez Číny řeší jen část problému.

Jsem velký zastánce konkurence a k dohodám konkurentů jsem díky své profesi vždy spíš podezřívavý. Konkurence nám zpravidla přináší nižší ceny, lepší výrobky a inovace. Jenže taky vím, že existují i hodnoty, které jsou důležitější než hospodářská soutěž. Jednou z nich je třeba zachování lidstva.

Co tedy zbývá? Spojené státy mohou přijmout zákonnou výjimku. EU může hledat odvážnější výklad existujících antimonopolních pravidel nebo rychle vytvořit regulaci. Anebo taky můžeme nedělat nic a věřit, že to dobře dopadne.

Americký prezident Trump dal najevo, že preferuje poslední možnost. Obavy z nekontrolované AI označil za „hoax“ a zdůrazňuje, že Amerika nesmí ztratit náskok před Čínou. Sám sebe označil za „dostatečnou pojistku proti umělé inteligenci“. Upřímně, toto mě moc neuklidnilo.

Chtěl bych věřit, že v okamžiku skutečného globálního nebezpečí dokážeme jako lidstvo společně zatáhnout za brzdu a zpomalit. Moc tomu ale nevěřím. Obávám se, že převáží snaha vyhrát globální závod o první místo, geopolitika a nedůvěra mezi státy.

Jedno je jisté. Jestli jsme měli brzdit, nebo naopak nechat soutěž běžet naplno, se tentokrát dozvíme poměrně brzy.