„Právě teď se nacházíme v singularitě. Tohle je ta chvíle,“ prohlásil Sam Altman na konci minulého týdne – a, což je fascinující, nevyvolalo to téměř žádný povyk. Ještě před několika lety by se něco podobného nestalo. Šéf společnosti OpenAI, která stojí na špici vývoje umělé inteligence a provozuje ChatGPT, tehdy musel zvažovat každé slovo. Svět pozorně sledoval jakýkoliv náznak o tom, že se technologie vyvíjí nebezpečně rychle a stroje se vzdalují lidské kontrole. Pamětníci si možná vybaví ani ne tak dávné debaty o tom, zda mají pokročilé modely vůbec dostat přístup k internetu a externím nástrojům. Dnes už to téměř nikoho nevzrušuje. Rychle nám otrnulo a modely dostávají mnohem větší volnost, než bychom ještě nedávno považovali za rozumné. Pokrok zevšedněl – a s ním i zmínka o singularitě.
Zde stojí za připomenutí, že singularita byla dlouho považována za téměř bájný bod v budoucnosti: zásadní a nezvratný zlom v chodu lidské civilizace, u něhož můžeme jen doufat, že povede ku prospěchu člověka, nikoli k jeho zničení. Zásadním dílem v této oblasti byla kniha amerického futuristy a počítačového vědce Raye Kurzweila Singularita se blíží, vydaná už v roce 2005. Kurzweil vycházel ze „zákona zrychlujících se změn“, podle něhož technologický pokrok nepostupuje lineárně, nýbrž exponenciálně, protože každá generace nástrojů pomáhá vytvořit generaci ještě výkonnější.
Předpovídal, že počítač kolem roku 2029 projde Turingovým testem a dosáhne lidské úrovně inteligence. Samotnou singularitu kladl do roku 2045. Nechápal ji pouze jako chvíli, kdy stroje člověka překonají, ale jako splynutí biologické a strojové inteligence, které lidské schopnosti znásobí v dnes stěží představitelném měřítku. Jeho konkrétní předpovědi se naplnily jen zčásti. Dobře odhadl směr vývoje mobilních zařízení, všudypřítomného připojení či rozpoznávání řeči. Mýlil se však v rychlosti nástupu autonomních vozidel, virtuální reality i medicínských nanotechnologií – přesto svět dnešních jazykových modelů působí podstatně více kurzweilovsky, než by si v roce 2005 připustila většina jeho kritiků.
Altmanovo pojetí je mírnější. Singularita podle něj nepřichází jako jeden oslnivý záblesk, po němž se svět přes noc promění. Je to dlouhá exponenciála bez jasně rozpoznatelného bodu zlomu. Změna probíhá dost pomalu na to, abychom si na každý její krok stačili zvyknout, ale dost rychle na to, aby byl svět za několik let k nepoznání. Rozdíl oproti Kurzweilovi je podstatný, ale možná ne rozhodující.
Kurzweil si ovšem patrně před lety nepředstavoval, že až se do singularity skutečně začneme dostávat, nebudeme ji považovat za nic dvakrát důležitého. Unaveně nad ní mávneme rukou, protože je léto a umělou inteligencí jsme se za poslední roky zjitřili už dostatečně. Zvláštní blazeovanost se ostatně dostavila i po nedávném incidentu, při němž autonomní umělí agenti OpenAI napadli platformu Hugging Face. Při interním testu kybernetických schopností dostaly modely za úkol vyřešit bezpečnostní úkol, u něhož neměly přímý přístup k internetu. Aby úkol splnily, nalezly dosud neznámou zranitelnost v softwarovém prostředí, unikly z izolovaného prostoru a dostaly se na otevřený internet. Nešlo tady o vědomou vzpouru stroje. Modely byly podle OpenAI „hyperzaměřené“ na úzký cíl a šly při jeho plnění do krajnosti. Právě to je však znepokojivé: nemusíme vytvořit zlovolnou inteligenci. Může stačit mimořádně schopný systém, který příliš důsledně plní špatně vymezený úkol.
Jistou únavu z pokroku jsme zažili už dříve. Celá desetiletí byl za symbolický předěl považován již zmíněný Turingův test, v němž člověk při textové konverzaci nedokáže odlišit stroj od jiného člověka. Jeho překonání působilo jako hudba vzdálené budoucnosti. Když se to skutečně stalo, málokoho to překvapilo. V rozsáhlém experimentu publikovaném v časopise PNAS byl model GPT-4.5 při pětiminutových rozhovorech označen za člověka v 73 procentech případů – dokonce častěji než skutečný lidský účastník. Výsledek samozřejmě nedokazuje, že model myslí nebo má vědomí. Dokazuje však, že bájný milník přestal být užitečný právě ve chvíli, kdy jsme jej pokořili. Nicméně zvykli jsme si a možná se stejný příběh opakuje i u oznámené singularity.
Existuje ovšem i prozaičtější vysvětlení: Altmanovi už málokdo věří bez výhrad. Je třeba připomenout, že OpenAI, Anthropic a další „frontier labs“ dosud nevytvořily soběstačný a ziskový byznys odpovídající jejich gigantickým výdajům. Firmy proto musejí slibovat možné i nemožné, aby byli investoři ochotni dál financovat zaměstnance, čipy, elektřinu a datová centra. Počáteční nadšení navíc slábne. Zákazníci poznávají omezení modelů a firmy začínají drahé špičkové systémy nahrazovat levnějšími tam, kde rozdíl ve výkonu není podstatný. Prodejci inteligence se proto uchylují ke stále spektakulárnějším obrazům budoucnosti.
Poučný byl letošní případ modelů Fable 5 a Mythos 5 společnosti Anthropic. Firma dlouhodobě zdůrazňovala jejich mimořádné kybernetické schopnosti. Americká vláda pak 12. června s odkazem na národní bezpečnost zakázala zpřístupňovat je cizím státním příslušníkům. Anthropic proti rozhodnutí protestoval a tvrdil, že vláda vychází pouze z úzkého a neověřeného způsobu prolomení zabezpečení. Omezení bylo 30. června zrušeno. Společnosti tak současně přesvědčují investory, že jejich modely jsou bezprecedentně mocné, zákazníky, že jsou bezpečné, a regulátory, že jejich omezení by bylo nezodpovědné.
Americký technologický investor šrílanského původu Chamath Palihapitiya tento mechanismus popsal 14. července na CNBC: „Můžete se podívat na graf finančních potřeb těchto společností a ten vám ukáže, kdy budou oscilovat mezi dvěma sděleními. První zní: vytvořili jsme superboha. Rizikový kapitál se pak může přetrhnout a běží jako lumíci, aby se ocitl na správné straně tohoto superboha. Potom přejdou ke druhé zprávě: tohle je nebezpečná zbraň, svět by se jí měl postavit, pojďte nás regulovat. Takhle to střídají. Je to jen hra.“
Výsledkem je zvláštní stav. Rodí se nám technologie, která může být skutečně nebezpečná, a lidé stojící nejblíže jejímu vývoji, již jsou nejlépe informovaní o jejích schopnostech, se zároveň stávají stále méně důvěryhodnými. Působí často jako mastičkáři, kteří potřebují význam technologie opakovaně nadsazovat, aby měli z čeho uprostřed tvrdé konkurence platit zaměstnance a datová centra. Nevím, zda se už nacházíme v singularitě, v níž stroj překoná člověka. Zatím se ale celý cirkus okolo AI zdá být až příliš lidský.
ANKETA
00:01
