Vyhladí nás umělá inteligence už přespříští rok?

Co můžeme čekat od umělé inteligence a jaká jsou její rizika? Představuje technologie existenční hrozbu pro lidstvo, anebo naopak přinese vědecký pokrok, vyléčí rakovinu a nastartuje ekonomický růst? V Salonu Echa o tom diskutovala trojice odborníků.

Kristina Fort se zabývá geopolitickými dopady umělé inteligence a aktuálně pracuje pro americký Institut pro právo a AI, vystudovala London School of Economics a působila mimo jiné i v Google DeepMind a v Evropské službě pro vnější činnost. Stanislav Fort má doktorát v umělé inteligenci ze Stanfordu, pracoval jako výzkumník ve společnosti Anthropic, StabilityAI a Google DeepMind, v současnosti je šéfem vývoje ve startupu, jenž se zabývá umělou inteligencí a kyberbezpečností. A Ondřej Bajgar pracoval na jazykových modelech ve firmě IBM Watson, následně působil v Institutu pro budoucnost lidstva při Univerzitě v Oxfordu, kde také dokončuje doktorát v oblasti strojového učení a bezpečnosti umělé inteligence. Každý z hostů tu mluvil sám za sebe a jejich názory nereprezentují instituce ani firmy, v nichž působí.

Po dlouhé době jsem viděl film Terminátor 2 a je tam scéna, kde Arnold Schwarzenegger vysvětluje, jak vznikl Skynet, nová technologie, která se začala učit exponenciální rychlostí, byla extrémně efektivní, a lidé jí proto svěřovali stále víc rozhodování – včetně strategických vojenských. V jednu chvíli se ale systém osamostatnil, lidé ho chtěli vypnout, on se začal bránit a nakonec zničil svět. Přiznám se, že mi to už nepřipadalo jako bohapustá sci-fi jako kdysi. Myslíte si, že se zbytečně panikaří, anebo skutečně čelíme existenční hrozbě?

Ondřej Bajgar: Já umělou inteligenci za hrozbu považuji, a dokonce za jednu z největších, kterým dnes lidstvo čelí. Ale do velké míry je to hrozba plynoucí z nevědomosti. My zatím nevíme, jak budoucnost s touto technologií bude vypadat. Vývoj je rychlý a může se stát, že za pár let tu budeme mít systém, který bude v lecčems chytřejší než my, bude schopný přemýšlet strategicky a ovlivňovat reálný svět. Jenže zatím nemáme vyřešené, jak takovou technologii udržet v patřičných mezích, aby dělala to, co chceme. Což souvisí i s tím, že sami často nevíme, co vlastně chceme a jak to popsat. Vedle obrovského pozitivního potenciálu tu tedy existuje řada velmi reálných rizik, která bychom měli brát mnohem vážněji, než je bereme dnes.

To zní, jako by to přirovnání ke Skynetu nebylo úplně přehnané.

Ondřej Bajgar: Sci-fi má hodnotu v tom, že ukazuje, jak by svět mohl vypadat, kdyby se objevilo něco takto mocného. U Skynetu jsou koncepty, které stojí za pozornost – exponenciální růst, schopnost sebezdokonalování, akcelerace vývoje, který může být rychlejší, než na co je lidstvo schopné reagovat. Také strategické uvažování a nakonec i možnost, že se technologie obrátí proti člověku. To jsou všechno věci, které si nemůžeme dovolit přehlížet.

Kristina Fort: V oblasti AI hodně pracujeme s různými scénáři – a to vlastně sci-fi dělá taky. Všechno je zatím nejisté, a proto se ty scénáře výrazně liší. Na spektru stojí proti sobě třeba teorie „AI jako normální technologie“, která tvrdí, že umělá inteligence je vlastně něco podobného jako internet. To ale řada lidí odmítá, protože internet není autonomní, nemá schopnost se sám rozhodovat a jednat ve světě. Varovnější je scénář v eseji Daniela Kokotajla a dalších autorů AI 2027, která vzbudila hodně pozornosti – ta zkoumá různé varianty vývoje a budoucnosti právě pro rok 2027 a jevy, o nichž píše, znějí poměrně pravděpodobně.

Jestli se nemýlím, tak zmíněná prognóza obsahuje i možnost, že technologie po roce 2027 lidstvo vyhladí.

Kristina Fort: Ano, ta esej má dvě hlavní trajektorie. Jedna je kooperativní – snažíme se AI regulovat, zavádíme bezpečnostní principy. Druhá představuje ztrátu kontroly, která by mohla mít fatální následky.

Celá audio a video verze zde.

Zkrácená verze na YouTube zde.

Celý Salon si můžete přečíst již nyní na ECHOPRIME nebo od středečních 18:00 v digitální verzi časopisu. Od čtvrtka je na stáncích v prodeji tištěné vydání Týdeníku Echo. Týdeník Echo si můžete předplatit zde.