Lidská inteligence se přeceňuje

„Umělá inteligence je výtvorem mimozemské, nadřazené inteligence, která je přímo mezi námi a nepochází z dalekého vesmíru,“ řekl v nedávném v rozhovoru pro Noema Magazine historik Niall Ferguson. „Vždy jsme si představovali, že mimozemšťané přijdou z jiného světa. Ukazuje se však, že je vytvoříme sami a obdaříme je inteligencí, která nás nakonec předčí. Měli bychom být velmi opatrní, kam tohle nejspíš povede. Přinejmenším riskujeme, že budeme sdílet osud koní. Nahradíme sami sebe tak, jak jsme kdysi nahradili koně.“

Velmi skeptický k nástupu umělé inteligence byl i Henry Kissinger. Měl za to, že uvažování modelů umělé inteligence není lidské, „a tudíž může přinášet výsledky, které nedokážeme vysvětlit, a to cestami, které sami nedokážeme interpretovat“. Tvrdil, že nás to vrací do doby před osvícenstvím, nebo dokonce do doby před vědeckou revolucí, kdy si lidé spoustu věcí kolem sebe nedokázali vysvětlit. Je uvažování umělé inteligence imitací lidského uvažování, nebo nakonec nemusí být lidské vůbec? Kissingera trápilo, že se pro nás časem vše stane stejně nepochopitelné, jako tomu bylo pro středověké rolníky. Není to přece jen až příliš temná vize? Nebo bude ještě hůř a opravdu to tu nikdo nepřežije? Uklidňovat i děsit nás bude Ondřej Bajgar, který se věnuje výzkumu bezpečnosti umělé inteligence na Oxfordské univerzitě.

Dá se nějak srozumitelně vysvětlit, jak se umělá inteligence rodí?

Umělá inteligence z velké části staví na metodách strojového učení – výzkumníci napíší program, který je schopný se učit z dat. Když si vezmeme za příklad třeba chatbota, jako je ChatGPT, ten se trénuje tak, že v první fázi se algoritmus (program, který výzkumníci napsali) učí predikovat další slovo v textu. Algoritmus si postupně nastavuje své vnitřní parametry, aby predikování bylo blíže a blíže tomu, co vidí v datech. Na začátku se učí nejjednodušší vzorce, třeba že na začátku věty je velké písmeno, že v každé větě je podmět a přísudek. Časem se algoritmus naučí predikovat lépe a lépe, včetně složitých textů, jako jsou vědecké články. Tím si algoritmus postupně vyvíjí hlubší porozumění světu, už nejenom textu, protože pro predikování textu je často potřeba rozumět světu. A tím, že se učí složitější zákonitosti světa, si vlastně buduje něco, čemu bychom mohli říkat inteligence.

Tudíž vlastně během toho začíná chápat i jiné věci, než které dostal jako prvotní úkol?

V něčem ano, ale tyto věci mu pomáhají v tom, aby ten úkol splnil. Aby umělá inteligence mohla úkol predikce textu dělat dobře, potřebuje k tomu poměrně hodně porozumění. Začne „rozumět“ tomu, o čem ten text je, a začne reprezentovat koncepty, které za ním stojí. Je schopná predikovat složitější texty. To ale pro vytvoření užitečného chatbota nestačí. Když bych se s takto předtrénovaným modelem začal bavit a dal mu tři otázky, je možné, že naváže generováním dalších tří otázek, protože seznamy otázek viděl na internetu. Potom je potřeba ho dotrénovat. Jednou z těch fází trénování je zpětnovazebné učení. To znamená učit se ze signálu odměny, co je dobře a co je špatně. Zatímco v první fázi jsme mu říkali, co je správné řešení, tady se mu říká pouze: Je to dobře, je to špatně. V praxi chatbot vygeneruje několik možných odpovědí na vaši otázku, člověk vybere tu nejlepší a chatbot se potom snaží generovat odpovědi, které se jí podobají více než těm nevybraným.

Právě jste dočetli ukázku rozhovoru, jehož plnou verzi najdete ve speciálním vydání Týdeníku Echo 30 rozhovorů. Ten si můžete objednat ZDE. Najdete v něm mimo jiné rozhovory s americkým profesorem Jonathanem Turleym, spisovatelem Chrisem De Stoopem, nebo filozofem Konradem Liessmannem.