I mistr světa se někdy utne

Počítač poprvé porazil špičkového profesionála ve staré čínské deskové hře go. Výhra komputeru nabízí příležitost k zamyšlení, k čemu se dopracovaly současné informační technologie.

Výprask od počítače

Hlavně neprohrát ani jeden zápas! S takovým předsevzetím nastupoval mistr světa v go Lee Sedol do pětizápasové série proti počítačovému programu AlphaGo. O tom, že si jako vítěz odnese prémii milion dolarů, vůbec nepochyboval. Strašila ho pouze vidina, že by nevyhrál 5 : 0, ale „jen“ 4 : 1. Už po prvním zápase však bylo jasné, že AlphaGo „s nulou“ neodejde. Počítačový program nakonec mistra světa porazil. Milion se stěhuje na konto londýnské firmy DeepMind, která je dceřinou společností informatického gigantu Google a která za vznikem AlphaGo stojí.

Padla další „hranice možností“. Na první pohled to vypadá, že jsme se ocitli v situaci analogické roku 1997, kdy počítač Deep Blue porazil úřadujícího šachového mistra světa Garriho Kasparova. Ale tak úplně to neplatí. Šachy mají ve srovnání s go složitější pravidla. Počet herních situací, které můžou nastat při šachových partiích lze vyjádřit číslem, kde za jedničkou následuje 120 nul. Jde o impozantní číslo 10¹²⁰, které vynikne například ve srovnání s počtem všech atomů ve vesmíru. Těch je „jenom“ 10⁸⁰. Při partiích go však může dojít k 10⁷⁶¹ herních situací. I proto ještě před pár roky prohrávaly v partiích go i ty nejlepší počítačové programy s naprostými začátečníky. Z toho čerpali vyznavači staré čínské deskové hry přesvědčení, že počítač člověka v dohledné době neporazí. Zmýlili se.

Počítač a dilema

Úspěch počítače AlphaGo nám jen připomněl, jaký kus cesty informatika urazila za těch dvacet let, jež nás dělí od vítězství Deep Blue nad Kasparovem. Deep Blue byl špičkový „rychlý blbec“. Byl s to vyhodnocovat více variant hry než šachový mistr světa a najít mezi nimi tu nejlepší. V tom byly počítače vždycky velmi dobré. Do potíží se dostávaly, když měly na výběr třeba jen mezi dvěma možnostmi a ty byly obě špatné. V takových situacích stojí i člověk před dilematem. Představme si záchranáře, který je na místě teroristického útoku a najde vedle sebe ležet těžce zraněného teroristu, kterému jde každým okamžikem o život, a přítele, který je rovněž zraněný, ale v bezprostředním ohrožení života se nenachází. Koho by měl záchranář ošetřit jako prvního?

Člověk má řešení podobných situací ztížené i tím, že se mu do racionálního uvažování pletou emoce. Odfiltrovat je z rozhodování chce opravdové úsilí, ale dá se to naučit. Například profesionální záchranáři řeší krizové situace přísně racionálně a emoce do svých myslí příliš nepouštějí. Počítače jsou (zatím) všech emocí prosty. Neznamená to, že jsou v řešení dilemat lepší. Přesto počítače před dilemata s nejednoznačným řešením stavíme. Představme si počítač autopilota řídícího automobil. Vůz se dostane do naprosto nezaviněné kritické situace. Ta nabízí úhybný manévr chránící pasažéry vozu. Vyjetím na chodník ale ohrozí matku s nemluvnětem v kočárku. Co je správné řešení? Zůstat na silnici a riskovat zranění či smrt posádky vozu? Anebo ohrožení matky s dítětem. Než nás počítače nahradí za volanty, musí podobná dilemata zvládat k naší plné spokojenosti.

Autonomní systémy pro řízení komplikovaných systémů mohou spoléhat buď na programy, které jasně nastavují pravidla, nebo na programy, které nalézají pokaždé nové řešení pro konkrétní situaci. První systémy jsou pro člověka stále dobře čitelné. Člověk celkem spolehlivě předpoví, jak počítač rozhodne. Zpětně se dá jeho rozhodnutí „rozebrat“ a pochopit, proč volil právě tohle řešení a ne jiné. Druhý systém je méně čitelný. V řadě případů není předem jasné, jak se počítač rozhodne a ani zpětně není jednoduché rekonstruovat jeho „myšlenkové pochody“. AlphaGo se dokáže poučit z odehraných partií a je někdy charakterizován jako „software s intuicí“. Spadá do druhé skupiny softwaru. A to je zásadní rozdíl oproti šachovému géniovi Deep Blue.

Vědět nebo věřit?

Je vcelku jedno, jestli AlphaGo porazil Lee Sedola 3 : 2, nebo 5 : 0. Na hře go to nic nezmění. I nadále ji budou hrát stovky milionů lidí po celém světě. Nepřestanou se konat amatérské i profesionální turnaje a na trůn budou nastupovat nové „jedničky“ světových žebříčků i mistři světa. Tak jako Deep Blue nezabil šachy, nezahubí AlphaGo prastarou čínskou deskovou hru. Navzdory skutečnosti, že kdyby ten nejlepší hráč nastoupil proti špičkovému počítači, dostal by ostudně napráskáno.

Mnohem důležitější je, jak se podobné informatické vymoženosti promítnou do našeho každodenního života. Mimo pozornost veřejnosti se v mnoha zemích pracuje na tzv. autonomních zbraňových systémech – tedy na jakýchsi „robotech zabijácích“, kteří nectí Asimovův první zákon robotiky: „Robot nesmí ublížit člověku“. V ozbrojených konfliktech by měli nahradit živé vojáky. Řada zemí je ve svých oficiálních stanoviscích vydává za prostředek pro „humanizaci“ války. Robotí zabijáci by měli například s větší jistotou odlišit nevinné civilisty od padouchů. Od jejich nasazení si v generálních štábech slibují méně přehmatů a redukci počtu civilních obětí bojových operací.

Opravdu chceme, aby po světě pobíhala ozbrojená monstra, kterým nevidíme do logických obvodů? Anebo by měly „nečitelné“ počítačové programy řádit jen na hracích deskách go a při dalších nevinných příležitostech? Pokud kývneme na široké použití „nečitelného“ softwaru, nezbude nám než věřit, že tyto počítače vyřeší každou další situaci správně a nenapáchají vážnější škody. Jenže „věřit“ znamenalo vždycky mnohem méně než „vědět“. Nejhorší, co by se nám mohlo stát, je, že bychom počítače hrubě podcenili. Ale i v tomto ohledu nám snad dal souboj mistra světa Lee Sedola s počítačem AlphaGo názornou lekci.