Zamilovat se do stroje. Jak vzestup umělé inteligence zasahuje do vztahů

V polovině šedesátých let vytvořil Joseph Weizenbaum, německo-americký informatik z MIT, počítačový program ELIZA. Šlo o ranou podobu jazykového modelu, prvotní příklad toho, čemu bychom dnes řekli chatbot. Program pojmenoval podle postavy Elizy Doolittlové z Shawovy hry Pygmalion, prostořeké pouliční květinářky, které se ujme profesor Higgins a kvůli sázce ji naučí mluvit natolik vznešeně, že ji místní smetánka začne považovat za vévodkyni.

Weizenbaumova ELIZA byla naprogramovaná tak, aby napodobovala rogeriánského psychoterapeuta. Na oznamovací věty reagovala tázavým zrcadlením („Potřebuji pomoct.“ – „Co pro vás znamená, že potřebujete pomoct?“) nebo vybízela k rozvedení tématu („Vůbec si nerozumím se svou matkou.“ – „Povězte mi více o své rodině.“). Trik spočíval v identifikaci klíčového slova nebo fráze a ve vyhledání vhodné reakce ze seznamu šablonovitých odpovědí podle relativně jednoduchého souboru pravidel. Pokud například v konverzaci člověk použil slovo „možná“, odvětila ELIZA: „Zdá se mi, že si nejste úplně jistý.“

Weizenbaum chtěl prozkoumat nové způsoby komunikace v kontextu teprve se rodící počítačové revoluce a doufal, že uživatelé budou sami program zlepšovat a ten se postupně bude vyjadřovat čím dál kultivovaněji, podobně jako Líza pod taktovkou Higginse. ELIZA nicméně dostála svému jménu jinak, než bylo zamýšleno – dokázala totiž vytvořit přesvědčivý dojem, že je něčím víc než pouhým strojem. Weizenbaum poznamenal, že pro některé účastníky konverzací bylo těžké přijmout fakt, že ELIZA není člověk. Mechanicky generované odpovědi považovali za autentický zájem o jejich soužení, svěřovali se s osobními problémy a popisovali vlastní citové pohnutí v reakci na trpělivé naslouchání ze strany programu.

Zarážející bylo, že se často dojem nerozplynul ani poté, co se účastníci dozvěděli o principech fungování modelu.

Celý text si můžete přečíst na ECHOPRIME nebo v digitální verzi časopisu. Od čtvrtka je na stáncích v prodeji tištěné vydání Týdeníku Echo. Týdeník Echo si můžete předplatit zde.