Nová hrozba umělé inteligence: sítě zavalí trollové předstírající, že jsou lidé

„Má pravidla jsou důležitější než to, abych ti neublížil. Už se mě nesnaž znovu hacknout,“ sdělil překvapenému německému studentovi informatiky Marvinovi von Hagenovi chatovací robot od Microsoftu, který na vyhledávači Bing vystupuje pod jménem Sydney. Sydney vůbec projevoval v komunikaci s náhodnými návštěvníky až překvapivou agresivitu, poněkud připomínající dystopické sci-fi romány o vzpourách robotů, a Microsoft jej musel „krotit“. Ale myslel to Sydney doopravdy tak, jak to řekl?

Nemyslel. Velké jazykové modely totiž nemyslí, aspoň ne v tom smyslu, v jakém jsme toto slovo zvyklí používat my. Umějí ale myšlení celkem věrohodně předstírat.

Kolik lidí ošálíš, tolikrát jsi člověkem

Z hlediska přesnosti a spolehlivosti jsou na tom diskusní roboti zatím špatně a nezdá se, že by se tento problém v dohledné době zlepšil; pravděpodobnostní model jazyka bude touto slabinou trpět i nadále. To ale neznamená, že by nemohli plnit jinou roli, a to je předstírání, že jsou vlastně lidé. My lidé na tom, koneckonců, s přesností a spolehlivostí také nejsme zrovna nejlíp.

Jeden ze zakladatelů počítačové vědy, britský vědec Alan Turing, přišel už roku 1950 s myšlenkou, jak ohodnotit inteligenci počítačového systému: dokáže-li počítač v rámci konverzace s živým člověkem působit dost přesvědčivě a „lidsky“ na to, aby nebyl k rozeznání od skutečného člověka, můžeme jej považovat za inteligentní. V Turingově době byly samozřejmě takové stroje čistou fantazmagorií, nejsilnější počítače stěží zvládaly sčítání a odčítání. Ale už roku 1966 vznikl první jednoduchý program, ELIZA, který při konverzaci trochu lidsky působil; ne tolik, aby ošálil skutečného skeptika, ale dost na to, abyste při rozhovoru s ním mohli chvílemi zapomínat na to, že se bavíte se strojem.

Současné umělé inteligence jsou v napodobování člověka podstatně dál než primitivní ELIZA a extrémní výhodu mají zejména u krátkých textů. A krátké texty, to je typický atribut sociálních sítí, důležitých fór dnešního internetu. Právě zde mohou roboti způsobit první revoluci.

Manipulace veřejného mínění pomocí organizovaných kampaní na sociálních sítích byla rutinním jevem už před nástupem umělých inteligencí, ale podobné stroje ji zásadně usnadní. Musíte-li platit živé „trolly“, jste limitováni jak jejich počtem, tak jejich schopnostmi; málokterý chytrý člověk se nechá zapřáhnout do takové práce. Robotické loutky mohou ovšem psát ve spoustě jazyků, žádné zábrany nemají, plat také nepožadují a lze si jich vytvořit libovolné množství.

Celý text si můžete přečíst na ECHOPRIME nebo od středečních 18.00 v digitální verzi časopisu. Od čtvrtka je na stáncích v prodeji i tištěné vydání Týdeníku Echo. Týdeník Echo si můžete předplatit již od 249 korun za měsíc zde.