„Vývoj umělé inteligence mě děsí,“ uvedl její kmotr Hinton a odešel z Googlu

Geoffrey Hinton (75) kognitivní psycholog a počítačový vědec, který svou prací na poli neuronových sítí výrazně přispěl k rozvoji umělé inteligence, varuje před nebezpečím svého celoživotního díla. Hinton nyní odešel z Googlu, právě aby mohl před umělou inteligencí varovat. "Momentálně, pokud vím, rozhodně nejsou inteligentnější než my, ale velmi brzo mohou být," uvedl například k aktuálnímu rozvoji jazykových modelů a chatbotů jako je ChatGPT či googlovský Bard. Informují The New York Times či BBC.

Geoffrey Hinton v roce 2012, společně s dvěma svými studenty zprovoznili první funkční neuronovou síť, která se byla schopna analyzovat obrazy a objekty. Tato technologie postavena na tzv. hlubokém učení otevřela bránu k současným chatbotům. Firmu, kterou Hinton se svými studenty založil později koupil právě Google. Jeden z Hintonových spolupracovníků Ilja Sutskever z firmy odešel a spoluzaložil OpenAI, která stojí za ChatGPT.

"Velmi málo lidí věřilo tomu, že se to může stát inteligentnější než lidé. Většina lidí si myslela, že tento pohled je dost mimo. Já jsem si myslel ,že tento pohled je dost mimo. Myslel jsem si, že to bude téma za 30-50 let, možná za ještě delší dobu. Samozřejmě, teď už si to nemyslím," uvedl Hinton krátce po odchodu z Googlu. "Podívejte se kde ta technologie byla před pěti lety a kde je teď. Podívejte se na ten rozdíl, a jak se bude rozvíjet v budoucnu. Je to strašidelné," dodal.

Hinton zmínil především obavy z pracovních míst s tím, že umělá inteligence v současnosti může převzít především pracovní pozice v kancelářích a v činnostech, kde je hlavní pracovní náplň v mechanicky se opakujících činnostech. Například pozice překladatelů či právních koncipientů. "Sebere to lidem nejen tuto opakující se práci, ale i mnohem více," myslí si Hinton.

"Nyní, vidíme jak například GPT-4 zastiňuje člověka v množství obecného vědění, kterým disponuje a to mohutně. Co se týče uvažování, není umělá inteligence tak dobrá, ale už je schopna základního uvažování," varuje Hinton. Zároveň uvedl příklad, jak se mechanické uvažování stroje a tedy i inteligence liší od lidského.

"Velký rozdíl je, že u digitálních systémů máte velké množství kopií stejného pohledu na svět. A všechny tyto kopie se mohou učit samostatně, ale nové vědomosti jsou schopny sdílet okamžitě. Je to jako byste měli 10 000 lidí a kdykoliv by se jeden člověk něco dozvěděl, všichni by to okamžitě věděli. A právě takto jsou chatboti schopni naučit se mnohem více než jakýkoliv jeden člověk," varuje Hinton

Hinton také vyjádřil obavu z umělé inteligence v rukách nepřátelské entity. Jako příklad uvedl i Vladimíra Putina a nebezpečí umělé inteligence k vybudování autonomních zbraní.

Minulý měsíc vyšly dvě výzvy formou otevřených dopisů, které varovaly před překotným vývoje umělé inteligence. Pod jeden z dopisů, který vyšel u příležitosti nového vydání technologie GPT, se podepsalo asi 1000 význačných vědců a lidí pohybujících se právě na poli vývoje umělé inteligence.

Svou výzvu varující před riziky umělé inteligence publikovala i americká Asociace pro rozvoj umělé inteligence. Hinton ani jednu z těchto výzev nepodepsal, ale učinil to především proto, že se na jejím vývoji ze své pozice v Googlu sám podílel. Podle něj Google k vývoji umělé inteligence přistupuje zodpovědně, ale překotný vývoj posledních měsíců ho vyděsil a chce proti rozvoji umělé inteligence vystupovat nezávisle. Proto se rozhodl svůj poloviční úvazek u Googlu ukončit. Nadále pracuje na akademické půdě v Torontu.