Náš vynález může ohrozit lidstvo, varovali výzkumníci z OpenAI

NEBEZPEČÍ UMĚLÉ INTELIGENCE

Náš vynález může ohrozit lidstvo, varovali výzkumníci z OpenAI
Výzkumníci ze společnosti OpenAI varovali před přelomovým objevem. Foto: Shutterstock
1
Svět
Echo24
Sdílet:

Několik výzkumných pracovníků americké společnosti OpenAI před odvoláním šéfa podniku Sama Altmana správní radu v dopise varovalo před přelomovým objevem v oblasti umělé inteligence (AI), který by podle nich mohl ohrozit lidstvo. S odvoláním na dva informované zdroje to dnes uvedla agentura Reuters. Dopis a objev podle nich byly klíčovými momenty před tím, než správní rada Altmana minulý týden v pátek překvapivě odvolala. Autoři dopisu na žádost o komentář nereagovali.

Altman po vyhazovu přešel do Microsoftu, který firmu OpenAI podporuje. Když ale většina zaměstnanců OpenAI pohrozila odchodem, pokud se Altman do šéfovského křesla nevrátí, věci nabraly nový spád. Za jeho návrat do čela OpenAI lobbovali i významní investoři. Altman se tak v úterý po bouřlivém vývoji do čela firmy vrátil. Společnost OpenAI vyvinula populární nástroj ChatGPT.

Zdroje uvedly, že dopis byl jedním z faktorů, které vedly k Altmanovu odvolání. Dalším důvodem podle nich byly obavy z komerčního využití objevu před pochopením jeho důsledků.

Společnost OpenAI věc nekomentovala. V interním dopise zaměstnancům potvrdila projekt nazvaný Q* (zkratka pro Q Star) i zmiňovaný dopis výzkumných pracovníků správní radě, uvedl jeden ze zdrojů.

Někteří zaměstnanci OpenAI se domnívají, že projekt Q* by mohl být průlomem v hledání takzvané obecné umělé inteligence (AGI), řekl jeden z nich. OpenAI definuje AGI jako autonomní systém, které překoná člověka ve většině ekonomicky hodnotných úkolů.

Nový model byl podle téhož zdroje schopen řešit určité matematické úlohy. Výzkumníci považují matematiku za hranici vývoje generativní umělé inteligence. V současné době je generativní AI dobrá v psaní a překladu jazyka tím způsobem, že statisticky předpovídá další slovo. Odpovědi na stejnou otázku se mohou přitom značně lišit. Ovládnutí matematiky, kde existuje pouze jedna správná odpověď, by znamenalo, že by AI měla větší schopnosti uvažování připomínající lidskou inteligenci. To by se mohlo uplatnit například v novém vědeckém výzkumu, domnívají se odborníci.

Na rozdíl od kalkulačky, která dokáže řešit omezený počet operací, dokáže AGI zobecňovat, učit se a chápat. V dopise správní radě výzkumníci upozornili na schopnosti a potenciální nebezpečí AI, uvedly zdroje.

Sdílet:

Hlavní zprávy

Weby provozuje SPM Media a.s.,
Křížová 2598/4D,
150 00 Praha 5,
IČ 14121816

Echo24.cz

×

Podobné články