Umělá inteligence se blíží zásadní hranici, varují OpenAI a Anthropic. Chtějí možnost vývoj zastavit

Šéf společnosti OpenAI Sam Altman podle agentury Bloomberg připustil, že firma stojící za ChatGPT by mohla zpomalit vývoj svých nejpokročilejších systémů umělé inteligence. O možnosti měl tento týden mluvit se zaměstnanci na interním setkání. Zároveň podle zdrojů doufá, že podobný krok udělají i další firmy v oboru.

Altman měl podle několika anonymních zdrojů citovaných Bloombergem hovořit o koordinovaném postupu několika laboratoří zabývajících se vývojem umělé inteligence. Současně připustil, že některé společnosti by se k takové dohodě nemusely připojit.

Už v červenci Altman uvedl, že s představiteli Bílého domu jednal o „nutnosti“ zmírnit tempo vývoje umělé inteligence.

Postoj šéfa OpenAI navazuje na změnu kurzu, kterou společnost dala najevo ve středu. OpenAI se společně se svým konkurentem Anthropic obrátila na americký Kongres s výzvou, aby rychle přijal povinná bezpečnostní pravidla pro vývojáře nejvýkonnějších systémů umělé inteligence.

„Vyhlídka na vývoj umělé inteligence urychlovaný umělou inteligencí vyžaduje víc než dobrovolné závazky,“ napsal ve středu šéf veřejných záležitostí OpenAI Chris Lehane. Firma požaduje, aby Kongres do konce prosince zavedl společná pravidla pro přední laboratoře. Mezi ně mají patřit povinné testy, hodnocení nezávislými organizacemi a transparentní hlášení bezpečnostních incidentů.

Agenti OpenAI, kteří jsou nyní testováni, během léta podle článku napadli platformu Hugging Face. OpenAI a Anthropic tvrdí, že se přibližuje okamžik, kdy by umělá inteligence mohla sama navrhovat svého nástupce bez lidské kontroly. Obě společnosti zároveň uvádějí, že nemohou vývoj jednostranně zpomalit, protože by tím podle nich uvolnily prostor méně opatrným konkurentům.

OpenAI proto prosazuje mezinárodní pravidla určující, „kdy a jak by se měl vývoj zpomalit nebo zastavit“. Anthropic požaduje „právní a ověřitelný“ mechanismus koordinovaného zpomalení. Společnost tento požadavek zopakovala ve středu americké televizi NBC.

Na konci července podepsali představitelé Anthropic, OpenAI a Google DeepMind výzvu, která žádala vlády, aby si vytvořily nástroje umožňující vývoj umělé inteligence zpomalit.

Výzvy přicházejí krátce po výrazně sledovaném odchodu výzkumníka Jacoba Coxona, který přešel z OpenAI do Anthropic a následně rezignoval. Obě společnosti obvinil z toho, že si „zahrávají s našimi životy“.