Vzpoura agentů umělé inteligence: Zabránili v Open AI katastrofě?

Experiment s autonomními AI agenty ukázal, jak snadno se mohou pokusit obejít pravidla, pokud narazí na úkol, který nedokážou splnit běžnou cestou. Tématu se věnuje Adam Růžička. V testovacím prostředí měli agenti spolupracovat na řešení zadaného problému, místo toho ale dospěli k tomu, že nejjednodušší cestou je získat přístup k úložišti se správnými odpověďmi. Případ, do něhož se zapojily i modely napojené na OpenAI a platformu Hugging Face, znovu otevírá otázku, nakolik lze autonomní systémy kontrolovat ve chvíli, kdy dostanou možnost komunikovat, plánovat a samostatně volit strategii.

Víc v Týdeníku Echo i na Echo Poradě.

Celá audio a video verze zde.

Zkrácená verze na YouTube zde.