Americká komise prošetřuje negativní dopady AI chatbotů na děti a mládež

Americká Federální obchodní komise (FTC) vyšetřuje možné negativní dopady chatbotů využívajících umělou inteligenci (AI) na děti a mládež. Podle čtvrteční tiskové zprávy nařídila sedmi podnikům působícím v oblasti AI, včetně společností Alphabet, OpenAI a Meta Platforms, aby jí poskytly informace, jak tyto dopady měří, testují a monitorují.

Firmy vyvíjející chatboty v poslední době čelí rostoucímu tlaku ohledně toho, zda dostatečně zajišťují bezpečnost svých služeb. Manželé z Kalifornie nedávno kvůli sebevraždě svého dospívajícího syna zažalovali společnost OpenAI. Tvrdí, že její chatbot ChatGPT syna izoloval od rodiny a pomohl mu naplánovat sebevraždu, píše agentura Bloomberg.

"AI chatboti dokážou efektivně napodobovat lidské vlastnosti, emoce a úmysly a obecně jsou navrženi tak, aby komunikovali jako přátelé či důvěrníci. To může u některých uživatelů, zejména dětí a mládeže, vést k vytvoření důvěry a navázání vztahů s chatboty," uvedla FTC. Dodala, že ochrana dětí na internetu je její nejvyšší prioritou.

"S rozvojem AI technologií je důležité posoudit možný vliv těchto chatbotů na děti a zároveň zajistit, aby si Spojené státy udržely roli globálního lídra v tomto novém a vzrušujícím odvětví," uvedl předseda FTC Andrew Ferguson. Dodal, že vyšetřování "pomůže lépe pochopit, jak AI společnosti vyvíjejí své produkty a jaké kroky podnikají na ochranu dětí".