Starosta oslovil New York mnoha jazyky za pomoci AI. Jako z Orwella, tvrdí kritici

Starosta New Yorku Eric Adams čelí kritice kvůli využití umělé inteligence (AI), díky níž občany velkoměsta oslovil v různých jazycích včetně mandarínské čínštiny a jidiš. Automatické vzkazy si pak lidé vyslechli v telefonech bez toho, aby je někdo upozornil, že starosta ve skutečnosti těmito jazyky vůbec nehovoří a že jeho hlas využila k poskládání příslušných frází umělá inteligence. Odborníci oslovení agenturou AP to kritizují, podle nich jde o neetickou praxi.

Adams se využitím AI tento týden chlubil na tiskové konferenci. "Začali jsme dělat něco, z čeho jsem velmi nadšený. Vytváříme nahrané vzkazy s mým hlasem v mnoha různých jazycích," řekl. "Umělá inteligence je skvělá. Jakmile dodáte scénář, můžete ho nechat odříkat v jakémkoli jazyce, mým hlasem," dodal.

Starosta se pochlubil, že nahrávky jsou natolik důvěryhodné, že ho lidé stavějí na ulici ptají se ho, jestli doopravdy mluví plynně mandarínsky. Adams přitom hovoří pouze anglicky. Radnice pro vytvoření vzkazů využila nástroj od firmy ElevenLabs.

Iniciativa Surveillance Technology Oversight Project, která monitoruje, jak úřady využívají technologie pro sledování občanů, má jasno v tom, že takové využití AI je "hluboce neetické" a že jde o takzvaný deepfake, tedy manipulativní falešnou nahrávku. "Využít AI, abyste přesvědčili Newyorčany, že mluvíte jazyky, které neumíte, je orwellovské. Ano, potřebujeme, aby k obyvatelům New Yorku někdo mluvil jejich rodným jazykem, ale takové deepfake jsou jednoduše strašidelné a je to mrhání," řekl šéf iniciativy Albert Fox Cahn.

Předchozí starostové New Yorku Bill de Blasio a Michael Bloomberg se pokoušeli s voliči hovořit alespoň španělsky, protože ve městě žije početná hispánská menšina, jejich pokusy ale často působily směšně, připomněl list New York Post.