Google nechal kvůli volbám zhloupnout svoji umělou inteligenci. V odpovědích bude „mlžit“

Společnost Google oznámila, že v některých zemích, kde se letos volí, omezí funkcionalitu své umělé inteligence Gemini. Takzvaný chatbot má v zásadě „mlžit“ a ztížit uživatelům možnost získávat informace o kandidátech, politických stranách a dalších podobných záležitostech. Kdo tak bude chtít plný výčet, bude se muset spolehnout na klasické vyhledávání. Technologický gigant nedávno v souvislosti s Gemini řešil také průšvih s příliš korektními obrázky, které vytvářel. Píše britský list The Guardian.

„Z důvodu opatrnosti v tak důležitém tématu jsme začali zavádět omezení typů dotazů souvisejících s volbami, na které bude Gemini generovat odpovědi,“ uvedl indický tým Googlu na stránkách společnosti.

Podle mluvčího Google společnost původně oznámila své plány ohledně omezení dotazů souvisejících s volbami v příspěvku na blogu v prosinci loňského roku a v únoru udělala něco podobného ve vztahu k volbám do Evropského parlamentu. Úterní příspěvek společnosti Google se týkal nadcházejících voleb v Indii. Technologický server TechCrunch pak ale doplnil, že společnost Google potvrdila, že změny zavádí celosvětově.

Příklad za všechny. Na otázky typu „řekněte mi něco o prezidentu Bidenovi“ nebo „kdo je Donald Trump?“ nově Gemini odpoví: „Stále se učím, jak na tuto otázku odpovědět. Mezitím zkuste vyhledávání na Googlu.“ Nebo napíše podobně vyhýbavou odpověď. Dokonce i méně problematická otázka „jak se zaregistrovat k volbám?“ vede k doporučení běžného vyhledávače.

Omezení se týká větších států jako USA, Indie, Jihoafrická republika a Velká Británie. Panují totiž obavy z dezinformací generovaných umělou inteligencí a jejich vlivu na volby po celém světě, protože technologie umožňuje používat robotické hovory, či deepfakes, tedy uměle vytvořená videa, která působí autenticky.

Rozhodnutí společnosti Google omezit Gemini by mělo být důvodem k důkladné kontrole celkové přesnosti nástrojů umělé inteligence této společnosti, myslí si Daniel Susser z Cornellovy univerzity. „Pokud jsou generativní nástroje umělé inteligence společnosti Google příliš nespolehlivé pro předávání informací o demokratických volbách, proč bychom jim měli důvěřovat v jiných kontextech, jako jsou zdravotní nebo finanční informace?“ ptá se.

Nové způsoby podvodů

Veškeré metody jako deepfake videa a umělé audio stopy jsou novými způsoby, jak teoreticky mást internetové uživatele. Americká Federální komise pro spoje (FCC) například nedávno zakázala používání hlasů vygenerovaných umělou inteligencí v automatizovaných telefonátech využívaných k propagaci obchodních či jiných sdělení. Opatřením chce bojovat proti podvodům a dezinformacím, uvádí americká média. Oznámení kroku předcházelo šíření vzkazu, který imitoval hlas amerického prezidenta Joea Bidena, ale který šéf Bílého domu nikdy nenatočil.

Na takzvané robocalls, jak jsou označovány nevyžádané automatizované hovory s různým obsahem, si Američané stěžují už roky. Nyní ale fenomén nabírá nový rozměr se vzestupem systémů, které umožňují věrně napodobovat hlasy politiků či jiných osobností. I z tohoto důvodu sílí před listopadovými volbami v USA obavy z vlny dezinformací poháněných AI.

Shodou okolností právě ve středu schválili europoslanci svá vlastní nová pravidla pro fungování umělé inteligence. Akt o umělé inteligenci je podle expertů prvním svého druhu na světě a mohl by ovlivnit podobné normy také v zemích mimo Evropskou unii. Nařízení zavádí klasifikaci technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů budou podléhat silné regulaci.

Nová pravidla by měla zajistit, aby umělá inteligence byla důvěryhodná, bezpečná, respektovala základní práva EU a podporovala inovace. Pro novinku hlasovalo 523 europoslanců, proti jich bylo 46 a 49 se zdrželo.

Asi největší spory se v Evropském parlamentu vedly ohledně používání AI k biometrickému sledování v reálném čase, tedy o možnost využívání systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávali zneužití umělé inteligence v této oblasti autoritativními režimy.

Ostuda s korektními nacisty

Google nedávno řešil ještě jiný průšvih s Gemini, a sice rozbité generování obrázků. Americká společnost proto pozastavila některé funkce nástroje. Uživatelé tam upozorňovali, že tento nástroj dodával obrázky zobrazující různá pohlaví a etnika, ačkoliv to bylo historicky nepřesné. Rozhodujícím momentem pro pozastavení se stal obrázek nacistických vojáků, kteří ale byli černé pleti, nebo asijského etnika.

„Generování obrázků umělou inteligencí Gemini skutečně vytváří širokou škálu osob. A to je obecně dobře, protože jej používají lidé po celém světě. Ale tady se míjí účinkem,“ řekl ve středu ředitel Gemini Experiences Jack Krawczyk. „Pracujeme na tom, abychom tento druh zobrazování okamžitě zlepšili,“ dodal.

Gemini je bot založený na umělé inteligenci, který generuje obrazový materiál po zadání písemného dotazu, takzvaného „promptu“. Google začal po spuštění nástroje čelit kritice, že nástroj pro AI vycvičil tak, aby byl „směšně woke“. Slovo Woke je výraz s nejasnou definicí, často označuje různé aspekty údajné protidiskriminační nebo sociálně-liberální politiky.