Systémy na rozpoznání emocí. Nemají šmírovat zaměstnance a zákazníky

Zákaz využívání systémů pro rozpoznávání obličejů nebo detekci emocí pro reklamu či v práci s výjimkou výzkumných a zdravotnických účelů. To navrhuje pirátský europoslanec Marcel Kolaja u vznikajícího aktu o umělé inteligenci, který Evropská komise vydala v dubnu 2021. Cílem je stanovit pravidla a zajistit bezpečné využívání systémů umělé inteligence uváděných na evropský trh.

Systémy na rozpoznání emocí jsou na základě obličejové mimiky a fyziologických procesů údajně schopny detekovat, jak se zrovna člověk cítí. Kolaja proto upozorňuje na zneužití systémů průmyslovými giganty, marketingovými guru i maloobchodníky, kteří je využívají k tomu, aby zjistili, jak zákazníci reagují na jejich produkty nebo reklamy. „Firmy je rovněž využívají pro monitoring duševního stavu zaměstnanců,“ uvedl mluvčí pirátských europoslanců.

To se však nelíbí Kolajovi. „Snad nemusím vysvětlovat, že člověk, který se směje od ucha k uchu je nutně skutečně spokojený a šťastný. Nemůžeme vytvářet zkratky mezi naším projevem navenek a tím, co skutečně cítíme. Představte si třeba, že jdete na pracovní pohovor a systém na rozpoznání emocí označí, že lžete. Vy ale budete říkat pravdu, jenom se zkrátka v té situaci budete cítit pod tlakem. Ovšem systém vyhodnotí, že jste ve stresu z údajně lživé odpovědi. Musíme zabránit tomu, aby nám technologie diktovaly, které emoce jsou správné a které ne,” vysvětluje europoslanec.

Kolaja navrhuje, aby užívání této technologie bylo zakázáno ve veřejném prostoru s výjimkou pro zdravotnické a výzkumné účely. Technologie totiž může představovat důležitou pomůcku především pro lidi s poruchou autistického spektra. Systém na rozpoznávání emocí byl například integrován do brýlí, které dětem s autismem pomáhají číst mimiku ostatních lidí.

„Musíme zabránit tomu, aby systémy na detekci emocí byly přeprogramovány pro účely reklamy a marketingu. Nebo aby byly využívány například ve školách a na pracovištích. Pokud kývete hlavou na přednášejícího, neznamená to nutně, že tomu rozumíte. Stejně tak, když jste ve stresu z toho, že máte nemocnou maminku v nemocnici, neznamená to, že jste pod tlakem ze své práce a nezvládáte její objem. Informace, která se dostane na personální oddělení a k vedení firmy, by tak mohla být extrémně zkreslená. Kvůli takovému dohledu velkého bratra může docházet také k potlačování našich emocí. A to je cesta do záhuby,” doplnil Kolaja.