EU začala omezovat umělou inteligenci. Rozpoznávání tváří a sledování emocí už nebude povoleno
REGULACE UMĚLÉ INTELIGENCE
V neděli začalo platit první komplexní nařízení Evropské unie o regulaci umělé inteligence nazývané AI Act. Jeho cílem je zajistit bezpečnost, transparentnost a etické používání AI technologií napříč Evropou. AI Act zavádí řadu omezení a nových pravidel, které mají chránit občany EU před riziky spojenými s rostoucím vlivem umělé inteligence v každodenním životě. Nově není přípustné například rozpoznávání obličejů na veřejných místech, tedy takzvaná biometrická identifikace, nebo rozpoznávání lidských emocí na pracovištích a ve vzdělávacích institucích. AI Act zakazuje také používání programů, které provádějí hodnocení na základě sociálního chování.
Podle advokáta a výkonného ředitele spolku Iuridicum Remedium Jana Vobořila je regulace lepší než žádná, avšak není zcela koncepční. „Za mě je to určitě lepší než nic. Zrovna biometrická identifikace v reálném čase je tam tedy napsána dost nekoncepčně – zakázaná praktika, která je vlastně povolena, ale je to prostě kompromis. Každopádně policie by v souvislosti s tím měla vypnout biometrický systém na pražském letišti. Bylo by dobré prověřit, jestli to udělali,“ komentoval pro Echo24 Vobořil.
AI Act stanovuje čtyři hlavní kategorie, podle nichž se systémy umělé inteligence budou posuzovat: Nepřijatelné riziko – Tato kategorie zahrnuje systémy AI, které ohrožují základní lidská práva. Například systémy sloužící k tzv. „sociálnímu skórování“, jaké známe z Číny, a jsou zcela zakázány.
Dále systémy s vysokým rizikem. Tam spadají AI systémy používané například ve zdravotnictví, vzdělávání, při výběru zaměstnanců nebo v justici. Firmy musí zajistit, že jejich systémy budou transparentní a pod dohledem lidí. Systémy s omezeným rizikem, kam patří většina AI aplikací, včetně chatbotů, jako je ChatGPT nebo čínský DeepSeek, a doporučovacích algoritmů, přičemž uživatelé musejí být informováni o tom, že interagují s umělou inteligencí.
Do poslední čtvrté kategorie spadají systémy s minimálním rizikem a jde například o AI filtry na spam nebo generátory obsahu pro zábavné účely.
Rozpoznávání obličejů pod přísným dohledem
Jedním z nejvýraznějších opatření nového nařízení je regulace rozpoznávání obličejů. Používání těchto technologií na veřejných místech je obecně zakázáno, ale existují výjimky pro policii a bezpečnostní složky, které mohou systémy AI nasadit při řešení závažných trestných činů, jako je obchodování s lidmi nebo terorismus. Jak dodává Jan Vobořil, právě v případě biometrické identifikace dochází k paradoxní situaci, kdy je sice zakázána, ale současně povolena v rámci určitých výjimek.
Zatímco regulace platí od února 2025, sankce za porušení AI Actu vstoupí v platnost až 2. srpna letošního roku. Firmy tak mají čas přizpůsobit své systémy novým pravidlům. Pokuty se mohou pohybovat v miliónech eur, což je silný motivační faktor pro všechny, kteří AI systémy vyvíjejí nebo používají.
Společnosti, které vyvíjejí nebo zavádějí umělou inteligenci ve firmách, musí podle nového nařízení pro své zaměstnance zajistit také dostatečnou úroveň dovedností a chápání systémů AI. Jak upozorňuje ředitel České asociace umělé inteligence Lukáš Benzl, v Česku zatím neexistuje žádný orgán, který by tento bod nařízení vymáhal. Firmy by podle Benzla ale neměly bezmyšlenkovitě platit za nabídky webinářů a certifikátů, které se v poslední době objevily. „Univerzální kurzy a instantní certifikáty nemají žádnou oficiální platnost a nejsou nutné,“ řekl Benzl.
