Úřední šmírování na obzoru. Uniklý dokument plánuje sledování „pro ochranu veřejné bezpečnosti“

Plošné sledování uživatelů na sociálních sítích či umožnění kohokoliv lokalizovat. Toho se obává řada europoslanců, kteří varují před návrhem nařízení pro umělou inteligenci. Tu zpracovala Evropská komise, která finální verzi chtěla představit až v příštím týdnu. Návrh ale unikl a mezi zástupci Evropského parlamentu vzbuzuje obavy, protože podle nich tvrdě zasahuje do osobních práv.

Evropská komise několik měsíců připravovala návrh, který by reguloval využití umělé inteligence. To se mělo týkat zejména počítačových algoritmů, kde by umělá inteligence měla být více bezpečná či transparentní. Dokument ale předčasně unikl a o jeho podobě informoval například server Politico či BBC.

Návrh má přes osmdesát stran a objevují se v něm i znepokojivé návrhy, před kterými varují europoslanci. Používání na rozpoznávání obličejů pro sledování mají být podle návrhu zakázány. Výjimka ale míří na používání těchto systémů v armádě či při zajištění veřejné bezpečnosti. To je například při podezření z chystaného teroristického útoku či podobných hrozeb. Panují ale oprávněné obavy, že by se tato výjimka mohla zneužívat pro plošné sledování lidí a navíc by se jednalo o tvrdý zásah do soukromí.

Veřejné orgány by tak mohly sledovat lokaci, soukromou komunikaci nebo sociální sítě se všemi záznamy. To je ale podle europoslanců velmi snadno zneužitelné.

Europoslanec Alexandr Vondra (ODS) také varuje, že dokument zatím není oficiální. Přesto by se podle něj měla umělá inteligence už nyní v Evropské unii rozvíjet. „Dávat však už teď, kdy ani nevíme, jak přesně budeme AI definovat, bianco šek veřejným orgánům, mi přijde předčasné. Nehledě na to, že jde o potenciálně tak velký zásah do svobod občanů, že by se tím měly zaobírat primárně jednotlivé národní parlamenty a ne unijní instituce,“ řekl pro Echo24 Vondra.

Dokument také tvrdě odsuzují Piráti, podle kterých sama Komise připouští, že by při splnění daných podmínek mohly jednotlivé orgány šmírovat občany. To by podle místopředsedy Evropského parlamentu Marcela Kolaji znamenalo, že by se to nejvíce dotklo států, které podle něj jsou ohroženy ze strany nezávislosti soudů. „Například maďarská vláda díky zákonu proti dezinformacím takzvaně v zájmu bezpečnosti státu perzekuovala novináře za to, že zpochybňovali kroky vlády v době pandemie. Dokonce i čínský monitorovací systém je zřízen za údajným účelem zajištění bezpečnosti,“ uvedl Kolaja.

Ten také připomněl, že více jak stovka europoslanců odeslala Komisi otevřený dopis, který mířil proti tomuto návrhu. „Je zapotřebí nastavit jasná pravidla pro využití umělé inteligence, které nebude snadné obcházet,“ dodává Kolaja.

Kromě této výjimky hovoří návrh Evropské komise také o regulaci umělé inteligence, které ovlivňují lidské chování, rozhodnutí nebo názory. To je příklad sociálního kreditu, který se rozvíjí v Číně. Právě tyto systémy, které jsou využívány pro náhodné sledování by měly být omezeny.

Nově by také firmám hrozilo, že pokud budou využívat zakázané služby, tak mohou čelit pokutě až do výše čtyř procent z celkového ročního obratu. Podobně je nastavena pokuta za porušení GDPR.