Americké úřady budou kontrolovat nové modely AI ještě před jejich spuštěním

Administrativa Donalda Trumpa obrací v otázce umělé inteligence. Po měsících odmítání výraznější regulace chce nově dohlížet na nejpokročilejší AI modely ještě před jejich zveřejněním. Důvodem jsou rostoucí obavy z kyberútoků, zneužití kritické infrastruktury i prudkého vývoje systémů typu Mythos či GPT-5.5-Cyber.

Administrativa amerického prezidenta Donalda Trumpa chystá nový exekutivní příkaz zaměřený na kybernetickou bezpečnost a nejpokročilejší modely umělé inteligence. Dokument, o němž už několik týdnů spekulují americká média, má podle serverů Politico a Axios představit kompromis mezi zastánci tvrdší regulace AI a technologickým křídlem Bílého domu, které dlouhodobě odmítá rozsáhlejší zásahy do vývoje umělé inteligence. Představen by podle uvedených médií mohl být už tento týden.

Ještě začátkem srpna přitom administrativa zvažovala mnohem agresivnější variantu dohledu. V interních debatách se objevila možnost povinného vládního přezkumu nejvýkonnějších AI modelů ještě před jejich zveřejněním. Od toho však Bílý dům podle aktuálních návrhů ustoupil a nově má být celý systém postaven na dobrovolné spolupráci technologických firem s vládou. Vývojáři by měli své modely poskytovat federálním úřadům ke kontrole dobrovolně a s předstihem až 90 dnů před uvedením na trh.

Změna postoje podle amerických médií souvisí i s vnitřními spory uvnitř administrativy. Silný tlak na tvrdší bezpečnostní opatření přišel po uvedení nových modelů schopných pokročilých kybernetických operací, především systému Mythos od společnosti Anthropic a modelu GPT-5.5-Cyber od OpenAI. Oba systémy podle bezpečnostních expertů dokážou výrazně rychleji vyhledávat softwarové zranitelnosti a potenciálně pomáhat při hackerských útocích.

Napětí zároveň vyvolal spor kolem využití AI v armádě a zpravodajských službách. Část technologických firem včetně Anthropicu se snažila omezit vojenské využití svých modelů, zatímco firmy napojené na Pentagon, zejména Palantir Technologies, prosazují hlubší integraci umělé inteligence do obranných systémů. Právě konflikt mezi bezpečnostními institucemi, armádou a částí AI průmyslu podle Politica odhalil, jak nejednotný postoj k regulaci umělé inteligence dnes Washington má.

Samotný exekutivní příkaz má být rozdělen do dvou hlavních částí. První se týká kybernetické bezpečnosti. Pentagon a další bezpečnostní instituce mají před zveřejněním nových modelů AI dostat 30 dní na zabezpečení svých sítí a informačních systémů. Součástí mají být i kroky na posílení ochrany kritické infrastruktury včetně nemocnic, bank nebo energetiky a vytvoření systému sdílení bezpečnostních hrozeb mezi vládou a technologickými firmami.

Druhá část se zaměřuje na takzvané „covered frontier models“, tedy nejvýkonnější AI modely nové generace. Federální úřady mají nově získat pravomoc tyto systémy před jejich zveřejněním hodnotit a posuzovat jejich bezpečnostní rizika, zejména v oblasti kybernetických útoků a zneužití kritické infrastruktury. Exekutivní příkaz má zároveň vytvořit dobrovolný rámec spolupráce mezi vládou a technologickými firmami. Vývojáři zapojení do systému by měli vládu informovat ještě před vydáním modelu, umožnit federálním úřadům přístup k modelům nejméně 90 dní před jejich zveřejněním a ještě před spuštěním poskytnout přístup i vybraným provozovatelům kritické infrastruktury. Do procesu se mají zapojit NSA, ministerstvo financí, agentura CISA i Národní institut pro standardy a technologie (NIST). Exekutivní příkaz jim zároveň poskytne 60 dní na vytvoření systému, podle kterého budou určovat, které modely do kategorie „frontier models“ vlastně spadají a jak mají být posuzovány.

Právě tato část ukazuje posun Trumpovy administrativy. Ještě donedávna Bílý dům kybernetickou bezpečnost v oblasti AI příliš neřešil a Trumpova administrativa výrazně omezila financování i personální kapacity agentury CISA. Rychlý vývoj nových AI modelů schopných autonomně hledat a zneužívat zranitelnosti ale podle Axiosu vyvolal obavy nejen uvnitř vlády, ale i mezi bezpečnostními experty a provozovateli kritické infrastruktury.