Umělá inteligence může ohrozit bankovní systémy. ECB varuje evropské banky před chaosem

Největší banky v Evropské unii by měly do konce října představit, jak budou řešit rizika plynoucí z nejmodernějších modelů umělé inteligence. Myslí si to předsedkyně rady dohledu Evropské centrální banky (ECB) Claudia Buchová, která vyzvala věřitele, aby zavedli akční plány popisující, jak posílí své interní systémy a zajistí, aby externí poskytovatelé technologií byli způsobilí pro daný účel.

Tato výzva přichází v době obav, že modely umělé inteligence jako Mythos, který podle společnosti Anthropic disponuje bezprecedentně výkonnými kybernetickými schopnostmi, by mohly způsobit chaos v nepřipraveném finančním systému. Informuje o tom server Politico.

„Nově vznikající modely umělé inteligence jsou schopny identifikovat zranitelnosti softwaru a generovat funkční exploity bezprecedentní rychlostí, čímž zkracují dobu mezi objevením zranitelnosti a jejím zneužitím. Tento vývoj má potenciálně zásadní důsledky pro důvěryhodnost, integritu a odolnost systémů informačních a komunikačních technologií (IKT) bank,“ napsala Buchová v dopisech zaslaných generálním ředitelům největších bank bloku.

Pro banky, které pokyn nesplní, nejsou podle serveru Politico plánovány žádné sankce, ECB však může plány využít k porovnání výsledků jednotlivých bank v řešení rizik spojených s umělou inteligencí a následně je s nimi projednat. Dopisy Buchové rovněž vyzývají generální ředitele bank k modernizaci infrastruktury a zlepšení mechanismů reakce a obnovy i krizového řízení.

Unijní orgán pro sledování finančních rizik, Evropská rada pro systémová rizika (ESRB), v úterý rovněž zveřejnil varování týkající se systémových kybernetických rizik vyplývajících z nejpokročilejších modelů umělé inteligence. Podle něj by tyto modely měl finanční sektor „považovat za zdroj systémového rizika“.

Pokud by se kybernetické incidenty šířily skrze „provozní úzká místa“, jako jsou platební, zúčtovací nebo vypořádací systémy, mohly by „vážně narušit finanční systém nebo jej vystavit šoku“, uvedla ESRB. Bez koordinovaného postupu EU se tato rizika „mohou vyvinout ve strukturální zranitelnosti“ a zvýšit pravděpodobnost celosystémové události, dodala ESRB.