Evropská unie schválila 13. března 2024 přelomový Akt o umělé inteligenci (AI Act), který se stane prvním komplexním zákonem pro AI na světě. Firmy v členských státech, včetně České republiky, se tak ocitají na prahu nové éry, kde se inovace musí snoubit s přísnými etickými a bezpečnostními standardy.

Nový rámec pro AI: Od rizika k odpovědnosti

AI Act funguje jako semafor, který rozděluje systémy umělé inteligence do kategorií podle míry rizika, jež představují pro uživatele. Od minimálního rizika, přes omezené, až po nepřípustné systémy, které budou zcela zakázány. Jak se v tomto složitém systému orientovat a co to znamená pro běžné podnikové aplikace?

Největší pozornost si zaslouží systémy s „vysokým rizikem“, které budou podléhat nejpřísnějším požadavkům. Jedná se například o AI používanou v kritické infrastruktuře, vzdělávání, zaměstnávání, vymáhání práva nebo v biometrické identifikaci. Pro tyto systémy bude nutné provádět posouzení shody ještě před jejich uvedením na trh, podobně jako u zdravotnických prostředků.

Co musí firmy očekávat?

Pro společnosti to znamená především investice do transparentnosti a robustnosti jejich AI řešení. Bude nezbytné zajistit kvalitní datové soubory, lidský dohled a jasné informace pro uživatele o fungování a omezeních AI. Představte si to jako digitální audit, který musí projít každý komplexní systém, než se dostane k zákazníkům.

Malé a střední podniky, které často nemají rozsáhlá právní oddělení, mohou čelit značným výzvám. Bude klíčové sledovat vývoj implementačních aktů a harmonizovaných standardů, které budou upřesňovat technické detaily. Bez těchto vodítek se mohou cítit jako lodě bez kompasu na rozbouřeném moři regulací.

Hrozba sankcí a konkurenční výhoda

Nedodržení pravidel AI Actu může mít vážné finanční důsledky. Pokuty mohou dosáhnout až 7 % celkového ročního obratu firmy nebo 35 milionů eur, podle toho, co je vyšší. To je dostatečný impuls k tomu, aby se firmy začaly připravovat včas a důkladně.

Na druhou stranu, proaktivní přístup k regulaci může přinést i konkurenční výhodu. Firmy, které prokáží soulad s AI Actem, získají důvěru zákazníků a partnerů, což může být v budoucnu stejně cenné jako samotná inovace. Být lídrem v etické a bezpečné AI se může stát novým zlatým standardem.

Budoucnost AI v EU: Mezi inovacemi a ochranou

Implementace AI Actu bude postupná, s plnou účinností většiny ustanovení očekávanou v roce 2026. Do té doby mají firmy čas na adaptaci, ale to neznamená, že mohou otálet. První kroky, jako je zákaz některých AI systémů, vstoupí v platnost již za šest měsíců od oficiálního zveřejnění.

Jak se bude Evropa pohybovat na tenké hranici mezi podporou inovací a ochranou základních práv občanů? Bude AI Act brzdou, nebo naopak katalyzátorem pro zodpovědný rozvoj umělé inteligence, který posílí důvěru v tuto převratnou technologii? To ukáže teprve čas a přístup firem k novým pravidlům hry.