AI Compliance tool

Akt o umělé inteligenci má širokou působnost. Tento zákon se vztahuje na všechny systémy AI, které jsou dostupné v EU nebo které mají v EU dopad. „AI“ je definována tak, že zahrnuje nejen pokročilé technologie využívající techniky strojového učení nebo posilovací učení, ale i jednodušší technologie, jako jsou přístupy založené na znalostech. Definice se zaměřuje na systémy, jež fungují do určité míry nezávisle na člověku a samy „odvozují“, jak dosáhnout souboru cílů. To znamená, že AI Akt se může týkat i softwaru, který bychom za umělou inteligenci běžně nepovažovali.

Dopad a konkrétní povinnosti vyplývající z AI Aktu se budou lišit v závislosti na rizikovosti systémů AI. AI Akt bude regulovat systémy AI podle rizik, jež představují pro zdraví, bezpečnost a základní práva lidí. AI Akt rozděluje systémy umělé inteligence do několika kategorií, které určují konkrétní požadavky:

• Kategorie zakázaných postupů v oblasti umělé inteligence – systémy AI, které jsou zakázané;
• Kategorie vysoce rizikových systémů AI – systémy AI, jejichž vytváření a používání má být velmi přísně regulováno;
• Kategorie systémů s omezeným rizikem v oblasti transparentnosti – u některých aplikací AI, např. chatbotů nebo generativní AI, jsou vyžadovány dodatečné požadavky na transparentnost;
• Systémy s minimálním rizikem – veškeré ostatní systémy AI podléhají omezeným požadavkům AI Aktu, např. požadavku na zajištění dostatečné digitální gramotnosti uživatelů AI.

Kromě toho jsou AI Aktem regulovány také obecné modely AI (GPAI). Tyto modely jsou podobně rozdělené do různých kategorií rizik:

• Všechny GPAI – existují požadavky týkající se způsobu, jakým jsou tyto systémy vytvářeny a jaké informace o nich musí být sdělovány.
• GPAI se systémovým rizikem – pro modely, které jsou výjimečně výkonné a vyžadují 10^25 FLOPs během tréninku, jsou vyžadovány další požadavky, včetně zmírnění rizik a monitorování.

Nejpřísnější požadavky AI Aktu spadají do kategorií „nepřijatelného“ a „vysokého“ rizika; každá z výše zmíněných kategorií má však své specifické požadavky.

Poskytovatelé, ale i uživatelé systémů AI mají mít na základě AI Aktu určité povinnosti. V současné době existuje několik dalších regulací, které zvýší odpovědnost tvůrců nebo uživatelů systémů AI za způsobenou škodu. Patří mezi ně směrnice o odpovědnosti za umělou inteligenci (tzv. AI Liability Directive) nebo přepracovaná směrnice o odpovědnosti za vadné výrobky, která byla schválena 23. října 2024. AI Akt spolu s výše uvedenými regulacemi mají zajistit, že poskytovatelé i zavádějící subjekty (uživatelé) systémů AI budou povinni při vytváření, nasazování a údržbě systémů AI v dlouhodobém horizontu zavést do svého pracovního procesu další kroky, které zaručí jejich bezpečnost.

Dosažení souladu s AI Aktem bude vyžadovat komplexní a koordinované úsilí napříč organizačními a technickými oblastmi. Organizace budou muset vytvořit strukturovaný rámec, který bude v souladu s přístupem založeným na rizicích, jenž je v nařízení nastíněn. To zahrnuje provedení důkladného posouzení s cílem kategorizovat systémy AI na základě jejich rizikovosti a podle toho zavést přizpůsobená opatření pro zajištění souladu. Pro úspěšné řešení bude klíčová spolupráce napříč různými týmy a odděleními, včetně právních oddělení, oddělení správy dat a týmů technického vývoje. U vysoce rizikových systémů AI budou organizace možná nuceny zavést posuzování shody, zajistit kvalitu tréninkových dat, transparentnost a lidský dohled.

Technické týmy budou hrát klíčovou roli při zavádění nezbytných ochranných opatření, jako je vývoj algoritmů, které dodržují etické zásady a zásady ochrany údajů. Současně se budou muset právní týmy a týmy pro dodržování předpisů (compliance) orientovat ve vyvíjejícím se regulačním prostředí a zajistit, aby organizační postupy byly v souladu s Aktem o umělé inteligenci. Efektivní komunikace a spolupráce mezi těmito různorodými týmy bude zásadní pro podporu soudržného a vyhovujícího ekosystému AI v organizacích.