AI Akt – ďalšia časť ustanovení nadobudla účinnosť

Povinnosti poskytovateľov modelov AI na všeobecné účely 

Poskytovatelia modelov AI na všeobecné účely (t. j. modelov AI schopných vykonávať širokú škálu odlišných úloh, vrátane generatívnej umelej inteligencie založenej na veľkých jazykových modeloch, ako napríklad GPT-4 alebo Gemini) sú od augusta povinní zabezpečiť vypracovanie technickej dokumentácie, ako aj zverejniť zhrnutie obsahu použitého na trénovanie modelu. Zároveň musia spolupracovať s príslušnými orgánmi dohľadu a Európskym úradom pre umelú inteligenciu (Úrad pre AI), V prípade modelov AI na všeobecné účely so systémovým rizikom (viac o tejto kategórii nižšie) sú poskytovatelia povinní splniť dodatočné požiadavky týkajúce sa posudzovania a zmierňovania rizika, vykonávať testovanie modelu, oznamovať závažné incidenty a prijímať nápravné opatrenia.

Dodatočné požiadavky pre modely AI na všeobecné účely so systémovým rizikom 

Poskytovatelia modelov AI na všeobecné účely, ktoré boli označené ako modely so systémovým rizikom (predpokladáme, že uvedená kategória sa dotkne najpokročilejších modelov AI ako napríklad aj GPT-4), musia spĺňať ďalšie sprísnene požiadavky nad rámec štandardných povinností platných pre všetky modely AI na všeobecné účely. Predovšetkým sú povinní:

• vykonať komplexné hodnotenie modelu podľa štandardizovaných protokolov a nástrojov, ktoré odrážajú aktuálny stav vývoja v oblasti AI;
• priebežne identifikovať a zmierňovať systémové riziká, čo zahŕňa zavedenie politík riadenia rizík, procesov zodpovednosti a správy a riadenia, monitorovanie po uvedení na trh, prijímanie primeraných opatrení počas celého životného cyklu modelu a úzku spoluprácu s ďalšími aktérmi v hodnotovom reťazci AI. 
• v prípade výskytu závažného incidentu je poskytovateľ modelu AI na všeobecné účely so systémovým rizikom povinný bezodkladne monitorovať priebeh incidentu, oznámiť všetky relevantné informácie a možné nápravné opatrenia Európskej komisii a príslušným vnútroštátnym orgánom. 

Osobitný dôraz sa kladie na zabezpečenie primeranej úrovne kybernetickej bezpečnosti modelu a jeho fyzickej infraštruktúry.  Ochrana musí zahŕňať zabezpečenie váh modelu, algoritmov, serverov a dátových súborov, zavedenie prevádzkových opatrení informačnej bezpečnosti, stratégií kybernetickej bezpečnosti, technických riešení a kontrol prístupu – fyzického aj digitálneho – primerane identifikovaným rizikám. Na poskytovateľov modelov so systémovým rizikom sa vzťahujú aj rozšírené povinnosti v oblasti:

• vedenia a archivácie technickej dokumentácie,
• monitorovania a hodnotenia rizika,
• testovania modelu.

Časť technickej dokumentácie, napríklad v oblasti trénovania modelov, má byť poskytovateľmi sprístupnená aj verejnosti. 

V prípade zistenia závažného systémového rizika môže Komisia požadovať od poskytovateľa prijatie konkrétnych nápravných opatrení, obmedzenie sprístupnenia modelu na trhu alebo dokonca jeho stiahnutie z trhu či od používateľa.  Všetky tieto opatrenia majú zabezpečiť, že modely AI na všeobecné účely so systémovým významom pre vnútorný trh EÚ budú vyvíjané, uvádzané na trh a používané bezpečne, transparentne a pod účinným dohľadom, s rešpektovaním základných práv a verejného záujmu.

Ustanovenia týkajúce sa administratívnych sankcií 

Od augusta nadobudla účinnosť väčšina ustanovení týkajúcich sa správnych sankcií, ktoré musia zaviesť jednotlivé členské štáty. Upozorňujeme, že aj keď na Slovensku je zatiaľ návrh zákona o organizácii štátnej správy v oblasti umelej inteligencie, ktorý určuje Ministerstvo investícií, regionálneho rozvoja a informatizácie Slovenskej republiky (MIRRI) ako príslušný všeobecný orgán dohľadu nad trhom s kontrolnou a sankčnou právomocou, stále iba v legislatívnom procese – slovenské subjekty, na ktoré sa vzťahuje AI Akt, môžu byť v budúcnosti zodpovedné za porušenie povinností, ktoré už aktuálne platia, napríklad v oblasti gramotnosti v oblasti AI alebo pri používaní zakázaných praktík. 

Zaujímavosťou je, že európsky zákonodarca zatiaľ čiastočne vylúčil poskytovateľov modelov AI na všeobecné účely spod sankcií. Podľa článku 101 AI Aktu nadobudnú špecifické peňažné sankcie voči poskytovateľom modelov AI na všeobecné účely účinnosť až od augusta 2026. 

Ustanovenia ukladajúce povinnosti členským štátom a správnym organom 

Ďalšia časť povinností, ktorá nadobudla účinnosť v auguste, sa týka členských štátov, ktoré musia určiť alebo zriadiť príslušné orgány dohľadu nad trhom a notifikované osoby zodpovedné za uplatňovanie ustanovení AI Aktu. Ako sme uviedli vyššie aktuálne je v rámci Slovenskej republiky ako všeobecný orgán dohľadu navrhované MIRRI. 

Európsky Úrad pre AI získava právomoci na monitorovanie, vedenie konaní a presadzovanie súladu modelov AI na všeobecné účely v rozsahu sankcií stanovených v AI Akte.

Dopad na používateľov a ďalšie subjekty v rámci hodnotového reťazca AI

Používatelia AI budú povinní používať AI v súlade s návodom na použitie a požiadavkami poskytovateľa. V prípade vysokorizikových systémov AI budú musieť vykonávať posúdenie vplyvu na základné práva, monitorovať prevádzku systému, informovať zamestnancov o využívaní AI a hlásiť závažné incidenty. Dovozcovia a distribútori budú povinní overiť, či systémy AI uvádzané na trh EÚ spĺňajú požiadavky AI Aktu, disponujú príslušnou technickou dokumentáciou, označením CE a vyhlásením o zhode, a spolupracovať s orgánmi dohľadu nad trhom pri poskytovaní požadovaných informácií.  Zároveň používanie AI v rozpore s technickou dokumentáciou a návodom na použitie nesie riziko vzniku občianskoprávnej zodpovednosti za spôsobenú škodu.

Pre zabezpečenie súladu s požiadavkami AI Aktu je potrebné už teraz začať s prípravou 

Ustanovenia AI Aktu, ktoré už sú účinné alebo sa stanú účinnými v nasledovnom období vyžadujú od poskytovateľov, nasadzujúcich subjektov, dovozcov a verejných orgánov zavedenie nových postupov a opatrení, ktoré majú zabezpečiť bezpečné, etické a transparentné využívanie AI.  Včasná príprava umožní predísť riziku porušenia predpisov, sankciám a strate dôvery na trhu. 

Článok vznikol v spolupráci s PwC Legal Polska, Aleksandra Bankowska, Jakub Derulski, Lukasz Lyczko.