Vyjednávači členských štátov Európskej Únie a Európskeho parlamentu sa dohodli na prvých komplexných pravidlách na svete, ktoré upravujú umelú inteligenciu. Zákon EÚ o umelej inteligencii je vôbec prvým komplexným právnym rámcom o umelej inteligencii na celom svete. Zameraním regulácie na identifikovateľné riziká táto dohoda podporí zodpovedné inovácie v Európe. Zaručením bezpečnosti a základných práv ľudí a podnikov podporí vývoj a zavádzanie dôveryhodnej AI v EÚ. Zákon o AI výrazne prispeje k rozvoju globálnych pravidiel a princípov pre umelú inteligenciu zameranú na človeka.
Kategorizácia systémov umelej inteligencie
Minimálne rizikové systémy
Veľká väčšina systémov AI patrí do kategórie minimálneho rizika. Aplikácie s minimálnym rizikom, ako sú systémy odporúčaní s podporou AI alebo filtre nevyžiadanej pošty, budú mať prospech z voľného priechodu a absencie povinností, pretože tieto systémy predstavujú len minimálne alebo žiadne riziko pre práva alebo bezpečnosť občanov. Na dobrovoľnom základe sa však spoločnosti môžu zaviazať k ďalším kódexom správania pre tieto systémy AI.
Vysoko-rizikové systémy AI
Systémy umelej inteligencie označené ako vysokorizikové budú musieť spĺňať prísne požiadavky vrátane systémov na zmiernenie rizika, vysokej kvality súborov údajov, zaznamenávania aktivít, podrobnej dokumentácie, jasných informácií o používateľovi, ľudského dohľadu a vysokej úrovne. robustnosť, presnosť a kybernetickú bezpečnosť. Regulačné karantény uľahčia zodpovedné inovácie a vývoj vyhovujúcich systémov AI.
Príklady takýchto vysokorizikových systémov umelej inteligencie zahŕňajú určité kritické infraštruktúry, napríklad v oblasti vody, plynu a elektriny; zdravotnícke prístroje; systémy na určenie prístupu do vzdelávacích inštitúcií alebo na nábor ľudí; alebo určité systémy používané v oblasti presadzovania práva, kontroly hraníc, výkonu spravodlivosti a demokratických procesov. Okrem toho sa systémy biometrickej identifikácie, kategorizácie a rozpoznávania emócií tiež považujú za vysoko rizikové.
Zakázané systémy
Systémy umelej inteligencie považované za jasnú hrozbu pre základné práva ľudí budú zakázané. Patria sem systémy alebo aplikácie umelej inteligencie, ktoré manipulujú s ľudským správaním s cieľom obísť slobodnú vôľu používateľov, ako sú napríklad hračky využívajúce hlasovú asistenciu podporujúcu nebezpečné správanie neplnoletých osôb alebo systémy, ktoré vládam alebo spoločnostiam umožňujú „sociálne hodnotenie“, a určité aplikácie prediktívnej kontroly.
Okrem toho bude zakázané niektoré používanie biometrických systémov, napríklad systémy na rozpoznávanie emócií používané na pracovisku a niektoré systémy na kategorizáciu ľudí alebo biometrickú identifikáciu na diaľku v reálnom čase na účely presadzovania práva vo verejne prístupných priestoroch.
Špecifické riziko transparentnosti
Pri používaní systémov AI, ako sú chatboty, by si používatelia mali byť vedomí toho, že interagujú so strojom. Hlboké falzifikáty a iný obsah generovaný AI bude musieť byť takto označený a používatelia musia byť informovaní, keď sa používajú systémy biometrickej kategorizácie alebo rozpoznávania emócií. Okrem toho budú musieť poskytovatelia navrhnúť systémy tak, aby bolo možné zistiť, či sú umelo vytvorené alebo spracované.
Čo hrozí pri porušení pravidiel AI?
Spoločnosti, ktoré pravidlá nedodržia, budú pokutované. Pokuty by sa pohybovali od 35 miliónov EUR alebo 7 % celosvetového ročného obratu (podľa toho, čo je vyššie) za porušenie zakázaných aplikácií AI, 15 miliónov alebo 3 % za porušenie iných povinností a 7,5 milióna alebo 1,5 % za poskytnutie nesprávnych informácií. V prípade porušenia zákona o umelej inteligencii sa počíta s primeranejšími stropmi pre správne pokuty pre MSP a začínajúce podniky.
Dôležité odkazy
Zdroj: Európska komisia
