AI pod kontrolou: Evropský parlament posunul přelomové nařízení do trialogu
V půlce června odhlasoval Evropský parlament (EP) své připomínky k návrhu nařízení o umělé inteligenci (AI), což odstartuje jednání v rámci tzv. trialogu. EU je tak zase o krok blíže přijetí vůbec první ucelené regulace AI na světě.
Cílem nařízení je především zajistit bezpečnost a zvýšit transparentnost při využívání této rychle se rozvíjející technologie. Společnosti, které budou chtít dodávat systémy AI na unijní trh nebo je využívat při své činnosti, musí do budoucna počítat s řadou nových povinností v závislosti na tom, do jaké kategorie daný systém AI spadá.
Nařízení dělí umělou inteligenci do čtyř kategorií podle toho, jak velké riziko představuje (tzv. risk-based approach): nepřijatelné, vysoké, omezené nebo minimální. Používání AI odpovídající kategorii „nepřijatelné“ bude na území EU zakázané (například tzv. social scoring). Nejvíce povinností dopadne na vysoce rizikové systémy umělé inteligence. Do této kategorie spadá velké množství systémů AI používaných např. v kritické infrastruktuře, ve vzdělání nebo při náboru nových zaměstnanců.
EP bude o pozměňovacích návrzích vyjednávat s Komisí a Radou v rámci trialogu. Řešit se bude např. finální znění definice samotné AI nebo kritéria pro určení vysoce rizikových systémů. V reakci na žhavé téma posledních měsíců – ChatGPT a jí podobné nástroje – EP také navrhuje, aby se určité povinnosti vztahovaly specificky i na generativní umělou inteligenci. Diskutovat se bude ale například i o výši sankcí. Hranici nejvyšší možné pokuty za nedodržení pravidel stanovených nařízením navrhuje EP zvýšit na 40 milionů eur a v případě, kdy poruší pravidla společnost, až na sedm procent jejího celkového celosvětového ročního obratu.
Vyjednávání v trialogu by mohlo skončit letos. Finálního znění nařízení o AI bychom se tak mohli dočkat začátkem roku 2024.