AI Act vstupuje v platnost! Jste připraveni?
Dne 2. srpna 2024 vstupuje v platnost nařízení Evropského parlamentu a Rady 2024/1689, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (AI Act). AI Act přináší pravidla pro bezpečné, zodpovědné a transparentní používání umělé inteligence (AI) v EU. Během následujících dvou let se společnosti využívající AI budou muset postupně připravit na celou řadu nových povinností.
AI Act dopadá na široké spektrum subjektů od výrobců systémů AI až po koncové uživatele. Pokud vaše společnost vyvíjí systémy AI nebo používá již hotová AI řešení při své činnosti, měli byste nařízení věnovat pozornost. Ze všeho nejdříve si společnosti budou muset položit otázku, zda právě jejich řešení naplňují v souladu s AI Actem definici systému AI. Pokud ano, budou v dalším kroku řešit, jakou míru rizika využití konkrétního systému AI představuje. Nařízení totiž rozděluje systémy AI podle jejich rizikovosti a obecně platí, že čím vyšší riziko systém AI představuje, tím více povinností na konkrétní subjekt dopadne.
- První kategorii tvoří systémy AI, jejichž použití představuje nepřijatelné riziko. Jejich užití a dodávání na území EU bude zcela zakázáno. Do této kategorie se řadí například systémy AI pro sociální skóring, systémy určené k manipulaci osob nebo k biometrické kategorizaci na základě věku, pohlaví či rasy a další obdobné systémy, které jsou v rozporu se základními hodnotami EU.
- Hlavním cílem nové regulace je pokrýt kategorii vysoce rizikových systémů. Sem mohou spadnout systémy AI používané v oblastech kritické infrastruktury (dopravní průmysl, energetika), přístupu k základním službám (zdravotnictví, bankovnictví, pojištění, sociální dávky), ve vzdělávání, zaměstnávání či vymáhání práva, případně další systémy určené dle komplexního klíče obsaženého v AI Actu. Použití těchto systémů AI by mohlo ohrozit základní práva, svobody a bezpečnost, a proto tato kategorie podléhá nejpřísnější regulaci a na dotčené subjekty dopadá celá škála povinností.
- Na systémy AI, kde riziko spočívá v nedostatku transparentnosti, se bude vztahovat řada informačních povinností. Ty mají zaručit, že subjekt, který je interakci se systémem AI (např. chatbot, deepfake obsah atd.) vystaven, bude o této skutečnosti informován a bude se tak moct svobodně rozhodnout, zda v ní bude pokračovat nebo ji ukončí.
- Kromě výše uvedených kategorií pak AI Act upravuje také obecné modely AI a obecné modely AI se systémovým rizikem. Tato speciální kategorie byla do AI Actu začleněna v reakci na příchod ChatGPT a obdobných velkých jazykových modelů.
Společnosti, které chtějí dodávat systémy AI na evropský trh nebo je zde používat při své činnosti, mají nejvyšší čas začít se na nové nařízení připravovat. Do šesti měsíců, tj. do 2. února 2025, musí identifikovat a zamezit používání zakázaných systémů AI. Za nedodržení tohoto zákazu hrozí přísné pokuty až do výše 35 milionů eur nebo 7 % celosvětového ročního obratu. Od 2. srpna 2025 začnou být účinné povinnosti pro obecné modely AI. Nejrozsáhlejší oblast povinností dopadající na vysoce rizikové systémy nabude účinnosti postupně, a to 2. srpna 2026 a 2. srpna 2027.