Evropská unie zavádí přelomovou regulaci v podobě Aktu o umělé inteligenci, která zásadním způsobem ovlivní technologický sektor i běžné podnikání. Nařízení se nevztahuje pouze na evropské subjekty, ale na všechny poskytovatele, kteří systémy AI na trh EU uvádějí nebo je zde zprovozňují, a to bez ohledu na zemi jejich původu. Pod unijní jurisdikci tak spadají i americké softwarové firmy či zaměstnavatelé využívající automatizované systémy pro hodnocení evropských uchazečů o práci.
Kategorizace rizik a zakázané praktiky
Nová legislativa rozděluje systémy umělé inteligence do čtyř kategorií podle míry rizika, které představují pro uživatele a společnost. Nejpřísnější pravidla platí pro systémy označené jako nepřijatelné, které unie zcela zakazuje. Mezi ně patří například sociální skórování, určité formy biometrické identifikace nebo systémy sloužící k rozpoznávání emocí v citlivých kontextech.
Do kategorie vysoce rizikových systémů spadají řešení využívaná v kritických oblastech infrastruktury a veřejného života:
- nábor zaměstnanců a řízení lidských zdrojů,
- vzdělávání a odborná příprava,
- zdravotnictví a pojišťovnictví,
- vymáhání práva a správa spravedlnosti.
U těchto technologií musí provozovatelé zajistit lidský dohled, vést podrobnou technickou dokumentaci a provádět monitorování i po uvedení systému do praktického provozu. Naopak většina běžných aplikací pro spotřebitele spadá do kategorie s omezeným nebo minimálním rizikem, kde je hlavním požadavkem transparentnost, tedy například jasné označení obsahu vytvořeného umělou inteligencí.
Drakonické sankce a příprava na kontrolu
Podniky, které pravidla podcení, se vystavují riziku extrémních finančních postihů. Horní hranice pokuty se může vyšplhat až na 7 % celosvětového ročního obratu dané společnosti. Odborníci proto firmám doporučují provést důkladné zátěžové testy a identifikovat slabá místa v dokumentaci dříve, než začne plné vymáhání pravidel ze strany evropských regulátorů.
„Firmy by měly mít připravené krizové plány pro případ, že se dostanou do hledáčku regulátorů, a proaktivně komunikovat s investory i médii o tom, jak rizika spojená s AI řídí.“
Součástí strategie by mělo být vypracování přehledu používaných systémů a jejich rizikové klasifikace. Správné nastavení vnitřních procesů a jasné definování odpovědnosti za správu AI nástrojů je nyní pro střední i velké firmy nezbytností, aby předešly nejen finančním ztrátám, ale i fatálnímu poškození své pověsti na trhu.