Evropská unie má od roku 2024 v platnosti revoluční legislativu, která zásadně proměňuje způsob, jakým se k umělé inteligenci přistupuje v rámci legislativy. AI Act – akt o umělé inteligenci – není jen další technická norma. Představuje zásadní krok k tomu, aby vývoj a využívání AI probíhaly transparentně, bezpečně a v souladu s evropskými hodnotami.
Co je AI Act?
AI Act je první právní rámec svého druhu na světě. Reguluje využívání systémů umělé inteligence podle míry rizika, které představují pro jednotlivce a společnost. Nejde o plošné omezování technologií, ale o nastavení jasných pravidel tam, kde mohou AI nástroje ovlivnit bezpečnost, zdraví, práva nebo ekonomickou stabilitu lidí.
Jak AI Act funguje?
Legislativa rozděluje AI systémy do čtyř kategorií podle úrovně rizika, které představují pro jednotlivce a společnost. Tento přístup umožňuje pružně reagovat na technologický vývoj bez zbytečné byrokracie a zároveň chrání základní práva a veřejný zájem.
- Nepřijatelné – AI systémy, které představují hrozbu pro základní práva a svobody, jsou v EU zakázané. Patří sem například systémy na sociální skórování, které hodnotí jednotlivce na základě jejich chování, sociálního statusu nebo digitálních stop. Také sem spadá automatizovaná biometrická identifikace osob v reálném čase ve veřejném prostoru, protože zásadně narušuje právo na soukromí. Regulace výslovně zakazuje i technologie, které manipulují lidským chováním způsobem, jenž může způsobit újmu, například psychologické nátlaky zaměřené na zranitelné skupiny.
- Vysoké riziko – sem patří AI systémy využívané ve zdravotnictví (např. diagnostické nástroje), ve vzdělávání (hodnocení studentů), na pracovním trhu (nábor a hodnocení zaměstnanců), ve finančnictví (schvalování úvěrů) a v právním systému (např. rozhodovací podpora u soudů). Tyto systémy musí splňovat přísné podmínky: používat kvalitní, nezaujatá data, umožnit lidský dohled nad rozhodnutími, být transparentní a auditovatelné. Vývojáři musí doložit, jak systém funguje a jak minimalizují rizika diskriminace nebo chyb.
- Omezené riziko – do této kategorie spadají například chatboti, virtuální asistenti nebo generativní AI nástroje jako textové a obrazové generátory. Uživatelé musí být jasně informováni, že komunikují s AI a nikoli s člověkem. Cílem je předejít nedorozuměním, manipulaci nebo zneužití důvěry, například při zákaznické podpoře nebo v mediálním prostoru.
- Minimální riziko – sem patří běžně používané AI systémy, jako jsou překladače, doporučující algoritmy v e-shopech nebo antispamové filtry. Tyto aplikace nejsou považovány za zásadní hrozbu, a proto podléhají minimálním regulacím. I přesto se doporučuje dodržování etických standardů, jako je ochrana soukromí, vysvětlitelnost výsledků a možnost zpětné vazby od uživatele.
Proč na tom záleží?
Technologie postupují rychle, ale pravidla často zaostávají. AI Act tento rozdíl dorovnává. Zajišťuje, že umělá inteligence nebude nástrojem diskriminace, manipulace nebo netransparentního rozhodování. Chrání občany i firmy, které se díky jednotnému právnímu rámci pohybují na evropském trhu s větší jistotou.
Co to znamená pro firmy a vývojáře?
Firmy, které AI vyvíjejí nebo používají, musí plnit nové povinnosti. U systémů s vysokým rizikem se jedná o dokumentaci, auditovatelnost, správu dat a lidský dohled. To znamená nejen nové náklady, ale i vyšší důvěru ze strany klientů a investorů.
Startupy mají přístup k testovacím prostředím („regulatory sandboxes“), kde mohou bezpečně ověřovat nové technologie ještě před jejich uvedením na trh.
AI gramotnost
V roce 2025 už AI není novinkou – je běžnou součástí života. O to důležitější je, aby lidé rozuměli tomu, co AI je a jak funguje. AI gramotnost dnes znamená schopnost porozumět principům fungování AI, kriticky hodnotit výstupy těchto systémů a umět rozeznat jejich dopady.
Firmy, školy i veřejné instituce proto zavádějí vzdělávací programy, workshopy a online kurzy zaměřené na digitální a AI kompetence. Cílem je, aby se z pasivních uživatelů stali informovaní aktéři, kteří si uvědomují, jak s AI bezpečně zacházet a kdy si dát pozor. V době, kdy technologie ovlivňují volby, zdraví i finance, se AI gramotnost stává součástí základní výbavy moderního člověka.
Jaké jsou další kroky?
V roce 2025 už vstupují v platnost první části AI Actu. Do roku 2026 mají firmy i státní instituce povinnost plně se přizpůsobit nové legislativě. Evropská unie tím dává jasně najevo: technologie ano, ale s pravidly.
Důležitou součástí přechodu je AI compliance, tedy schopnost firem prokazatelně dodržovat legislativní požadavky. To zahrnuje nejen technické změny v systémech, ale i nové procesy, školení zaměstnanců a interní kontrolní mechanismy. U systémů s vysokým rizikem je nutné pravidelně vykazovat soulad s požadavky zákona, často prostřednictvím nezávislých auditů.
Praktický postup pro zajištění AI compliance obvykle začíná interním auditem používaných AI systémů – tedy zmapováním, kde a jak se technologie využívá. Následuje posouzení rizikovosti každého systému podle kritérií AI Actu. U systémů vyhodnocených jako vysoce rizikové je nutné zavést povinné mechanismy: dokumentaci algoritmu, zajištění lidského dohledu, řízení kvality dat a posouzení dopadů na práva jednotlivců.
Součástí compliance by mělo být také školení zaměstnanců, zavedení etických zásad do rozhodovacích procesů a vytvoření role zodpovědné osoby nebo týmu pro AI compliance. Doporučuje se také navázání spolupráce s právními experty, datovými analytiky a externími auditory.
Compliance se tak stává nejen právní nutností, ale i konkurenční výhodou. Firmy, které působí transparentně a eticky, získávají důvěru zákazníků i obchodních partnerů. Zároveň roste poptávka po odbornících na AI etiku, právo a compliance, stejně jako po nástrojích pro sledování a řízení AI systémů.
Shrnutí
AI Act v roce 2025 už není jen vizí, ale realitou. Evropa ukazuje, že chce být nejen technologickým, ale i etickým lídrem v oblasti umělé inteligence. Vyzývá vývojáře i firmy: tvořte chytře, ale odpovědně. Protože budoucnost AI nestojí jen na datech, ale i na důvěře.
V České republice navíc vzniká specializovaná podpora ve formě iniciativy AI Support, která poskytuje informace, poradenství a konzultace ohledně regulace, etiky a technických aspektů AI systémů. Platforma je otevřená jak firmám, které se snaží zajistit soulad s legislativou, tak jednotlivcům, kteří se chtějí v oblasti AI zorientovat, vzdělávat nebo řešit konkrétní problémy. AI Support funguje jako rozcestník k nástrojům, vzdělávání i kontaktům na experty, a pomáhá propojit veřejný i soukromý sektor v praktické implementaci AI Actu v českém prostředí.
Protože budoucnost AI nestojí jen na datech, ale i na důvěře.
V České republice navíc vzniká specializovaná podpora ve formě iniciativy AI Support, která poskytuje informace, poradenství a konzultace ohledně regulace, etiky a technických aspektů AI systémů. Platforma je otevřená jak firmám, které se snaží zajistit soulad s legislativou, tak jednotlivcům, kteří se chtějí v oblasti AI zorientovat, vzdělávat nebo řešit konkrétní problémy. AI Support funguje jako rozcestník k nástrojům, vzdělávání i kontaktům na experty, a pomáhá propojit veřejný i soukromý sektor v praktické implementaci AI Actu v českém prostředí.
Zdroj: redakce
