AI a české právo — co potřebujete vědět

Regulace umělé inteligence v Evropě nabírá na obrátkách a české firmy si nemohou dovolit ji ignorovat. EU AI Act vstoupil v platnost v roce 2025 a jeho jednotlivá ustanovení se postupně stávají vymahatelnými. Připravili jsme praktický přehled toho, co potřebujete vědět.

EU AI Act rozděluje AI systémy do čtyř kategorií podle míry rizika: nepřijatelné riziko, vysoké riziko, omezené riziko a minimální riziko. Systémy s nepřijatelným rizikem jsou zakázány — patří sem například sociální skóring nebo manipulativní AI. Většina firemních AI řešení spadá do kategorie omezeného nebo minimálního rizika, ale je důležité to ověřit.

Pro české firmy je klíčové porozumět kategorii vysokého rizika. Pokud váš AI systém rozhoduje o přístupu k zaměstnání, úvěrech, vzdělávání nebo veřejným službám, pravděpodobně spadá do vysokého rizika. To znamená povinnost provést posouzení shody, vést technickou dokumentaci, zajistit lidský dohled a implementovat systém řízení rizik. Sankce za nedodržení mohou dosáhnout až 35 milionů eur nebo 7 % globálního obratu.

V české legislativě zatím nemáme specifický zákon o AI, ale platí stávající právní rámec. GDPR se vztahuje na zpracování osobních údajů umělou inteligencí. Zákoník práce reguluje použití AI při rozhodování o zaměstnancích. Zákon o ochraně spotřebitele platí pro AI systémy komunikující se zákazníky. Autorský zákon řeší otázku děl vytvořených s pomocí AI.

Prakticky doporučujeme každé firmě, která nasazuje AI, udělat tři věci. Zaprvé, provést klasifikaci svých AI systémů podle EU AI Act. Zadruhé, zdokumentovat způsob fungování AI systémů tak, aby bylo možné vysvětlit jejich rozhodnutí. Zatřetí, zavést proces pro pravidelný audit AI systémů z hlediska přesnosti, spravedlnosti a bezpečnosti.

Důležitým aspektem je transparentnost vůči uživatelům. Pokud zákazník komunikuje s AI chatbotem, musí o tom být informován. Pokud AI systém generuje obsah, mělo by to být označeno. Tyto povinnosti vyplývají přímo z EU AI Act a platí i pro systémy s minimálním rizikem.

V A1gen jsme vytvořili interní checklist pro právní compliance AI řešení, který procházíme s každým klientem na začátku projektu. Pomáháme firmám zorientovat se v regulatorním prostředí a navrhnout řešení, které je v souladu s aktuální legislativou. Raději investovat čas do compliance na začátku než řešit pokuty později.

Pro hlubší porozumění doporučujeme sledovat aktivity českého Úřadu pro ochranu osobních údajů a nově vznikajícího AI Office při Evropské komisi. Legislativa se vyvíjí rychle a je důležité zůstat informovaní.