Jako příspěvek do evropské diskuze o budoucí regulaci umělé inteligence v EU připravila Česká republika tzv. non-paper nazvaný “Regulatory Framework for Artificial Intelligence in the European Union“.
V tomto non-paperu Česká republika zdůrazňuje, že “zajištění bezpečnosti občanů je předpokladem skutečné zajištění základních lidských práv a svobod”.
Non-paper formuluje tři principy, na nichž by měla být založena budoucí regulace umělé inteligence:
- Umožnění výzkumu a vývoje tím, že se zdržíme počáteční přeregulace této technologie
- Důraz na samoregulaci a tzv. soft-law založené na nejlepší praxi
- Horizontální definování nepřekročitelných hranic jako nástroj pro zajištění ochrany základních práv a právní jistoty
S ohledem na tyto hranice navrhuje non-paper následující:
- Posouzení potenciálně nejvíce zneužitelných AI technologií a jejich konzultace s dotčenými aktéry, zejména posouzení systémů na rozpoznávání obličeje (místo eventuálního neomezeného zákazu této technologie je navrženo časově omezené moratorium)
- Zákaz hodnotících systémů používajících tzv. social credit scoring, které zasahují do základních lidských práv
- S ohledem na odpovědnost limitace náhrady škody ve specifických oblastech na určenou částku
- Zákaz používání systémů, které dokáží rozpoznat a manipulovat s emocemi uživatelů (s výjimkou užití pro zdravotnické a výzkumné účely)
- Vytvoření systémů pro audit, certifikaci a posuzování rizik AI
- Zavedení práva vypnout systém umělé inteligence s výjimkou situací, kdy byl uživatel předem informován o tom, že AI nemůže být vypnuta.