V EU začala platit nová pravidla pro používání AI

Zákon stanoví, aby byly zakázány programy umělé inteligence, které provádějí hodnocení na základě sociálního chování. Cílem nové normy je také uměle regulovat rozpoznávání obličejů, píše deník Handelsblatt.

V Evropské unii začala od neděle platit nová pravidla pro nakládání s umělou inteligencí (AI). Podle unijního zákona o umělé inteligenci je zakázáno používat programy umělé inteligence, které provádějí hodnocení na základě sociálního chování. To znamená, že lidé by mohli být rozděleni do kategorií podle chování a odměňováni nebo trestáni.

Rozpoznávání obličeje na veřejných místech – například prostřednictvím kamerového systému na veřejných místech – by rovněž nemělo být povoleno. Existují však výjimky: policii a dalším bezpečnostním orgánům může být umožněno používat rozpoznávání obličejů za účelem stíhání některých trestných činů, jako je obchodování s lidmi a terorismus.

S termínem 2. února 2025 musí společnosti, které vyvíjejí nebo používají umělou inteligenci, posoudit své systémy podle míry rizika a přijmout vhodná opatření, aby splnily nastupující právní požadavky. Podle Evropské komise je cílem nového nařízení nejen ochrana práv spotřebitelů. Chce také zajistit, aby se AI používala odpovědně.