danas je 8.2.2025

Nedostupan dokument, obavezna prijava
Input:

Obveze subjekata koji uvode visokorizične sustave umjetne inteligencije

16.1.2025, , Izvor: Verlag Dashöfer

2025.01.1.9 Obveze subjekata koji uvode visokorizične sustave umjetne inteligencije

Igor Radelić, dipl. iur.

Visokorizični sustavi umjetne inteligencije su definirani i opisano poglavljem 3 Uredba (EU) 2024/1689 Europskog parlamenta i Vijeća od 13. lipnja 2024. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i o izmjeni uredaba (EZ) br. 300/2008, (EU) br. 167/2013, (EU) br. 168/2013, (EU) 2018/858, (EU) 2018/1139 i (EU) 2019/2144 te direktiva 2014/90/EU, (EU) 2016/797 i (EU) 2020/1828 (Akt o umjetnoj inteligenciji).

Obveze subjekata koji uvode visokorizične sustave su navedene u Članku 26. Akta o umjetnoj inteligenciji.

Subjekti koji uvode visokorizične sustave umjetne inteligencije imaju obvezu poduzimanja odgovarajućih tehničkih i organizacijskih mjera kako bi osigurali da upotrebljavaju takve sustave u skladu s uputama za korištenje priloženima sustavima te moraju dodijeliti zadaću ljudskog nadzora fizičkim osobama koje imaju potrebne kompetencije, osposobljenost i ovlasti te im pružati potrebnu potporu.

Osim navedenog, subjekt koji uvodi sustav može imati i druge obveze na temelju prava Unije ili nacionalnog prava te da organizira svoje resurse i aktivnosti u svrhu provedbe mjera ljudskog nadzora koje je naveo dobavljač. Subjekt koji uvodi sustav, osigurava, u mjeri u kojoj ima kontrolu nad ulaznim podacima, da su ulazni podaci relevantni i dovoljno reprezentativni s obzirom na namjenu visokorizičnog sustava umjetne inteligencije.

Subjekti koji uvode sustav moraju pratiti rad visokorizičnog sustava umjetne inteligencije u skladu s uputama za korištenje i prema potrebi obavješćuju dobavljače u skladu obvezama iz Uredbe.

U slučaju ako subjekti koji uvode sustav imaju razloga smatrati da korištenje visokorizičnog sustava umjetne inteligencije u skladu s uputama može dovesti do toga da sustav predstavlja rizik, o tome