2025.01.1.9 Obveze subjekata koji uvode visokorizične sustave umjetne inteligencije
Igor Radelić, dipl. iur.
Visokorizični sustavi umjetne inteligencije su definirani i opisano poglavljem 3 Uredba (EU) 2024/1689 Europskog parlamenta i Vijeća od 13. lipnja 2024. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i o izmjeni uredaba (EZ) br. 300/2008, (EU) br. 167/2013, (EU) br. 168/2013, (EU) 2018/858, (EU) 2018/1139 i (EU) 2019/2144 te direktiva 2014/90/EU, (EU) 2016/797 i (EU) 2020/1828 (Akt o umjetnoj inteligenciji).
Obveze subjekata koji uvode visokorizične sustave su navedene u Članku 26. Akta o umjetnoj inteligenciji.
Subjekti koji uvode visokorizične sustave umjetne inteligencije imaju obvezu poduzimanja odgovarajućih tehničkih i organizacijskih mjera kako bi osigurali da upotrebljavaju takve sustave u skladu s uputama za korištenje priloženima sustavima te moraju dodijeliti zadaću ljudskog nadzora fizičkim osobama koje imaju potrebne kompetencije, osposobljenost i ovlasti te im pružati potrebnu potporu.
Osim navedenog, subjekt koji uvodi sustav može imati i druge obveze na temelju prava Unije ili nacionalnog prava te da organizira svoje resurse i aktivnosti u svrhu provedbe mjera ljudskog nadzora koje je naveo dobavljač. Subjekt koji uvodi sustav, osigurava, u mjeri u kojoj ima kontrolu nad ulaznim podacima, da su ulazni podaci relevantni i dovoljno reprezentativni s obzirom na namjenu visokorizičnog sustava umjetne inteligencije.
Subjekti koji uvode sustav moraju pratiti rad visokorizičnog sustava umjetne inteligencije u skladu s uputama za korištenje i prema potrebi obavješćuju dobavljače u skladu obvezama iz Uredbe.
U slučaju ako subjekti koji uvode sustav imaju razloga smatrati da korištenje visokorizičnog sustava umjetne inteligencije u skladu s uputama može dovesti do toga da sustav predstavlja rizik, o tome…