ES DI akto rizikos klasifikacija: kaip veikia keturi lygiai

Aktas remiasi rizikos požiūriu, kad neuždėtų vienodų prievolių mažo poveikio rekomendacijų sistemai ir didelio poveikio kreditingumo modeliui. Klasių struktūra taip pat išlaiko reguliavimo naštą proporcingą galimai žalai pagrindinėms teisėms, sveikatai ir saugai. Europos Komisijos DI portalas keturias klases apibūdina kaip pagrindinį reguliavimo dizaino sprendimą [2].

Įmonėms praktinė reikšmė yra ta, kad rizikos klasifikacija yra pirmasis analizės žingsnis bet kokiame DI pirkimo arba kūrimo sprendime. Kol nežinote, į kurią klasę patenka sistema, negalite nustatyti dokumentacijos apimties, testavimo, žmogaus priežiūros dizaino arba sutarties. Tiekėjai, kurie praleidžia šį žingsnį ir siūlo sistemą be rašytinio rizikos klasifikavimo, signalizuoja, kad atitikties darbas neatliktas.

5 straipsnis išvardija aštuonias draudžiamų DI praktikų kategorijas. Pasąmonės arba manipuliacinės technikos, kurios reikšmingai iškreipia elgesį ir sukelia didelę žalą. Pažeidžiamumų išnaudojimas dėl amžiaus, negalios arba socialinės ar ekonominės padėties. Socialinis reitingavimas viešųjų ar privačių subjektų, vedantis į neproporcingą elgesį. Fizinių asmenų rizikos vertinimas nusikaltimams numatyti, paremtas tik profiliavimu. Netikslinis veidų vaizdų rinkimas iš interneto arba CCTV veidų atpažinimo duomenų bazėms. Emocijų atpažinimas darbo vietose ir mokymo įstaigose. Biometrinis kategorizavimas pagal jautrius požymius, tokius kaip rasė, politinės pažiūros arba seksualinė orientacija. Realaus laiko biometrinis identifikavimas viešose erdvėse teisėsaugoje, su siauromis išimtimis [1].

Šios prievolės taikomos nuo 2025 m. vasario 2 d. ir Europos Komisija paskelbė detalias gaires dėl draudžiamų praktikų 2025 m. pradžioje [4]. Sankcijos už pažeidimą yra didžiausio lygio: iki 35 mln. eurų arba 7 proc. pasaulinės metinės apyvartos.

Aukšto rizikos klasifikacija seka du kelius. Pirmas yra III priedas, kuriame išvardytos aštuonios sritys, kuriose DI sistemos preziumuojamos kaip aukšto rizikos: biometrija (po įvykio identifikavimas, kategorizavimas, emocijų atpažinimas už draudžiamų kontekstų), kritinė infrastruktūra (saugos komponentai keliams, geležinkeliams, vandeniui, dujoms, elektrai), švietimas ir profesinis mokymas (priėmimas, vertinimas, stebėjimas), įdarbinimas ir darbuotojų valdymas (atranka, paaukštinimas, veiklos vertinimas), prieiga prie esminių paslaugų (kreditingumas, socialinės išmokos, skubios pagalbos triažas, gyvybės ir sveikatos draudimo kainodara), teisėsauga, migracija ir sienos kontrolė, ir teisingumo administravimas [3].

Antras kelias yra I priedas: DI saugos komponentai reguliuojamuose produktuose, kurie jau reikalauja trečiųjų šalių atitikties vertinimo pagal sektorinę teisę - mašinos, žaislai, liftai, radijo įranga, civilinė aviacija, motorinės transporto priemonės, in vitro diagnostikos medicinos prietaisai, medicinos prietaisai. DI sistema, kuri yra CE žymėto prietaiso saugos komponentas, yra aukšto rizikos pagal DI aktą papildomai prie esamų sektorinių reikalavimų.

6 straipsnio 3 dalis numato išimtį: III priedo sistema nėra aukšto rizikos, jei ji atlieka siaurą procedūrinę užduotį, pagerina anksčiau atliktą žmogaus veiklą, aptinka sprendimų modelius nepakeisdama žmogaus vertinimo arba atlieka parengiamuosius darbus. Išimtis yra siaura, turi būti dokumentuota ir gali būti ginčijama nacionalinių institucijų.

Aukšto rizikos sistemos turi sunkiausią projektavimo ir veiklos naštą. Tiekėjai turi nustatyti rizikos valdymo sistemą per visą gyvavimo ciklą (9 str.), įgyvendinti duomenų valdymą, atitinkantį 10 straipsnį (mokymo, validavimo, testavimo duomenų kokybė, kilmė, šališkumo mažinimas), parengti techninę dokumentaciją pagal IV priedą (11 str.), sukurti automatinius žurnalus (12 str.), užtikrinti skaidrumą naudotojams (13 str.), suprojektuoti žmogaus priežiūrą (14 str.), pasiekti tinkamą tikslumą, atsparumą ir kibernetinį saugumą (15 str.), įdiegti kokybės valdymo sistemą (17 str.), saugoti dokumentaciją 10 metų (18 str.), registruoti sistemą ES duomenų bazėje (49 str.), atlikti atitikties vertinimą (43 str.) ir veikti poprodukcinį stebėjimą (72 str.).

Aukšto rizikos sistemų naudotojai turi naudoti sistemą pagal naudojimo instrukcijas, paskirti žmogaus priežiūrą kompetentingiems darbuotojams, užtikrinti, kad įvesties duomenys yra aktualūs, stebėti veikimą ir pranešti apie rimtus incidentus, saugoti žurnalus, atlikti pagrindinių teisių poveikio vertinimą, kur taikoma 27 straipsnis, ir informuoti asmenis, paveiktus DI sprendimų, kur taikoma 26 straipsnio 11 dalis.

Atitikties vertinimo gidas aprašo procedūrinius žingsnius.

Riboto rizikos sistemoms taikomos skaidrumo prievolės pagal 50 straipsnį. DI sistemų tiekėjai, kurios tiesiogiai sąveikauja su žmonėmis, turi informuoti žmogų, kad jis sąveikauja su DI, nebent tai akivaizdu iš konteksto. DI sistemų, generuojančių sintetinį garso, vaizdo, video arba teksto turinį, tiekėjai turi pažymėti išvestį kaip dirbtinai sukurtą arba manipuliuotą mašininiu būdu skaitomu formatu. Emocijų atpažinimo arba biometrinio kategorizavimo sistemų naudotojai turi informuoti paveiktus asmenis. Deepfake sistemų naudotojai turi atskleisti, kad turinys buvo dirbtinai sukurtas arba manipuliuotas, su išimtimis aiškiai meniniam, satyriniam arba fikcinaiam darbui.

Skaidrumo prievolės taikomos nuo 2026 m. rugpjūčio 2 d. lygiagrečiai su aukšto rizikos režimu. Dauguma vartotojams skirtų pokalbių robotų, DI varomų klientų aptarnavimo įrankių ir generatyvinio turinio produktų patenka į šią klasę ir turi pridėti atskleidimo sluoksnį prie savo vartotojo sąsajos iki 2026 m. termino.

Minimalaus rizikos sistemoms specifinės prievolės pagal Aktą netaikomos, išskyrus 4 straipsnio bendrą DI raštingumo reikalavimą, kuris taikomas nuo 2025 m. vasario 2 d. Raštingumo reikalavimas prašo tiekėjų ir naudotojų imtis priemonių užtikrinti pakankamą DI raštingumo lygį tarp darbuotojų, naudojančių DI sistemas organizacijos vardu, atsižvelgiant į naudojimo kontekstą, darbuotojų techninį žinojimą, patirtį, išsilavinimą ir mokymą bei asmenis ar grupes, kuriems DI sistemos taikomos.

Dauguma darbo srautų automatizavimo įrankių, šlamšto filtrų, neesminių paslaugų rekomendacijų sistemų ir DI varomos produktyvumo programinės įrangos sėdi šioje klasėje. Savanoriški elgesio kodeksai pagal 95 straipsnį skatinami minimalaus rizikos sistemoms ir gali būti naudingas pirkimo signalas reguliuojamose pramonės šakose. Stanford HAI 2024 metų DI ataskaita praneša, kad daugiau nei 78 proc. organizacijų yra įdiegusios DI bent vienoje verslo funkcijoje [7].

Bendrosios paskirties DI modeliai, apibrėžti 3 straipsnio 63 dalyje kaip modeliai, demonstruojantys reikšmingą bendrumą ir gebantys atlikti įvairias užduotis, sėdi atskirame kelyje. V skyrius juos suskirsto į du: standartinius bendrosios paskirties DI modelius su dokumentacijos, autorių teisių ir mokymo duomenų santraukos prievolėmis; ir bendrosios paskirties DI modelius su sisteminiu pavojumi, apibrėžtus kaip mokomus naudojant kumuliacinę kompiuterinę galią, viršijančią 10^25 slankiojo kablelio operacijų, su papildomomis vertinimo, mažinimo, incidentų pranešimo ir kibernetinio saugumo prievolėmis [1].

10^25 FLOPs riba yra objektyvus trigeris, bet DI biuras taip pat gali paskirti modelį kaip sisteminį pavojų pagal pajėgumus, pasiekiamumą arba kitus kriterijus. Žemesnio lygio taikomosios programos, sukurtos ant bendrosios paskirties modelių, paveldi dalį atitikties paketo iš modelio tiekėjo, bet užkloja savo sistemos lygio prievoles viršuje, klasifikuojamas pagal naudojimo atvejį.

Apgynamas klasifikavimas seka penkiais žingsniais. Pirma, parašyti trumpą sistemos aprašymą: paskirtis, numatomi naudotojai, įvesties duomenys, išvestis, diegimo kontekstas. Antra, patikrinti 5 straipsnį dėl draudžiamų praktikų trigerių. Jei taikoma, sistemos negalima pateikti rinkai. Trečia, patikrinti I priedą dėl saugos komponento statuso reguliuojamuose produktuose. Jei taip, sistema yra aukšto rizikos. Ketvirta, patikrinti III priedą dėl srities trigerių. Jei taip, sistema preziumuojama kaip aukšto rizikos; dokumentuoti bet kokį 6 straipsnio 3 dalies išimties teiginį su pagrindimu. Penkta, patikrinti 50 straipsnio skaidrumo trigerius. Jei taip, sistema yra bent riboto rizikos ir taikomi atskleidimo reikalavimai.

Klasifikavimo dokumentas turi būti saugomas kaip techninės dokumentacijos dalis ir peržiūrimas kasmet arba kai sistema, įvesties duomenys ar diegimo kontekstas reikšmingai keičiasi. Nacionalinės kompetentingos institucijos gali ginčyti klasifikaciją pagal 79 straipsnį ir reikalauti įrodymų.

Klasterio kontekstui žr. DI akto apžvalga, atitikties vertinimas, DI aktas Lietuvoje, TRACE metodologija.