ES DI akto įgyvendinimo sąrašelis tiekėjams ir naudotojams

3 straipsnis apibrėžia keturis veiklos vykdytojo vaidmenis, ir ta pati organizacija gali turėti daugiau nei vieną. Tiekėjas kuria DI sistemą arba užsako jos sukūrimą ir pateikia rinkai arba pradeda eksploatuoti savo vardu. Naudotojas naudoja DI sistemą savo įgaliojimais profesinėje veikloje. Importuotojas ES rinkai pateikia sistemą su ne ES tiekėjo vardu. Platintojas tiekia sistemą rinkai nepakeisdamas jos savybių [1].

Esmingai, naudotojas, kuris iš esmės modifikuoja aukšto rizikos sistemą, perženklina ją arba pakeičia jos numatytą paskirtį, modifikuotos sistemos atžvilgiu tampa tiekėju pagal 25 straipsnį. Prieš darydami bet ką kitą, susiekite kiekvieną DI sistemą savo portfelyje su šiais keturiais vaidmenimis, nes nuo atsakymo priklauso visi likę sąrašelio žingsniai.

Aktas DI sistemas suskirsto į keturias rizikos pakopas. Draudžiamos praktikos pagal 5 straipsnį apima paslėptąją manipuliaciją, pažeidžiamų grupių išnaudojimą, viešųjų institucijų socialinio reitingavimo sistemas, neselektyvų veido vaizdų rinkimą, biometrinį kategorizavimą pagal jautrius požymius, realiu laiku vykdomą nuotolinį biometrinį atpažinimą viešose erdvėse (su siaurai apibrėžtomis teisėsaugos išimtimis) ir emocijų atpažinimą darbo bei švietimo aplinkoje [1]. Aukšto rizikos sistemos apibrėžtos 6 straipsnyje ir III priede ir apima aštuonias kategorijas: biometrija, kritinė infrastruktūra, švietimas ir profesinis mokymas, įdarbinimas ir darbuotojų valdymas, prieiga prie esminių viešųjų ir privačiųjų paslaugų (įskaitant kreditingumo vertinimą), teisėsauga, migracija ir sienų kontrolė, teismų administravimas ir demokratiniai procesai. Riboto rizikos sistemos paleidžia 50 straipsnio skaidrumo prievoles (pokalbių robotai, deepfake, DI generuojamas turinys). Minimalaus rizikos sistemoms specifinių Akto prievolių nėra, išskyrus savanoriškus elgesio kodeksus.

Klasifikavimo sprendimą kiekvienai sistemai dokumentuokite kartu su pagrindimu. Europos Komisijos DI biuras leidžia klasifikavimo gaires, ir tas dokumentas yra patikimas šaltinis, ne tiekėjų rinkodaros medžiaga [2].

Kiekvienai aukšto rizikos sistemai 9 straipsnis reikalauja rašytinės, nuolatinės ir iteracinės rizikos valdymo sistemos, veikiančios per visą sistemos gyvavimo ciklą. Ji turi nustatyti ir analizuoti numatomas rizikas sveikatai, saugai ir pagrindinėms teisėms, įvertinti rizikas, kurios gali atsirasti numatytame naudojime ir pagrįstai numatomame netinkamame naudojime, įvertinti kitas rizikas remdamasi poprodukcinio stebėjimo duomenimis, ir priimti tinkamas rizikos valdymo priemones.

RVS dokumentas nėra vienkartinis rezultatas. Jis sistemingai peržiūrimas ir atnaujinamas, o testavimas turi patikrinti, ar pasirinktos priemonės veikia atitinkamame eksploatacijos kontekste. Traktuokite jį kaip gyvą artefaktą, už kurį atsako įvardytas asmuo.

Mokymo, validavimo ir testavimo duomenys turi būti aktualūs, pakankamai reprezentatyvūs, be klaidų ir išsamūs atsižvelgiant į numatytą paskirtį. 10 straipsnis reikalauja dokumentuotų duomenų valdymo praktikų: dizaino sprendimai, duomenų rinkimo procesai, duomenų paruošimo operacijos (anotavimas, žymėjimas, valymas, praturtinimas, agregavimas), prielaidų formulavimas, prieinamumo išankstinis vertinimas, šališkumo, galinčio paveikti sveikatą, saugą ar pagrindines teises, tikrinimas ir reikšmingų duomenų spragų nustatymas su mažinimo priemonėmis.

Kai būtina, asmens duomenų specialių kategorijų tvarkymas leidžiamas pagal 10 straipsnio 5 dalį šališkumui aptikti ir ištaisyti, taikant tinkamas apsaugos priemones. Dokumentuokite kiekvieną pasirinkimą; atitikties vertinimas be to nepraeis.

Techninė dokumentacija turi būti parengta prieš pateikiant sistemą rinkai ir nuolat atnaujinama. IV priede nustatytas minimalus turinys: bendras sistemos aprašymas, detalus dizainas ir architektūra, stebėjimas ir kontrolė, validavimo ir testavimo duomenys ir procedūros, vertinimo rezultatai, įskaitant metrikas ir žinomus apribojimus, kibernetinio saugumo priemonės, pakeitimų valdymo procedūros ir ES atitikties deklaracija.

MVĮ ir startuoliai gali naudoti supaprastintą IV priedo formą, kurią pateiks DI biuras, tačiau pagrindinės prievolės nesikeičia. Dokumentaciją laikykite tokia forma, kurią nacionalinė kompetentinga institucija galėtų pareikalavusi perskaityti.

Aukšto rizikos sistemos visą savo gyvavimo laiką turi automatiškai įrašinėti įvykius (žurnalus) tokiu išsamumu, koks atitinka numatytą paskirtį. Žurnalai turi leisti nustatyti situacijas, dėl kurių sistema gali kelti riziką pagal 79 straipsnį, palengvinti poprodukcinį stebėjimą ir leisti naudotojo stebėjimą pagal 26 straipsnį. 12 straipsnio 3 dalis nuotolinio biometrinio atpažinimo sistemoms nustato specifinius minimalius žurnalų reikalavimus (naudojimo laikotarpis, etalono duomenų bazė, įvesties duomenys, identifikuojantys darbuotojai).

Nustatykite saugojimo terminą, proporcingą numatytai paskirčiai, bet ne trumpesnį kaip šeši mėnesiai, jei kita Sąjungos ar nacionalinė teisė nenustato kitaip.

Aukšto rizikos sistemos turi būti suprojektuotos taip, kad naudotojai galėtų interpretuoti rezultatus ir tinkamai juos naudoti. Prie jų turi būti pridėtos glaustos, išsamios, tikslios ir aiškios naudojimo instrukcijos, kuriose nurodyta: tiekėjo tapatybė, sistemos charakteristikos ir numatyta paskirtis, tikslumo ir patikimumo lygis, numatomos aplinkybės, galinčios kelti riziką, techninės galimybės ir charakteristikos, susijusios su rezultatų aiškinimu, veikimas konkrečių asmenų ar grupių atžvilgiu, įvesties duomenų reikalavimai, žmogaus priežiūros priemonės, numatomas eksploatavimo laikas ir būtina priežiūra.

Riboto rizikos sistemoms 50 straipsnis nustato papildomas skaidrumo prievoles: vartotojai turi būti informuojami, kad bendrauja su DI sistema, DI sukurtas sintetinis turinys turi būti identifikuojamas kaip toks mašininiu būdu, deepfake turi būti atskleidžiami.

Aukšto rizikos sistemos turi būti suprojektuotos taip, kad jas naudojant fiziniai asmenys galėtų vykdyti veiksmingą priežiūrą. Priežiūros priemonės turi leisti paskirtam asmeniui: suprasti atitinkamas sistemos galimybes ir apribojimus, žinoti automatizavimo šališkumą, teisingai interpretuoti rezultatą, nuspręsti nenaudoti sistemos arba kitaip nepaisyti, panaikinti ar atšaukti rezultato, ir įsikišti, kad veikimas būtų sustabdytas mygtuku ar panašia procedūra.

Nuotoliniam biometriniam atpažinimui pagal III priedo 1(a) punktą jokio veiksmo ar sprendimo negalima priimti remiantis identifikavimu, jei jo nepatikrino ir nepatvirtino bent du atitinkamą kompetenciją, mokymą ir įgaliojimus turintys fiziniai asmenys.

15 straipsnis reikalauja, kad aukšto rizikos sistemos, atsižvelgiant į jų numatytą paskirtį, pasiektų tinkamą tikslumo, patikimumo ir kibernetinio saugumo lygį ir veiktų nuosekliai per visą gyvavimo ciklą. Tikslumo lygiai ir atitinkamos metrikos turi būti nurodytos naudojimo instrukcijose.

Patikimumas turi spręsti grįžtamojo ryšio kilpas, klaidas ir nenuoseklumus. Kibernetinis saugumas turi būti atsparus bandymams pakeisti naudojimą, elgesį ar veikimą, įskaitant duomenų užterštumą, modelio užterštumą, priešininkų pavyzdžius, modelio apėjimą ir konfidencialumo atakas. DI biuras kartu su ENISA rengia technines specifikacijas [3].

Prieš pateikdamas aukšto rizikos sistemą rinkai, tiekėjas turi atlikti atitikties vertinimą. Daugumai III priedo sistemų gali būti taikoma vidaus kontrolė pagal VI priedą. III priedo 1 dalies biometrinėms sistemoms turi būti taikoma notifikuotosios įstaigos procedūra pagal VII priedą, jei tiekėjas nepritaiko darniųjų standartų. Sėkmingo vertinimo rezultatas yra: ES atitikties deklaracija (47 str.), CE ženklo žymėjimas (48 str.) ir sistemos registracija ES duomenų bazėje (49 str.) prieš pradedant eksploatuoti. Viešojo sektoriaus naudotojai pagal 49 straipsnio 1a dalį atskirai registruoja savo naudojimą.

Tiekėjo prievolės nustatytos 16-26 straipsniuose ir apima kokybės valdymą, dokumentų saugojimą, automatiškai sukurtų žurnalų saugojimą, taisomuosius veiksmus, bendradarbiavimą su institucijomis ir prieinamumą.

Tiekėjai turi nustatyti dokumentuotą poprodukcinio stebėjimo sistemą, proporcingą DI technologijų pobūdžiui ir aukšto rizikos sistemos rizikoms. Planas yra techninės dokumentacijos dalis. Duomenys aktyviai ir sistemingai renkami, dokumentuojami ir analizuojami per visą sistemos gyvavimo laiką, ir tiekėjas vertina nuolatinį Akto reikalavimų laikymąsi.

73 straipsnis reikalauja pranešti apie rimtus incidentus tos valstybės narės, kurioje incidentas įvyko, rinkos priežiūros institucijai iš karto, kai tiekėjas nustato priežastinį ryšį arba pagrįstą jo tikimybę, ir ne vėliau kaip per 15 dienų po sužinojimo. Mirtis ar rimta žala paleidžia 10 dienų terminą. Plačiai paplitęs pažeidimas arba kritinės infrastruktūros sutrikimas paleidžia 2 dienų terminą.

Prieš diegdami III priede išvardytą aukšto rizikos sistemą (su ribotomis išimtimis), viešosios teisės reglamentuojamos įstaigos ir viešąsias paslaugas teikiantys privatūs subjektai, taip pat kreditingumo vertinimo arba gyvybės ir sveikatos draudimo rizikos vertinimo sistemų naudotojai turi atlikti Pagrindinių teisių poveikio vertinimą (FRIA). FRIA turi aprašyti: diegimo procesą, naudojimo laikotarpį ir dažnumą, fizinių asmenų, kurie gali būti paveikti, kategorijas, konkrečias žalas, pagrįstai galinčias kilti, žmogaus priežiūros priemones ir priemones, kurių bus imtasi, jei rizikos materializuotųsi.

FRIA rezultatas pranešamas rinkos priežiūros institucijai per DI biuro paskelbtą šabloną. Naują FRIA reikia atlikti, jei kuris nors elementas iš esmės pasikeičia.

• 2024 m. rugpjūčio 1 d. - Reglamentas įsigalioja.
• 2025 m. vasario 2 d. - 5 straipsnio draudžiamos praktikos pradeda taikyti, DI raštingumo prievolė (4 str.) taikoma tiekėjams ir naudotojams.
• 2025 m. rugpjūčio 2 d. - Bendrosios paskirties DI modelių prievolės (51-55 str.), valdysenos struktūra, sankcijos, notifikuojančiųjų institucijų ir notifikuotųjų įstaigų sistema.
• 2026 m. rugpjūčio 2 d. - Didžioji prievolių dalis pradeda taikyti, įskaitant 6 straipsnio 2 dalies ir III priedo aukšto rizikos sistemas, 26 straipsnio naudotojo prievoles, 27 straipsnio FRIA, 49 straipsnio ES duomenų bazės registraciją.
• 2027 m. rugpjūčio 2 d. - Prievolės taikomos aukšto rizikos DI sistemoms, kurios yra produktų, kuriems taikoma I priedo sektorių teisė, saugos komponentai.

Sankcijos yra pakopinės. Už 5 straipsnio draudimų pažeidimą skiriamos baudos iki 35 mln. eurų arba 7 % bendros pasaulinės metinės apyvartos, taikoma didesnė suma. Už daugumos kitų veiklos vykdytojo prievolių (16-26 str. tiekėjams, 26 str. naudotojams, 31, 33, 34 str. notifikuotosioms įstaigoms) pažeidimą skiriamos baudos iki 15 mln. eurų arba 3 % apyvartos. Už neteisingos, neišsamios ar klaidinančios informacijos pateikimą institucijoms skiriamos baudos iki 7,5 mln. eurų arba 1 % apyvartos. MVĮ ir startuolių riba skaičiuojama pagal mažesnę iš dviejų sumų.

Bendrosios paskirties DI modelių tiekėjams pagal 101 straipsnį taikomas atskiras režimas su 15 mln. eurų arba 3 % apyvartos riba.