ES DI akto atitikties vertinimas: kaip aukšto rizikos sistemos sertifikuojamos

Atitikties vertinimas yra dokumentuota procedūra, kuria įrodoma, kad aukšto rizikos DI sistema buvo suprojektuota ir sukurta laikantis septynių III skyriaus 2 skirsnio elementų: rizikos valdymas (9 str.), duomenys ir duomenų valdymas (10 str.), techninė dokumentacija (11 str.), žurnalų vedimas (12 str.), skaidrumas ir informacijos teikimas naudotojams (13 str.), žmogaus priežiūra (14 str.), bei tikslumas, atsparumas ir kibernetinis saugumas (15 str.) [1].

Vertinimas baigiasi trimis artefaktais: pasirašyta ES atitikties deklaracija pagal 47 straipsnį, prie sistemos arba lydinčios dokumentacijos pridedamas CE žymėjimas pagal 48 straipsnį ir registracijos įrašas aukšto rizikos DI sistemų ES duomenų bazėje pagal 49 straipsnį. Šie trys kartu yra vieša įrodymas, kad tiekėjas įvykdė projektavimo prievoles ir vykdo poprodukcinį stebėjimą pagal 72 straipsnį.

Atitikties vertinimas kartojamas, kai sistema patiria reikšmingą modifikaciją, apibrėžtą 3 straipsnio 23 dalyje kaip pakeitimas, nenumatytas tiekėjo pradiniame atitikties vertinime, kuris paveikia atitiktį arba pakeičia numatytą paskirtį. Įprasti atnaujinimai numatyto pasikeitimo ribose nesukelia pakartotinio vertinimo.

Aktas numato du kelius. VI priedas: vidaus kontrolė. Tiekėjas patikrina savo kokybės valdymo sistemą, ištiria techninę dokumentaciją ir patvirtina, kad projektavimo ir kūrimo procesas atitinka reglamentą - viskas be trečiosios šalies dalyvavimo. Šis kelias taikomas daugumai III priedo aukšto rizikos sistemų, jei tiekėjas pritaikė darniuosius standartus arba, kur standartų nėra, Komisijos priimtas bendras specifikacijas.

VII priedas: vertinimas notifikuotosios įstaigos. Notifikuotoji įstaiga, akredituota valstybės narės ir įtraukta į NANDO duomenų bazę, peržiūri kokybės valdymo sistemą ir techninę dokumentaciją, gali atlikti atitikties testus pačiai sistemai. VII priedas yra privalomas DI sistemoms, naudojamoms biometriniam identifikavimui pagal III priedo 1 punktą, kur tiekėjas nepritaikė darniųjų standartų. Tai taip pat yra numatytasis kelias DI saugos komponentams I priedo reguliuojamuose produktuose [3].

Kelio pasirinkimas turi būti dokumentuotas atitikties vertinimo plane prieš pradedant kurti. Notifikuotųjų įstaigų pajėgumai šiuo metu yra riboti, ir trijų-devynių mėnesių laukimo terminai yra realistiniai, tai turi tiesioginių programos valdymo pasekmių.

IV priedas išvardija devynis skyrius, kuriuos turi apimti techninė dokumentacija. Pirma, bendras DI sistemos aprašymas: numatyta paskirtis, tiekėjo informacija, versija, aparatinė įranga, programinė įranga, diegimo formos, naudojimo instrukcijos. Antra, detalus elementų ir kūrimo proceso aprašymas: projektavimo sprendimai, sistemos architektūra, skaičiavimo ištekliai, duomenų reikalavimai, mokymo metodologijos, validavimo ir testavimo procedūros. Trečia, stebėjimas, veikimas ir kontrolė: pajėgumai ir apribojimai, numatomos nenumatytos pasekmės, žmogaus priežiūros priemonės. Ketvirta, veiklos metrikos: tikslumas, atsparumas, sąžiningumo priemonės [3].

Penkta, rizikos valdymo sistema pagal 9 straipsnį. Šešta, duomenų ir duomenų valdymo praktikų aprašymas pagal 10 straipsnį. Septinta, pakeitimų valdymo procesas. Aštunta, taikyti darnieji standartai arba, kur taikomi iš dalies, alternatyvūs sprendimai. Devinta, ES atitikties deklaracijos kopija ir poprodukcinio stebėjimo planas. Paketas saugomas 10 metų nuo sistemos pateikimo rinkai pagal 18 straipsnį ir prireikus pateikiamas nacionalinėms institucijoms.

40 straipsnis nustato atitikties prezumpciją: DI sistema, atitinkanti darniuosius standartus, paskelbtus Oficialiame leidinyje, preziumuojama atitinkančia atitinkamus III skyriaus 2 skirsnio reikalavimus. Komisija pateikė standartizavimo užklausą CEN-CENELEC pagal JTC 21, ir pirmoji darniųjų standartų banga yra užbaigiama. Kol darnieji standartai nepaskelbti, tiekėjai gali taikyti Komisijos priimtas bendras specifikacijas pagal 41 straipsnį arba dokumentuoti lygiaverčius sprendimus.

Praktinė darniųjų standartų svarba yra ta, kad jie atveria VI priedo vidaus kontrolės kelią daugumai III priedo sistemų. Tiekėjas, kuris taiko standartus, gali pats sertifikuoti atitiktį. Tiekėjas, kuris jų netaiko, turi arba pagrįsti alternatyvą, arba naudoti notifikuotąją įstaigą. ISO/IEC 42001:2023, DI valdymo sistemos standartas, yra glaudžiai sekamas darniųjų standartų darbu ir vis dažniau naudojamas kaip pirkimo orientyras [5].

72 straipsnis reikalauja, kad aukšto rizikos sistemų tiekėjai nustatytų ir dokumentuotų poprodukcinio stebėjimo sistemą, kuri aktyviai ir sistemingai renka, dokumentuoja ir analizuoja atitinkamus duomenis apie sistemos veiklą per visą jos gyvavimą. Poprodukcinio stebėjimo planas yra techninės dokumentacijos dalis ir turi spręsti, kaip sistema bus vertinama III skyriaus 2 skirsnio prievolių atžvilgiu realiomis sąlygomis.

Rimti incidentai - apibrėžti 3 straipsnio 49 dalyje kaip gedimai ar naudojimas, vedantis į mirtį, didelę turto ar aplinkos žalą, didelį ir negrįžtamą kritinės infrastruktūros sutrikimą, pagrindinių teisių pažeidimą arba didelę žalą sveikatai - turi būti pranešti atitinkamai nacionalinei rinkos priežiūros institucijai pagal 73 straipsnį. Pranešimo terminas yra 15 dienų bendriems rimtiems incidentams, 10 dienų atvejams su mirtimi, 2 dienos incidentams su plačiu pažeidimu arba rimtu infrastruktūros sutrikimu.

Poprodukcinio stebėjimo planas turi įvardyti metrikas, duomenų rinkimo mechanizmą, peržiūros ritmą, atsakingą savininką ir trigerio sąlygas pakartotiniam atitikties vertinimui. Planai, kurie atideda operacinę specifikaciją "po diegimo", paprastai sukuria spragas, kurios išryškėja per pirmąjį reguliuotojo auditą.

Naudotojai neatlieka atitikties vertinimo - tai yra tiekėjo atsakomybė - bet jie turi prievoles, kurios sąveikauja su juo. 26 straipsnis reikalauja, kad naudotojai naudotų sistemą pagal naudojimo instrukcijas, paskirtų žmogaus priežiūrą fiziniams asmenims su reikiama kompetencija ir įgaliojimais, užtikrintų, kad įvesties duomenys yra aktualūs ir pakankamai reprezentatyvūs, stebėtų veiklą, saugotų žurnalus bent šešis mėnesius, informuotų darbuotojus ir jų atstovus, kur aukšto rizikos sistemos naudojamos darbo vietoje, atliktų pagrindinių teisių poveikio vertinimą pagal 27 straipsnį, kur taikoma, ir informuotų asmenis, paveiktus DI sprendimų, pagal 26 straipsnio 11 dalį.

Sutartinė tiekėjo ir naudotojo sąsaja turi aiškiai paskirstyti šias atsakomybes. Gerai parengta pagrindinė paslaugų sutartis įvardija tiekėją, atsakingą šalį už kiekvieną IV priedo skyrių, įtraukia poprodukcinio stebėjimo duomenų grįžtamąjį ryšį tiekėjui ir nustato audito teises bei nutraukimo trigerius, susietus su atitikties būkle.

Penki darbo srautai apima pasirengimo plotą. Pirmas, atitikties vertinimo planas: kelio pasirinkimas (VI vs VII priedas), notifikuotosios įstaigos atranka, jei reikia, etapai, savininkai, įrodymų grafikas. Antras, duomenų valdymo aprašas: mokymo duomenų šaltiniai ir kilmė, validavimo ir testavimo padaliniai, šališkumo vertinimas, specialių kategorijų tvarkymas, duomenų saugojimo politika. Trečias, techninės dokumentacijos paketas: gyvas dokumentas, kuris auga kartu su kūrimu.

Ketvirtas, žmogaus priežiūros dizainas: ne UI sluoksnis, o architektūrinis apribojimas, kuris formuoja, kuriuos sprendimus priima modelis, kuriuos žmogus, ir kokie pakeitimo keliai egzistuoja. Penktas, poprodukcinio stebėjimo planas: metrikos, savininkai, peržiūros ritmas, incidentų pranešimo procedūra, mokymo iš naujo trigerio.

Platesniam klasterio kontekstui žr. DI akto apžvalga, rizikos klasifikacija, DI aktas Lietuvoje. Metodologijai žr. TRACE.

Pasikartoja penki modeliai. Tiekėjas, kuris atideda atitikties vertinimo planą "po bandomojo" - darbo negalima pigiai pritaikyti vėliau, nes projektavimo sprendimai, kurie veda atitiktį, vyksta architektūros laiku. Tiekėjas, kurio rizikos valdymo dokumentacija yra bendra ir nesusieta su konkrečia III priedo sritimi. Tiekėjas, kurio duomenų valdymo aprašas traktuoja 10 straipsnį kaip kontrolinį sąrašą, o ne kaip projektavimo apribojimą, paliekant mokymo duomenų kilmę ir šališkumo vertinimą plonus. Tiekėjas, kurio žmogaus priežiūros dizainas yra UI sluoksnis, o ne architektūrinė savybė. Tiekėjas, kurio poprodukcinio stebėjimo planas baigiasi diegimu.

Tarptautinių atsiskaitymų banko 2024 m. dokumentas apie generatyvinį DI finansuose iš priežiūros pusės aprašo panašius modelius ir yra naudinga kryžminė nuoroda finansų sektoriaus pirkėjams [8]. Ta pati pamatinė problema - atitikties darbas, traktuojamas kaip dokumentacijos pratimas, o ne kaip inžinerinis apribojimas - veda dauguma audito išvadų.