Čuvanje dokumentacije AI sustava: zahtjevi GDPR-a i EU AI Akta

Temeljno načelo GDPR-a je jasno: smanjite količinu podataka, obrišite ono što vam ne treba, ne čuvajte ništa dulje nego što je nužno. Poruka EU AI Akta jednako je jasna: dokumentirajte sve, vodite iscrpne evidencije i držite ih dostupnima regulatorima.

Tvrtkama koje AI sustave vode pod oba propisa ti suprotstavljeni zahtjevi stvaraju stvarnu napetost, a ona se nadovezuje na širu nesuglasicu opisanu u tekstu GDPR naspram EU AI Akta. Ovaj članak donosi praktične strategije za usklađivanje smanjenja količine podataka iz GDPR-a s obvezama dokumentiranja iz EU AI Akta.

U čemu je napetost

GDPR kaže:

• Smanjenje količine podataka (Art. 5(1)(c)): Obrađujte samo podatke koji su primjereni, relevantni i ograničeni na ono što je nužno
• Ograničenje pohrane (Art. 5(1)(e)): Osobne podatke čuvajte samo onoliko dugo koliko je potrebno za svrhu obrade
• Pravo na brisanje (Art. 17): Obrišite osobne podatke na zahtjev (uz iznimke)
• Ograničenje svrhe (Art. 5(1)(b)): Ne koristite podatke izvan svrhe za koju su prvotno prikupljeni

EU AI Akt kaže:

• Tehnička dokumentacija (Art. 11): Vodite iscrpnu dokumentaciju kroz cijeli životni ciklus AI sustava
• Vođenje evidencija (Art. 12): Automatsko logging bilježenje rada AI sustava radi sljedivosti
• Upravljanje podacima (Art. 10): Dokumentirajte obilježja podataka za treniranje, metode prikupljanja i mjere kvalitete
• Nadzor nakon stavljanja na tržište (Art. 72): Kontinuirano praćenje i dokumentiranje performansi sustava
• Rok čuvanja: Dokumentacija se mora čuvati 10 godina nakon što je visokorizični AI sustav stavljen na tržište, zbog čega ispravna klasifikacija rizika postaje korak koji namješta cijeli vaš sat čuvanja

Gdje sukob postaje stvaran

Evidencije o podacima za treniranje

EU AI Akt traži da dokumentirate podatke za treniranje: njihove izvore, obilježja, metode pripreme i procjene pristranosti. Ako ti podaci sadrže osobne podatke, GDPR nalaže da ih obrišete čim više nisu potrebni za prvotnu svrhu.

Problem: Smijete li obrisati podatke za treniranje, a zadržati dokumentaciju o njima? EU AI Akt traži da dokažete kvalitetu podataka i ublažavanje pristranosti, što može zahtijevati pristup stvarnim podacima, a ne samo metadata zapisima.

Operativni zapisi

EU AI Akt traži automatsko logging bilježenje rada AI sustava. Ti zapisi mogu sadržavati osobne podatke poput ulaznih vrijednosti, donesenih odluka i identifikatora korisnika. GDPR nalaže da se takvi osobni podaci svedu na najmanju mjeru i obrišu kada više nisu potrebni.

Problem: Koliko dugo treba čuvati operativne zapise? Dovoljno dugo za usklađenost s EU AI Aktom i regulatorni nadzor, ali ne toliko dugo da prekršite ograničenje pohrane iz GDPR-a?

Zahtjevi za brisanje

Kada pojedinac iskoristi svoje pravo na brisanje prema GDPR-u, njegove osobne podatke morate obrisati. No ako se ti podaci nalaze u zapisima AI sustava koje traži EU AI Akt, brisanje može stvoriti rupe u vašim evidencijama o usklađenosti.

Praktične strategije

Strategija 1: Odvojite dokumentaciju od podataka

Držite dokumentaciju prema EU AI Aktu (tehničke specifikacije, procjene rizika, rezultate testiranja) odvojeno od osobnih podataka na temelju kojih je nastala.

• Dokumentirajte obilježja podataka za treniranje (statistička svojstva, distribucije, reprezentativnost) umjesto da pohranjujete same podatke
• Za procjene pristranosti koristite anonimizirane ili agregirane sažetke umjesto da zadržavate podatke na razini pojedinca
• Čuvajte mjere performansi modela i rezultate testiranja bez zadržavanja testnih podataka

Strategija 2: Pseudonimizirajte operativne zapise

Obveze bilježenja iz EU AI Akta ne traže nužno identificiranje pojedinaca. Osmislite logging tako da hvata informacije potrebne za sljedivost bez osobnih identifikatora.

• U zapisima koristite pseudonimne identifikatore, a tablice pridruživanja pohranite odvojeno
• Kada stigne zahtjev za brisanje, obrišite pridruživanje, a zapisi ostaju korisni za usklađenost s EU AI Aktom i pritom više nisu osobni podaci
• Bilježite ponašanje AI sustava (ulaze, izlaze, ocjene pouzdanosti) bez bilježenja tko je pokrenuo pojedinu interakciju

Strategija 3: Odredite jasne rokove čuvanja

Izradite politiku čuvanja koja izričito obuhvaća oba propisa. Ona pripada uz rad na upravljanju podacima opisan u tekstu pet koraka do usklađenosti visokorizičnih sustava:

• Podaci za treniranje: Čuvajte ih za razdoblje validacije modela, zatim obrišite osobne podatke uz zadržavanje anonimiziranih statističkih sažetaka
• Operativni zapisi (pseudonimizirani): 10 godina (zahtjev EU AI Akta za visokorizične sustave)
• Tehnička dokumentacija: 10 godina nakon povlačenja sustava iz uporabe
• Podaci iz procjena pristranosti: Obrišite nakon procjene, zadržite anonimizirane rezultate
• Podaci o interakcijama korisnika: Najkraće nužno razdoblje, uz pseudonimizaciju za dulje čuvanje

Strategija 4: Projektirajte za brisanje od prvog dana

Gradite svoje AI sustave imajući na umu brisanje prema GDPR-u:

• Modularna arhitektura podataka: Odvojite osobne podatke od podataka AI sustava kako brisanje ne bi narušilo evidencije o usklađenosti
• Differential privacy: Trenirajte modele uz jamstva differential privacy tehnike kako se pojedinačne točke podataka ne bi mogle izvući iz modela
• Redoviti ciklusi ponovnog treniranja: Planirajte povremeno ponovno treniranje modela kako bi se zahtjevi za brisanje uključili u sljedeći ciklus

Strategija 5: Dokumentirajte svoje odluke o ravnoteži

Koji god pristup odabrali, dokumentirajte svoje razloge. Kada GDPR i EU AI Akt stvore stvarnu napetost, regulatori će htjeti vidjeti da ste:

• Prepoznali konkretan sukob
• Uzeli u obzir zahtjeve obaju propisa
• Odabrali pristup koji najbolje zadovoljava oba
• Uveli zaštitne mjere za smanjenje svakog negativnog učinka
• Odluku donijeli uz primjeren pravni i tehnički doprinos

Primjer politike čuvanja

Evo predloška politike čuvanja za AI sustave koji obuhvaća i GDPR i EU AI Akt:

• Osobni podaci za treniranje: Brišu se nakon treniranja i validacije modela. Statistički sažeci i izvješća o kvaliteti podataka čuvaju se 10 godina.
• Model artifacts: Čuvaju se za životni ciklus sustava i još 10 godina. Bez osobnih podataka u težinama modela (provjereno testiranjem privatnosti).
• Operativni zapisi: Pseudonimizirani već pri bilježenju. Čuvaju se 10 godina. Tablice pridruživanja brišu se po zahtjevu za brisanje.
• Zapisi o testiranju i validaciji: Anonimizirani rezultati testiranja čuvaju se 10 godina. Sirovi testni podaci brišu se nakon validacije.
• Procjene rizika: Čuvaju se 10 godina. Ažuriraju se pri svakoj znatnoj promjeni sustava.
• Zapisi o incidentima: Čuvaju se 10 godina. Osobni podaci pseudonimiziraju se u roku od 30 dana od rješavanja incidenta.

Ključna poruka

GDPR i EU AI Akt nisu nepomirljivi, ali traže promišljen dizajn. Tvrtke koje arhitekturu podataka od početka grade s oba propisa na umu usklađenost će doživjeti kao izvedivu. One koje ih tretiraju kao odvojene probleme završit će zaglavljene između proturječnih zahtjeva.

Treba vam pomoć u oblikovanju usklađene arhitekture podataka za vaše AI sustave? Javite nam se za konzultacije.

Česta pitanja

Koliko dugo zapise o AI sustavima zapravo treba čuvati?

Dovoljno dugo da zadovolje očekivanja sljedivosti kroz vijek sustava i nakon povlačenja, što se mjeri godinama, a ne mjesecima. Rok čuvanja pripada u pisanu politiku po vrsti artefakta, jer jedno paušalno pravilo ili predugo čuva osobne podatke ili prekratko dokaze.

Briše li zahtjev za brisanjem naše zapise o treniranju?

Obično ne u cijelosti. Pravo na brisanje odnosi se na osobne podatke, a ne na agregirane artefakte i dokumentaciju koju ste dužni zasebno čuvati. Izvediv dizajn od početka odvaja to dvoje, tako da udovoljavanje zahtjevu ne uništi vaše dokaze o usklađenosti.

Što zapisi trebaju sadržavati da bi poslije bili korisni?

Dovoljno za rekonstrukciju konkretne odluke: verziju modela, ulaze kakvi su tada bili, izlaz, vremensku oznaku i svako ljudsko nadjačavanje. Zapisi koji bilježe samo izlaz padaju na reviziji jer ne mogu odgovoriti zašto je sustav učinio to što jest.

Možemo li čuvati agregirano da izbjegnemo sukob?

Često možete, i to je ovdje najkorisnija pojedinačna tehnika. Agregati, sažeci i pseudonimizirani zapisi često zadovoljavaju sljedivost bez držanja podataka koji identificiraju osobu, no odluku treba donijeti prije prikupljanja, a ne naknadno.