IA araudia

Azken eguneratzea: 09/12/2024

EBko EIren Europako Araudia da adimen artifizialari buruz munduan egin den lehen lege integrala. EIk osasunean, segurtasunean eta oinarrizko eskubideetan duen eragin negatibo nabarmena arintzea du helburu. Araudi honekin, Datuen Babeserako Araudiarekin gertatu zen bezala, Europar Batasuna eskubide digitaletan munduko liderra da, baina orain eremu berri batean: adimen artifizialean.

Erregelamenduak esparru uniformea ezartzen du EBko herrialde guztietan, adimen artifizialaren etorkizuneko definizioan eta arriskuan oinarritutako ikuspegian oinarrituta, eta teknologiaren erabilerak arautzen ditu, baina ez teknologia bera.

Arau-esparru hori EB barruko eta kanpoko eragile publiko zein pribatuei aplikatuko zaie, baldin eta adimen artifizialeko sistema Europar Batasuneko merkatuan sartzen bada edo haren erabilerak bertan kokatutako pertsonei eragiten badie.

Erregelamendu honen aplikazio-eremuan ez dira sartzen helburu militarretarako, defentsarako edo segurtasun nazionalerako bakarrik diseinatutako adimen artifizialeko sistemak, ez eta adimen artifizialeko sistema bat merkaturatu aurretik egiten diren ikerketa-, garapen- eta prototipo-jarduerak ere.

IAren Erregelamenduak hau ezartzen du:

  • EBn adimen artifizialeko sistemak merkaturatzeko, martxan jartzeko eta erabiltzeko arau bateratuak
  • Batasun inguruan EIren zenbait jarduera debekatzea.
  • Arrisku handiko EI-sistementzako berariazko betekizunak eta sistema horietako operadoreentzako betebeharrak.
  • Normas armonizadas de transparencia aplicables a determinados sistemas de IA de riesgo limitado.
  • Erabilera orokorreko EI-ereduak (arrisku sistemikokoak edo ez) merkatuan sartzeko arau bateratuak.
  • Merkatuaren jarraipenari, merkatuaren zaintzari, gobernantzari eta betetzeko bermeei buruzko arauak.
  • Lehen aldiz, Europako araudi batek berrikuntzari laguntzeko neurriak ere sartzen ditu, arreta berezia eskainiz ETE-ei, enpresa sortu berriei edo startup-ei barne.

Honako hauei aplikatuko zaie:

  • Hauek: hornitzaileak EBn erabilera orokorreko EI-sistemak edo EI-ereduak merkatuan sartzea edo martxan jartzea, EBn edo hirugarren estatu batean finkatuta dauden kontuan hartu gabe.
  • Hauek: hedapenaren arduradunak EBn ezarrita edo kokatuta dauden IA sistemei buruzkoa, edo IA sistemak sortutako irteera-emaitzak Batasunean erabiltzen direnean.
  • Hauek: inportatzaileak eta banatzaileak IA sistemena.
  • Hauek: produktu-fabrikatzaileak merkatuan EIko sistema bat sartzea edo martxan jartzea, beren produktuarekin eta beren izen edo markarekin batera.
  • Hauek: ordezkari baimenduak Batasunean kokatuta ez dauden hornitzaileena.
  • ... eragindako pertsonakEuropar Batasunean kokatuta egotea.

Arriskuen piramidea EIren Araudia

Araudiak arrisku-mailak EIren erabileraren arabera eta, detektatutako kategoriei buruz, betebehar batzuk ezartzen ditu.

Erregelamenduak IAko sistemen erabilera batzuk debekatzen ditu, Batasunarentzat onartezina den arriskua dakartelako. Oso erabilera multzo mugatua da, bereziki kaltegarriak, eta EBren balioen aurka egiten dute, oinarrizko eskubideak urratzen dituztelako eta pertsonen segurtasuna edo osasuna larriki kaltetzen dutelako. Hauek dira erabilera horiek:

  • Hauen hedapena: teknika subliminalak, manipulatzaileak edo engainagarriak portaera desitxuratzeko eta, kausa ezagututa, erabakiak hartzeari kalte egiteko, kalte nabarmena eraginez.
  • Ahuleziak ustiatzea adinarekin, desgaitasunarekin edo egoera sozioekonomikoekin zerikusia dutenak, portaera desitxuratzeko, kalte esanguratsuak eraginez.
  • Kategorizazio biometrikoko sistemak atributu sentikorrak (arraza, iritzi politikoak, afiliazio sindikala, sinesmen erlijiosoak edo filosofikoak, bizitza sexuala edo orientazio sexuala) ondorioztatzea, legez eskuratutako datu-multzo biometrikoak etiketatzea edo iragaztea edo segurtasun-indarrek datu biometrikoak kategorizatzea izan ezik.
  • Puntuazio soziala, hau da, gizabanakoak edo taldeak ebaluatzea edo sailkatzea portaera sozialetan edo ezaugarri pertsonaletan oinarrituta, pertsona horiei tratu kaltegarria edo kaltegarria eraginez.
  • Gizabanako batek delitu penalak egiteko arriskua ebaluatzeanortasunaren profil edo ezaugarrietan soilik oinarrituta, delituzko jarduerarekin zuzenean lotutako gertaera objektiboetan eta egiaztagarrietan oinarritutako giza ebaluazioak areagotzeko erabiltzen denean izan ezik.
  • Aurpegiak ezagutzeko datu-baseen konpilazioa Interneteko aurpegiko irudiak edo CCTVko grabazioak selektiboki karrakatuz.
  • ILantokietan edo ikastetxeetan emozioak sortzea, osasun edo segurtasun arrazoiengatik ez bada.
  • Urruneko identifikazio biometrikoa, "denbora errealean", segurtasun-indarrentzako gune publikoetan hauek izan ezik:
    • desagertutako pertsonak, bahiketen biktimak eta gizakien salerosketaren edo sexu-esplotazioaren biktimak bilatzea;
    • bizitzarako mehatxu funtsezko eta berehalakoa edo aurreikus daitekeen eraso terrorista prebenitzea; edo
    • delitu larrien susmagarriak identifikatzea (adibidez, hilketa, bortxaketa, armak erabiliz egindako lapurreta, estupefazienteen eta legez kanpoko armen trafikoa, delinkuentzia antolatua eta ingurumenaren aurkako delituak, etab.). ).

Batzordeak debekuei buruzko jarraibideak argitaratuko ditu, 2025eko otsailaren 2an indarrean jarri baino lehen.

Araudiaren zatirik handiena arrisku handiko EI-sistemak (HRAIS ere esaten zaie) arautzera bideratuta dago.High Risk AI Systems), EBko Oinarrizko Eskubideen Gutunean jasota dauden pertsonen osasuna, segurtasuna edo oinarrizko eskubideak kaltetu ditzaketenak. Bi kategoriatan banatzen dira:

  1. SIS II sisteman jasotako produktuen segurtasun-osagaiak sektoreko legedia Europar Batasunekoak, Europar Batasunaren ebaluazio baten mende badaude. hirugarrenen adostasuna sektore-legeria horren arabera (AAren Araudiko I. eranskinean jasoak).
  2. Zortzi eremu espezifikotako IA sistemak, IA Erregelamenduaren III. eranskinean bildutakoak, honako hauek:
    • Biometria ez debekatua: Segurtasun-sistemak identifikazio biometriko urrunekoa, pertsona bat dela adierazten duen egiaztapen biometrikoa alde batera utzita. Sistemas de categorización biométrica que infieren atributos o características sensibles o protegidos. Segurtasun-sistemak emozioak ezagutzea.
    • Azpiegitura kritikoak: Segurtasun osagaiak azpiegitura digital kritikoak, ibilgailuen trafikoa eta ur-, gas-, berokuntza- eta elektrizitate-hornidura kudeatzea eta ustiatzea.
    • Hezkuntza eta lanbide-heziketa: Prozesua zehazten duten IA sistemak sarbidea, onartzea edo esleitze hezkuntza-erakundeei eta profesionalak prestatzeko erakundeei, maila guztietan. Ebaluazioa. -en ikaskuntzaren emaitzak, ikaslearen ikasketa prozesua zuzentzeko erabilitakoak barne. Hezkuntza-maila ebaluatzea norbanako batentzat egokia. Ikuskapena eta debekatutako jokaerak detektatzea ikasleek azterketa garaian.
    • Enplegua, langileen kudeaketa eta autoenplegurako sarbidea: Honetarako erabiltzen diren IA sistemak: erreklutamendu o hautaketa, bereziki enplegu-iragarki espezifikoak, eskaeren azterketa eta iragazketa, eta hautagaien ebaluazioa. Sustapena eta deuseztapena kontratuak, eginkizunak nortasunaren edo ezaugarrien eta portaeraren arabera esleitzea, eta etekin.
    • Oinarrizko zerbitzu publiko eta pribatuak eskuratzea eta erabiltzea: Agintari publikoek prestazioak eta zerbitzuak jasotzeko eskubidea ebaluatzeko erabiltzen dituzten IAko sistemak, esleitzea, murriztea, ezeztatzea edo berreskuratzea. Kaudimenaren ebaluazioa, finantza iruzurrak detektatzeko izan ezik. Larrialdi-deien ebaluazioa eta sailkapena, poliziaren, suhiltzaileen, laguntza medikoaren eta larrialdiko pazienteen bereizketa-zerbitzuen bidalketei lehentasuna ematea barne. Ebaluazioa. arriskuak eta tarifak osasun- eta bizi-aseguruak.
    • Legea aplikatzea: Prozesua ebaluatzeko erabiltzen diren IAko sistemak arrisku pertsona bat bihurtu delitu baten biktima. Poligrafoak. Ebaluazioa proben fidagarritasuna ikerketetan edo prozesu penaletan. Arrisku-ebaluazioa: delinkuentzia edo berrerortzea honetan bakarrik oinarritzen ez den pertsona profilak egitea edo aurreko nortasun-ezaugarriak edo delitu-portaerak ebaluatzean. Atxiloketetan, ikerketetan edo zigor-auzipetzeetan profilak egitea.
    • Migrazioaren, asiloaren eta mugetako kontrolaren kudeaketa: Poligrafoak. Hauen ebaluazioak: migrazio irregularra edo osasun-arriskuak. Azterketa asilo-eskaerak, bisak eta bizileku-baimenak, eta onargarritasunarekin lotutako erreklamazioak. Detekzioa, pertsonak ezagutzea edo identifikatzea, bidaia-agiriak egiaztatzea izan ezik.
    • Jurisdikzio-jarduera eta prozesu demokratikoak: Erabilitako IA sistemak gertakariak ikertzea eta interpretatzea eta legea egitate zehatzei edo gatazkei beste konponbide bat ematea. Eragina -en hauteskundeen emaitzak eta erreferendumak edo hauteskunde-portaeran, pertsonekin zuzenean elkarreragiten ez duten produktuak alde batera utzita, hala nola kanpaina politikoak antolatu, optimizatu eta egituratzeko erabilitako tresnak.

    3. Arrisku handiko sistemek baldintza jakin batzuk bete behar dituzte, eta betebehar espezifikoak ezartzen zaizkie bai hornitzaileei, bai sistemak hedatzeko arduradunei.

Adimen artifizialeko sistema jakin batzuetarako (adibidez, manipulatzeko arrisku argia dagoenean, elkarrizketa-robotak erabiliz) edo ultrafalsifikaziorako, IAren Araudiak gardentasun-betebehar espezifikoak ezartzen ditu, erabiltzaileak jabetu daitezen makina batekin elkarreraginean ari direla.

Adimen artifizialeko gainerako sistema gehienak indarreko legediaren arabera programatu eta erabil daitezke, bestelako betebehar juridikorik gabe. Sistema horien hornitzaileek, beren borondatez, adimen artifizialaren baldintzak aplikatzea eta jokabide-kode fakultatiboei atxikitzea aukera dezakete. Adibidez, bideojokoetako IAko aplikazioak edo posta elektronikorako spam-iragazkiak.

Arrisku handiko EI-sistemek bete beharreko betebehar batzuk ezartzen ditu Erregelamenduak:

Arriskuak Kudeatzeko Sistema

Arrisku handiko EI-sistema baten hornitzaileak hau egin beharko du: arriskuak kudeatzeko sistema bat ezartzea, aplikatzea, dokumentatzea eta mantentzea. Mehatxuak identifikatu eta baloratuko dira, arintze-neurriak hartuko dira, eta haien eraginak monitorizatuko dira, sistemaren bizi-ziklo osoan zehar luzatuko den etengabeko hobekuntza-ziklo batean.

Datuak eta Datuen Gobernantza

Ereduak datuekin entrenatzeko teknikak erabiltzen dituzten arrisku handiko EI-sistemak garatzeko, entrenamenduko, balidazioko eta probako datu-multzoak erabiliko dira. Datu-multzo horiek gobernantzako eta datuak kudeatzeko jardunbide egokien mende egongo dira. Praktika horien artean, honako hauek nabarmentzen dira:

  • Aukeratu bat diseinu egokia.
  • Hauek hartu biltzeko prozesu egokiak datuena.
  • Datuak tratatzeko eragiketa egokiak, hala nola idatzoharra, etiketatzea, araztea, aberastea eta eranstea.
  • Litezkeenak aztertzea eta araztea alborapenak.
  • Aurretiko ebaluazioa: dataset-en erabilgarritasuna, kopurua eta egokitzapena beharrezkoak.

Dokumentazio teknikoa

Hornitzaileek hau egin behar dute erabiltzaileei eta agintariei IA sistemaren dokumentazio teknikoa ematea.. Dokumentazioak azaltzen ari garen Araudiaren baldintzak betetzen direla frogatuko du, eta nola egiaztatu azalduko du. AIAk AA sistema batek eman beharko duen gutxieneko informazioa deskribatzen du.

Erregistroak

Sistemek etengabe sortuko dute erregistroak edo logak, behar dute trazabilitate-maila bermatzea aurreikusitako helbururako egokia den funtzionamendua.

Gainera, sistemaren bizitza osoan, sistemak normal funtzionatzen duela eta Erregelamenduaren xedapenak betetzen dituela ziurtatzeko ebidentziak jaso eta aztertuko dira, merkaturatu ondorengo monitorizazioa.

Gardentasuna eta erabiltzaileei informazioa jakinaraztea

Sistemak diseinatzean, erabiltzaileei bermatu behar zaie behar bezain garden funtzionatzen dutela, hau da, behar bezala ulertzeko eta erabiltzeko moduan. Sistemarekin, hornitzaileak erabilera-jarraibideak eman beharko ditu, erabiltzaileentzat egokia, eskuragarria eta ulergarria den informazio labur, oso, zuzen eta argiarekin.

Giza zaintza

Sistemak diseinatu eta garatzeko orduan, erabilera pertsona fisikoek gainbegiratu ahal izatea. Zaintza horrek prebenitu edo minimizatu egin behar ditu osasunerako, segurtasunerako edo oinarrizko eskubideetarako sor daitezkeen arriskuak, bai HRAIS sistema aurreikusitako helburuarekin bat etorriz erabiltzen bada, bai aurreikusi daitekeen erabilera desegokia ematen bazaio, batez ere arrisku horiek irauten dutenean, gainerako baldintzak aplikatu arren.

Doitasuna, sendotasuna eta zibersegurtasuna

Arrisku handiko EI-sistemak diseinatu, garatu eta mantendu egingo dira, aurreikusitako helburuaren arabera emaitzen zehaztasun-maila egokia. Erabilera-jarraibideek adieraziko dituzte doitasun-mailak eta doitasun-parametro egokiak.

Sistemek erresilientzia-maila egoki sistemek edo horiek funtzionatzen duten inguruneak dituzten mugen aurrean (adib. adibidez, erroreak, hutsegiteak, inkoherentziak edo ustekabeko egoerak.

Sistemak diseinatzeko orduan, kontuan izan behar da sistemaren ahultasunak aprobetxatzeko hirugarrenen saiakeren aurrean erresistenteakbatez ere, EI-sistemen ahultasun espezifikoena, hala nola sortzen dituzten irteerak manipulatzeko entrenamendu-datuak nahita hondatzea.

EBko merkatuan arrisku handiko adimen artifizialeko sistema bat merkaturatu aurretik, hornitzaileak onespenaren ebaluazioa egin beharko diote, edo bestela, autoebaluazioa. Horri esker, beren sistemak konfiantzazko adimen artifizial baten betebeharreko baldintzak betetzen dituela frogatu ahal izango dute. Horrez gain, honako betebehar hauek ere bete behar dituzte:

  • Kalitatea kudeatzeko sistema bat izatea
  • Sistemaren dokumentazioa mantentzea
  • Jarduera-erregistroak zaintzea
  • Agintariekin elkarlanean aritzea, arauak betetzen direla frogatuz, eta detektatutako ez-betetzeak eta arriskuak jakinaraziz.

... erabiltzaileen betebeharrak (hedapenaren arduradunak, araudiaren nomenklaturaren arabera) hauek dira: giza ikuskapena, sistemak monitorizatzea, erregistroak gordetzea eta agintariekin lankidetzan aritzea.

... Inportatzaileen eta banatzaileen betebeharrak hauek dira: dokumentazio teknikoa gordetzea, produktuek onespen-ebaluazioa gainditu dutela ziurtatzea, eta agintariekin lankidetzan aritzea.