La Llei de la Intel·ligència Artificial en la UE: un ampli marc per a la regulació de la IA

La revolució industrial i digital ha transformat significativament gairebé tots els aspectes de les nostres vides. Amb el avanç ràpid de les tecnologies d'intel·ligència artificial (IA), sorgeix la necessitat d'un marc regulador que abordi els desafiaments que plantegen aquestes aplicacions. La Unió Europea ha respost aquesta necessitat amb la Llei d'Intel·ligència Artificial (AI Act), una regulació pionera dissenyada per classificar i supervisar els sistemes d'IA. Aquest article explora els aspectes clau d'aquesta nova normativa, el seu procés legislatiu i les implicacions pràctiques per al desenvolupament i l'ús de la IA a la UE.

Procés legislatiu de l'AI Act

El camí cap a l'AI Act va començar el desembre del 2018, quan el Grup d'Experts d'Alt Nivell sobre IA va presentar un esborrany de les Directrius Ètiques per a una IA Fiable. Després d'anys de recerca i consultes, la Comissió Europea va publicar una proposta el 21 d'abril del 2021 titulada «Proposta de Reglament pel qual s'estableixen normes harmonitzades sobre la IA».

Fites clau en el procés legislatiu:

• Febrer 2020: Publicació del Llibre Blanc de la Comissió Europea
• Octubre 2020: Informe del Parlament Europeu sobre principis ètics, responsabilitat civil i propietat intel·lectual en relació amb la IA
• Juny 2023: Proposta de l'AI Act i començament de les negociacions entre institucions de la UE
• 13 de març del 2024: Adopció de l'AI Act pel Parlament Europeu

L'AI Act va entrar en vigor l'1 d'agost del 2024, amb la majoria de les seves disposicions aplicables dos anys després.

Objectius principals de l'AI Act

L'AI Act no és simplement un conjunt de restriccions, sinó un marc integral dissenyat per fomentar la innovació responsable a IA. Els principals objectius d'aquesta regulació són:

1. Garantir la seguretat i el compliment legal: Assegurar que els sistemes d'IA col·locats al mercat de la UE siguin segurs i respectin la legislació existent de la UE.
2. Proporcionar seguretat jurídica: Facilitar la inversió i la innovació en IA en establir un marc regulador clar i predictible.
3. Millorar la governança: Reforçar l'aplicació efectiva de la legislació de la UE sobre drets fonamentals i requisits de seguretat aplicables als sistemes d'IA.
4. Facilitar el desenvolupament del mercat únic: Promoure el desenvolupament d'aplicacions d'IA legals, segures i fiables, prevenint la fragmentació del mercat.

Lenfocament basat en el risc: classificació de sistemes dIA

Una de les característiques més notables de l'AI Act és el seu enfocament basat en el risc. Aquest enfocament classifica els sistemes de IA en quatre nivells, cadascun amb diferents requisits i obligacions:

1. Sistemes d'IA de risc inacceptable

Aquests sistemes estan prohibits per l'amenaça inacceptable que representen per als drets fonamentals de les persones. Inclouen:

• Sistemes que fan servir tècniques subliminals, manipuladores o enganyoses.
• Sistemes que exploten vulnerabilitats relacionades amb l'edat, la discapacitat o les circumstàncies socioeconòmiques.
• Sistemes de categorització biomètrica que infereixen atributs sensibles.
• Sistemes de puntuació social.
• Sistemes didentificació biomètrica remota en temps real en espais públics per a fins daplicació de la llei (amb excepcions limitades).

2. Sistemes d'IA d'alt risc

Aquests sistemes no estan prohibits, però han de complir requisits estrictes abans de la seva comercialització. Es consideren d'alt risc els sistemes d'IA utilitzats en àrees com ara:

• Infraestructura crítica
• Educació i formació professional
• Ocupació i gestió de treballadors
• Accés a serveis privats i públics essencials
• Aplicació de la llei
• Gestió de la migració, l'asil i el control de fronteres
• Administració de justícia i processos democràtics

3. Sistemes d'IA de Risc Limitat

Aquests sistemes tenen requisits específics de transparència. Per exemple, els chatbots han d'informar els usuaris que estan interactuant amb una IA.

4. Sistemes d'IA de Risc Mínim o Nul

La majoria de les aplicacions d'IA cauen en aquesta categoria i es poden utilitzar lliurement.

Requisits per a sistemes d'IA d'alt risc

Els proveïdors de sistemes d'IA classificats com d'alt risc han de complir una sèrie de requisits estrictes:

1. Avaluació i mitigació de riscos: Realitzar avaluacions exhaustives dels riscos potencials i implementar sistemes de mitigació.
2. Qualitat de les dades: Garantir la qualitat dels conjunts de dades utilitzades per reduir riscos i prevenir resultats discriminatoris.
3. Traçabilitat: Mantenir registres d'activitat detallats per garantir la traçabilitat dels resultats.
4. Documentació: Proporcionar documentació completa que contingui tota la informació necessària sobre el sistema i el seu propòsit per a l'avaluació reguladora.
5. Informació a l'usuari: Subministrar informació clara i completa a l'usuari o implementador del sistema.
6. Supervisió humana: Implementar mesures apropiades de supervisió humana per mitigar riscos.
7. Robustesa i seguretat: Garantir un alt nivell de robustesa, seguretat i precisió del sistema.

IA de propòsit general (GPAI)

L'AI Act també aborda els sistemes d'IA de propòsit general (GPAI), que són capaços de realitzar funcions generalment aplicables com a reconeixement d'imatges/veu, generació d'àudio/vídeo, detecció de patrons, resposta a preguntes, traducció, etc.

Per a aquests sistemes, la llei estableix requisits específics:

• Tots els proveïdors de models GPAI han de proporcionar documentació tècnica i instruccions dús.
• Han de complir la Directiva de Drets d'Autor.
• Estan obligats a publicar un resum sobre el contingut utilitzat per a l'entrenament del model.

Els proveïdors de models GPAI de codi obert només necessiten complir els requisits de drets d'autor i publicar el resum de dades d'entrenament, tret que presentin un risc sistèmic.

Per als models GPAI que presenten un risc sistèmic, ja siguin de codi obert o tancat, cal:

• Realitzar avaluacions de models
• Dur a terme proves adversàries
• Rastrejar i informar sobre incidents greus
• Garantir proteccions de ciberseguretat

Procés de conformitat i comercialització

Per als sistemes d'IA d'alt risc, el procés de conformitat i comercialització implica diversos passos:

1. Avaluació de conformitat: El sistema s'ha de sotmetre a una avaluació exhaustiva per garantir que compleix tots els requisits establerts a l'AI Act.
2. Compliment de requisits: El proveïdor ha d'assegurar-se que el sistema compleixi tots els requisits d'IA establerts a la regulació.
3. Registre: El sistema ha de ser registrat en una base de dades de la UE dissenyada per a aquest propòsit.
4. Declaració de conformitat: El proveïdor ha de signar una declaració de conformitat.
5. Marcat CE: El sistema d'IA ha de portar el marcatge CE, que indica la conformitat amb la regulació.

Només després de completar aquests passos, el sistema d'IA pot ser introduït al mercat de la UE.

És important destacar que la conformitat no és un procés únic. Al llarg del cicle de vida del sistema, s'ha de sotmetre a una avaluació continuada. Si hi ha canvis significatius, el sistema s'ha de sotmetre novament al procés d'avaluació de conformitat ia tots els passos subsegüents.

Implicacions pràctiques i desafiaments

La implementació de l'AI Act presenta tant desafiaments com oportunitats per a les empreses, desenvolupadors i usuaris d'IA:

1. Adaptació de processos: Les empreses i desenvolupadors hauran d'adaptar els seus processos de desenvolupament i comercialització per complir els nous requisits.
2. Inversió en compliment: Serà necessària una inversió significativa en recursos per garantir-ne el compliment, especialment per als sistemes d'alt risc.
3. Innovació responsable: L'AI Act fomenta la innovació responsable, cosa que podria portar al desenvolupament de sistemes d'IA més segurs i fiables.
4. Competitivitat global: Les empreses que compleixin amb l'AI Act podrien tenir un avantatge competitiu al mercat global, ja que la UE està establint un estàndard que podria influir en les regulacions d'altres regions.
5. Transparència i confiança: La implementació de l'AI Act podria augmentar la transparència i la confiança del públic en els sistemes d'IA, cosa que podria accelerar-ne l'adopció en diversos sectors.
   
   L'AI Act representa una fita significativa en la regulació de la intel·ligència artificial. En establir un marc integral per al desenvolupament i l'ús de sistemes d'IA, la UE està sentant les bases per a un futur en què la innovació tecnològica vagi de la mà amb la protecció dels drets fonamentals i la seguretat dels ciutadans.

Tot i que la implementació d'aquesta regulació presentarà reptes, també ofereix una oportunitat única perquè Europa lideri el camí en el desenvolupament ètic i responsable de la IA. A mesura que avancem cap a una era cada cop més definida per la intel·ligència artificial, l'AI Act servirà com un model crucial per equilibrar la innovació tecnològica amb la protecció dels valors fonamentals de la societat.

Les empreses, desenvolupadors i professionals del dret s'hauran de familiaritzar en profunditat amb aquestes noves normes per navegar amb èxit a l'emergent panorama regulatori de la IA a Europa. L'AI Act no només transformarà la manera com es desenvolupa i utilitza la IA a la UE, sinó que també podria influir significativament en els enfocaments reguladors d'altres regions del món.