El passat 1 d’agost de 2024 va entrar en vigor la nova Llei Europea d’Intel·ligència Artificial. Una llei destinada a regular, dins de la Unió Europea, la intel·ligència artificial, una de les tecnologies més populars, controvertides i transformadores de la nostra època.
La tecnologia i la informàtica són àmbits en constant evolució. En general, vivim en un món cada vegada més digitalitzat, on les noves tecnologies poden marcar tendències en el comportament, les actituds o els costums de les persones. Una d’aquestes noves tecnologies és, clarament, la intel·ligència artificial (IA).
“La recerca en IA pot tenir repercussions irreversibles en la vida de l’espècie humana, per la qual cosa hem de trepitjar amb cautela” – Abhijit Naskar
L’evolució de la Intel·ligència Artificial
Probablement, moltes persones van conèixer per primera vegada la IA amb l’arribada de ChatGPT al mercat. La veritat és que va ser un punt d’inflexió important. No obstant això, la seva aparició va succeir alguns anys enrere. Com tota tecnologia, la intel·ligència artificial va començar amb alguns sistemes molt simples i a poc a poc va anar progressant fins a convertir-se en el que coneixem ara. En l’actualitat, la IA continua evolucionant, posicionant-se com una de les tecnologies globalment més destacades i amb un enorme potencial pel futur.
Actualment, la intel·ligència artificial és utilitzada en una gran varietat d’àmbits: medicina, automobilisme i transport, educació, etc. Les múltiples aplicacions i beneficis que comporta, i el fet de ser considerada una tecnologia de futur, la fan ser una disciplina molt interessant. Per aquest motiu, moltes persones, empreses i universitats estan apostant en la recerca, desenvolupament i aplicació d’aquest tipus de tecnologia.
No obstant això, la IA també comporta alguns desavantatges: biaixos, vulneració de la privacitat de les persones, desocupació, etc. En aquest sentit, els algorismes poden presentar uns certs biaixos, per la qual cosa es pot produir, directament o indirectament, discriminació cap a algunes persones o col·lectius. A més, l’ús incorrecte de la intel·ligència artificial pot vulnerar els drets, la privacitat i la protecció de dades de les persones en general. En aquest context, entra en vigor la nova Llei Europea d’Intel·ligència Artificial, necessària per a regular l’ús de la intel·ligència artificial i per a garantir els drets i el benestar de la població europea en general.
La nova Llei Europea d’Intel·ligència Artificial i el seu enfocament
La nova Llei Europea d’Intel·ligència Artificial és el primer reglament global sobre intel·ligència artificial en el món. La seva implementació té com a objectiu regular la IA dins de la Unió Europea (UE). Aquesta llei està destinada a fomentar l’adopció d’aquesta tecnologia, garantint, al mateix temps, els drets fonamentals de les persones. La regulació dels sistemes d’intel·ligència artificial proposta per aquesta nova llei està basada, principalment, en la finalitat d’aquests. Per tant, segons el nou reglament, la finalitat d’un sistema pot determinar la seva classificació depenent del risc que comporti.
Classificació dels Sistemes d’Intel·ligència Artificial segons el seu Risc
Risc inacceptable
Aquells sistemes que siguin considerats una clara amenaça per als drets fonamentals de les persones són catalogats com a sistemes de risc inacceptable. En aquest cas, tots ells queden prohibits per la nova Llei Europea d’Intel·ligència Artificial. Entre els més rellevants dins d’aquesta categoria, s’inclouen, per exemple:
- Els sistemes d’intel·ligència artificial capaços de manipular el comportament i la capacitat de lliure decisió de les persones.
- Alguns usos dels sistemes biomètrics. Per exemple, els sistemes de reconeixement d’emocions utilitzats en el lloc de treball, etc.
Risc alt
Aquest tipus de sistemes són aquells que comporten un risc elevat per als drets fonamentals de les persones. Per tant, la seva regulació és molt més estricta. En aquest sentit, aquests es veuran obligats a complir amb exigència uns certs requisits: conjunts de dades d’alta qualitat, estrictes mesures de ciberseguretat, documentació detallada, informació clara per a l’usuari, entre altres. Entren dins d’aquest grup, per exemple, els sistemes d’IA utilitzats per a la contractació de personal en empreses, etc.
Risc específic de transparència
Es tracta de sistemes d’intel·ligència artificial com, per exemple, els xatbots. Aquest tipus de sistemes han de deixar en clar als usuaris que estan interactuant amb una màquina. En aquest sentit, els continguts generats per IA han d’etiquetar-se com a tals, de manera que els usuaris siguin plenament conscients d’això.
Risc mínim
Aquest grup fa referència als sistemes d’intel·ligència artificial que tenen un risc mínim per als drets fonamentals de les persones. Per exemple, els filtres de correu no desitjat, els sistemes de recomanació basats en intel·ligència artificial, etc. Els sistemes d’IA inclosos en aquesta categoria no es veuen afectats per la nova Llei Europea d’Intel·ligència Artificial. Malgrat això, l’adopció voluntària de codis de conducta addicionals pot ser un extra útil i recomanable.
La regulació dels models d’intel·ligència artificial d’ús general
Els models d’intel·ligència artificial d’ús general són aquells sistemes que poden ser emprats per a una àmplia varietat de fins. Entren dins d’aquest grup, per exemple, els sistemes d’IA capaços de generar textos similars als dels humans, entre altres. No tenen una finalitat en concret i, per tant, no se’ls pot aplicar l’anterior classificació. En conseqüència, la nova Llei Europea d’Intel·ligència Artificial estableix unes certes obligacions específiques per a aquesta mena de sistemes. Així mateix, distingeix entre els models d’IA d’ús general que suposen un risc sistèmic i els que no, establint obligacions addicionals per als quals sí que presenten aquest tipus de risc.
Aplicació, terminis i pròxims passos de la Llei Europea d’Intel·ligència Artificial
Malgrat que la nova Llei Europea d’Intel·ligència Artificial va entrar en vigor el passat 1 d’agost de 2024, la data d’implementació pot variar segons els tipus de sistemes i regulacions que s’esmenten en la llei.
En general, la majoria de les normes proposades per la llei començaran a aplicar-se el 2 d’agost de 2026. No obstant això, per a algunes categories, aquesta data pot variar. Per exemple:
- Al cap de 6 mesos de l’entrada en vigor de la llei, hauran d’aplicar la normativa els sistemes d’intel·ligència artificial de risc inacceptable.
- Passats 9 mesos, serà necessari tenir ultimats els codis de bones pràctiques per a la IA de propòsit general.
- Després de 12 mesos, s’aplicaran les normes per als denominats models d’IA d’ús general.
- I transcorreguts 36 mesos des de la seva entrada en vigor, vencerà el límit de temps per al compliment d’algunes obligacions relacionades amb els sistemes d’IA d’alt risc.
Possibles sancions en el cas d’incomplir la nova la Llei Europea d’Intel·ligència Artificial
En particular, les empreses que incompleixin amb la nova normativa, s’enfrontaran a una sanció econòmica segons el següent criteri:
- Multes de fins al 7% del volum de negocis anual mundial per infraccions relacionades amb l’ús d’aplicacions d’IA prohibides.
- Sancions de fins al 3% del mateix per l’incompliment d’altres obligacions.
- Penalitzacions de fins a l’1,5% per proporcionar informació incorrecta.
Via | Unió Europea, Llei Europea d’Intel·ligència Artificial
