El Govern d’Espanya ha presentat l’Avantprojecte de llei per al bon ús i la governança de la intel·ligència artificial (IA), una norma que vol regular com s’aplica aquesta tecnologia a l’Estat. Aquesta llei adapta el Reglament Europeu d’IA aprovat el 2023 i concreta com ha d’integrar-se en el nostre ordenament jurídic, establint obligacions clares tant per a empreses com per a organismes públics.
L’avantprojecte, actualment en fase de consulta pública, recull del Reglament Europeu la classificació de les aplicacions d’IA segons el nivell de risc que poden suposar per a la societat. Les de “risc inacceptable” queden prohibides: es tracta de sistemes que manipulen les persones o intenten deduir les seves emocions, raça o opinions polítiques. Les de “risc alt” —com les que s’utilitzen en educació, sanitat, ocupació o serveis públics essencials— es podran fer servir, però sota una supervisió estricta i amb requisits específics. Les de “risc baix” es podran utilitzar amb més llibertat. A més, es crearà un registre nacional per identificar els sistemes considerats d’alt risc.
Un dels temes més sensibles és l’ús del reconeixement facial en temps real. Només es permetrà en situacions molt concretes i greus, com ara la recerca de víctimes de delictes o la prevenció d’atemptats terroristes, i sempre amb autorització judicial. La sol·licitud haurà de justificar el motiu, a qui es vol identificar, on i durant quant de temps. Les autoritats hauran de respondre en un màxim de 48 hores. Sembla de pel·lícula de no fa tant de temps.
Un altre punt rellevant és l’obligació d’identificar clarament qualsevol contingut generat per IA, com textos, imatges o vídeos. Això vol dir que les persones hauran de saber si allò que veuen o llegeixen ha estat creat per una màquina. També caldrà informar si s’està sotmetent algú a sistemes que reconeixen emocions o utilitzen dades biomètriques.
Per garantir que es compleixi la llei, diversos organismes compartiran responsabilitats. L’Agència Espanyola de Supervisió de la Intel·ligència Artificial (Aesia) serà l’encarregada principal, mentre que altres entitats com l’Agència Espanyola de Protecció de Dades o la Junta Electoral Central assumiran funcions específiques segons l’àmbit. Qualsevol ciutadà podrà denunciar incompliments, fins i tot de manera anònima.
El règim sancionador és contundent per a les empreses: les multes poden arribar fins als 35 milions d’euros o el 7 % del volum de negoci global, segons la gravetat de la infracció. En canvi, si la infracció prové d’una autoritat pública, no s’imposen multes, sinó advertiments o altres mesures internes, cosa que ha generat crítiques per la manca de conseqüències reals justament quan l’administració és responsable.
Es preveu que la llei entri en vigor durant la primera meitat del 2025, tot i que algunes obligacions s’aplicaran a partir de l’agost, o més enllà. Per a les pimes, això implica que cal començar a conèixer bé les noves normes, especialment si fan servir eines basades en IA. Entendre què es pot fer, què està prohibit i com actuar d’acord amb la llei serà clau per evitar sancions i utilitzar aquesta tecnologia de manera segura i responsable.
