Què han de saber les empreses sobre el projecte de llei per al bon ús i la governança de la IA?
La intel·ligència artificial ha deixat de ser una promesa de futur per convertir-se en una eina quotidiana en empreses, administracions i llars. Generem textos, analitzem dades, automatitzem processos i creem imatges amb una facilitat impensable fa a penes uns anys. Però com més gran és el poder d’una tecnologia, més gran és també la necessitat d’establir límits i garanties.
Amb aquest objectiu, el Consell de Ministres del Govern d’Espanya ha aprovat el Projecte de Llei per al bon ús i la governança de la Intel·ligència Artificial, una norma que adapta el marc espanyol al Reglament Europeu d’IA (AI Act) i que ara haurà de continuar la seva tramitació parlamentària. La llei busca garantir una IA ètica, transparent i supervisada per persones, alhora que estableix un règim sancionador que pot assolir els 35 milions d’euros o el 7% de la facturació global d’una empresa.
La principal novetat de la norma és que la confiança deixa de ser una recomanació per convertir-se en una exigència. El text estableix que determinats sistemes d’IA, especialment aquells considerats d’alt risc, hauran de comptar amb supervisió humana efectiva i mecanismes que permetin garantir el respecte als drets fonamentals de les persones.
Això afecta especialment àmbits sensibles com l’ educació, la justícia, els serveis públics, la selecció de personal o qualsevol procés automatitzat que pugui influir significativament en la vida dels ciutadans. La idea és senzilla: les decisions importants no poden quedar exclusivament en mans d’un algoritme.
Per a les organitzacions, això suposa incorporar criteris de governança, traçabilitat i supervisió en qualsevol projecte d’ IA que tingui impacte sobre persones.
Un dels aspectes més visibles de la nova regulació és l’obligació d’identificar clarament els continguts generats o manipulats mitjançant intel·ligència artificial. Imatges, vídeos o àudios creats amb IA hauran d’ estar adequadament etiquetats per evitar enganys o confusions. La norma contempla fins i tot la utilització de marques identificatives o «marques d’aigua» que permetin reconèixer l’origen artificial de determinats continguts.
La regulació presta especial atenció als denominats deepfakes, és a dir, continguts audiovisuals hiperrealistes creats mitjançant IA que poden fer creure que una persona ha dit o fet alguna cosa que mai va ocórrer. La llei prohibeix expressament els deepfakes de caràcter sexual i endureix les mesures de protecció enfront d’usos que vulnerin la intimitat, la dignitat o la reputació de les persones.
Per a les empreses, la conclusió és clara: la transparència ja no serà una qüestió reputacional, sinó també una obligació legal.
La norma no es limita a regular; també estableix línies vermelles. Entre les pràctiques prohibides es troben aquelles que utilitzen tècniques subliminars o manipuladores per alterar el comportament de les persones sense el seu coneixement, així com sistemes que explotin vulnerabilitats relacionades amb l’ edat, la discapacitat o determinades situacions personals.
També queden vetats determinats sistemes de classificació biomètrica que pretenguin categoritzar les persones per motius ideològics, religiosos, racials o relacionats amb l’orientació sexual, així com models de «puntuació social» similars als que s’han debatut en altres països.
A més, es reforça la protecció dels menors enfront d’aplicacions potencialment perjudicials, incloent determinades joguines intel·ligents o sistemes dissenyats per fomentar conductes addictives.
La regulació envia un missatge inequívoc: no tot el que la tecnologia permet serà legalment acceptable.
El règim sancionador és un dels elements més contundents de la llei. Les infraccions més greus podran ser castigades amb multes de fins a 35 milions d’ euros o el 7% del volum de negoci global anual de l’ empresa infractora. Les infraccions relacionades amb sistemes d’alt risc podran assolir els 15 milions d’euros o el 3% de la facturació, mentre que les lleus podran arribar fins als 500.000 euros.
La supervisió recaurà en diferents autoritats competents, entre elles l’Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA) i altres organismes especialitzats segons l’àmbit d’aplicació. A més, la norma estableix mecanismes de governança i control per garantir el compliment efectiu de les obligacions previstes.
Més enllà de la quantia econòmica, aquestes sancions reflecteixen la importància que les institucions europees i espanyoles concedeixen a l’ ús responsable de la IA.
La pregunta ja no és si usar IA, sinó com fer-ho
La nova legislació no pretén frenar la innovació. Al contrari, busca generar un marc de confiança que permeti aprofitar el potencial de la intel·ligència artificial minimitzant els seus riscos. El repte per a les organitzacions no serà únicament incorporar IA als seus processos, sinó fer-ho amb criteris d’ ètica, transparència, supervisió humana i compliment normatiu.
Perquè en la pròxima dècada no destacaran únicament les empreses que utilitzin intel·ligència artificial. Destacaran aquelles que siguin capaces d’ utilitzar-la de forma responsable i generar confiança en clients, empleats i societat.
La tecnologia pot automatitzar decisions. La confiança, en canvi, continua sent profundament humana.
Nacho Martín
CEO i fundador de Whoop Coaching i Consulting.
Life Coach | Coach executiu | Coach d’equips i sistemes.
Mentor i desenvolupador de líders
Expert en Banca i finances | Transformació digital | Experiència global.