¿Qué deben saber las empresas sobre el proyecto de ley para el buen uso y la gobernanza de la IA?
La inteligencia artificial ha dejado de ser una promesa de futuro para convertirse en una herramienta cotidiana en empresas, administraciones y hogares. Generamos textos, analizamos datos, automatizamos procesos y creamos imágenes con una facilidad impensable hace apenas unos años. Pero cuanto mayor es el poder de una tecnología, mayor es también la necesidad de establecer límites y garantías.
Con este objetivo, el Consejo de Ministros del Gobierno de España ha aprobado el Proyecto de Ley para el buen uso y la gobernanza de la Inteligencia Artificial, una norma que adapta el marco español al Reglamento Europeo de IA (AI Act) y que ahora deberá continuar su tramitación parlamentaria. La ley busca garantizar una IA ética, transparente y supervisada por personas, al tiempo que establece un régimen sancionador que puede alcanzar los 35 millones de euros o el 7% de la facturación global de una empresa.
La principal novedad de la norma es que la confianza deja de ser una recomendación para convertirse en una exigencia. El texto establece que determinados sistemas de IA, especialmente aquellos considerados de “alto riesgo”, deberán contar con supervisión humana efectiva y mecanismos que permitan garantizar el respeto a los derechos fundamentales de las personas.
Esto afecta especialmente a ámbitos sensibles como la educación, la justicia, los servicios públicos, la selección de personal o cualquier proceso automatizado que pueda influir significativamente en la vida de los ciudadanos. La idea es sencilla: las decisiones importantes no pueden quedar exclusivamente en manos de un algoritmo.
Para las organizaciones, esto supone incorporar criterios de gobernanza, trazabilidad y supervisión en cualquier proyecto de IA que tenga impacto sobre personas.
Uno de los aspectos más visibles de la nueva regulación es la obligación de identificar claramente los contenidos generados o manipulados mediante inteligencia artificial. Imágenes, vídeos o audios creados con IA deberán estar adecuadamente etiquetados para evitar engaños o confusiones. La norma contempla incluso la utilización de marcas identificativas o “marcas de agua” que permitan reconocer el origen artificial de determinados contenidos.
La regulación presta especial atención a los denominados deepfakes, es decir, contenidos audiovisuales hiperrealistas creados mediante IA que pueden hacer creer que una persona ha dicho o hecho algo que nunca ocurrió. La ley prohíbe expresamente los deepfakes de carácter sexual y endurece las medidas de protección frente a usos que vulneren la intimidad, la dignidad o la reputación de las personas.
Para las empresas, la conclusión es clara: la transparencia ya no será una cuestión reputacional, sino también una obligación legal.
La norma no se limita a regular; también establece líneas rojas. Entre las prácticas prohibidas se encuentran aquellas que utilizan técnicas subliminales o manipuladoras para alterar el comportamiento de las personas sin su conocimiento, así como sistemas que exploten vulnerabilidades relacionadas con la edad, la discapacidad o determinadas situaciones personales.
También quedan vetados determinados sistemas de clasificación biométrica que pretendan categorizar a las personas por motivos ideológicos, religiosos, raciales o relacionados con la orientación sexual, así como modelos de “puntuación social” similares a los que se han debatido en otros países.
Además, se refuerza la protección de los menores frente a aplicaciones potencialmente perjudiciales, incluyendo determinados juguetes inteligentes o sistemas diseñados para fomentar conductas adictivas.
La regulación envía un mensaje inequívoco: no todo lo que la tecnología permite será legalmente aceptable.
El régimen sancionador es uno de los elementos más contundentes de la ley. Las infracciones más graves podrán ser castigadas con multas de hasta 35 millones de euros o el 7% del volumen de negocio global anual de la empresa infractora. Las infracciones relacionadas con sistemas de alto riesgo podrán alcanzar los 15 millones de euros o el 3% de la facturación, mientras que las leves podrán llegar hasta los 500.000 euros.
La supervisión recaerá en distintas autoridades competentes, entre ellas la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) y otros organismos especializados según el ámbito de aplicación. Además, la norma establece mecanismos de gobernanza y control para garantizar el cumplimiento efectivo de las obligaciones previstas.
Más allá de la cuantía económica, estas sanciones reflejan la importancia que las instituciones europeas y españolas conceden al uso responsable de la IA.
La pregunta ya no es si usar IA, sino cómo hacerlo
La nueva legislación no pretende frenar la innovación. Al contrario, busca generar un marco de confianza que permita aprovechar el potencial de la inteligencia artificial minimizando sus riesgos. El reto para las organizaciones no será únicamente incorporar IA a sus procesos, sino hacerlo con criterios de ética, transparencia, supervisión humana y cumplimiento normativo.
Porque en la próxima década no destacarán únicamente las empresas que utilicen inteligencia artificial. Destacarán aquellas que sean capaces de utilizarla de forma responsable y generar confianza en clientes, empleados y sociedad.
La tecnología puede automatizar decisiones. La confianza, en cambio, sigue siendo profundamente humana.
Compartir:
Sobre el autor
Nacho Martín
CEO y fundador de Whoop Coaching y Consulting.
Life Coach | Coach ejecutivo | Coach de Equipos y sistemas.
Mentor y desarrollador de líderes.
Experto en Banca y finanzas | Transformación digital | Experiencia global.