CiudadBqto ¡Na' Guará!
Related Articles
El Consejo de Ministros de España aprobó el proyecto de Ley Orgánica para el Buen Uso y Gobernanza de la Inteligencia Artificial, una iniciativa para establecer la transparencia obligatoria de los algoritmos, responsabilizar a los directivos de las empresas por el uso de herramientas prohibidas y fijar multas millonarias para quienes incumplan la normativa.
El ministro español para la Transformación Digital y de la Función Pública, Óscar López, señaló que la responsabilidad penal no recaería únicamente en los usuarios que emplean herramientas de IA para generar imágenes sensibles, «sino que también podría haber responsabilidad dentro de las plataformas>>.
La iniciativa retoma el sistema de clasificación de los sistemas de IA según su potencial de riesgo, establecido en el Reglamento Europeo de Inteligencia Artificial (RIA). Este mecanismo prohíbe aquellos modelos y aplicaciones que representan un peligro inaceptable para la seguridad o la salud de las personas.
En esta categoría se encuentran, entre otros:
Sistemas que utilizan técnicas subliminales para manipular decisiones.
Sistemas que explotan vulnerabilidades relacionadas con la edad, discapacidad o situación socioeconómica para alterar de manera sustancial el comportamiento de las personas y provocarles perjuicios considerables.
Herramientas que emplean datos biométricos para clasificar usuarios.
Aplicaciones que califican a las personas con base en sus comportamientos sociales o rasgos personales.
Prohibición de deepfakes
El proyecto español también prohíbe la introducción en el mercado, la operación y el uso de sistemas de IA capaces de generar deepfakes sexuales, así como aquellos que puedan utilizarse para crear contenido de abuso infantil.
Mientras que los sistemas de IA no prohibidos estarán sujetos a una serie de obligaciones para garantizar su permanencia en el mercado europeo. Las empresas que desarrollen o comercialicen algoritmos de IA deberán presentar informes periódicos para actualizar su clasificación.
Sanciones millonarias
Esta normativa también adoptará infracciones contempladas en la RIA, las cuales se clasificarán como muy graves, graves y leves. En los casos más severos, los responsables podrán enfrentar multas de hasta 35 millones de euros o el 7% del volumen global de su negocio, mientras que las faltas más leves podrían derivar en sanciones de hasta 500 mil euros o el 0.5% de la facturación anual.
De manera específica, en el caso del uso de sistemas de IA prohibidos, la ley responsabiliza no solo a las entidades infractoras, sino también a los directivos de las mismas.
Finalmente, el proyecto incorpora disposiciones destinadas a garantizar el uso ético y adecuado de la IA en el sector público estatal. Estas medidas, que no derivan directamente de la adaptación del RIA, incluyen la creación de un inventario en el que se registrarán todos los sistemas de IA utilizados en procedimientos administrativos.
Delegados de inteligencia artificial
La propuesta también impulsa la creación de una nueva figura organizativa denominada delegado de inteligencia artificial. Este funcionario tendrá la responsabilidad de coordinar la aplicación de las normativas vigentes, además de brindar asesoría técnica en proyectos institucionales y en procesos de contratación pública de tecnología.
