Internacional.- La Unión Europea (UE) ha dado un paso histórico al aprobar la primera ley integral a nivel mundial para la regulación de la inteligencia artificial (IA). El AI Act, como se denomina esta normativa pionera, establece un marco regulatorio exhaustivo que aborda los diversos aspectos y riesgos asociados con la tecnología de IA.
El lanzamiento de modelos avanzados de IA generativa, como ChatGPT de OpenAI, destacó la necesidad de una legislación más detallada para gestionar las capacidades emergentes y los riesgos de la IA, particularmente en relación con el uso de material protegido por derechos de autor. Esta situación impulsó a los legisladores europeos a desarrollar el AI Act, que ha sido considerado un hito significativo para la región.
Esta legislación utiliza un enfoque basado en riesgos, categorizando las aplicaciones de IA según el potencial daño que pueden causar a la sociedad. Este enfoque diferenciado implica que las aplicaciones de IA con distintos niveles de riesgo serán tratadas de manera específica:
- Riesgo Inaceptable: El AI Act prohíbe completamente aplicaciones de IA consideradas inaceptables, como los sistemas de “puntuación social” que clasifican a los ciudadanos basándose en la agregación y análisis de sus datos, la policía predictiva y el reconocimiento emocional en lugares de trabajo y escuelas.
- Alto Riesgo: Las aplicaciones de IA de alto riesgo, como los sistemas biométricos y de reconocimiento facial, así como las utilizadas en contextos educativos y laborales, deberán cumplir con estrictas obligaciones de gestión de amenazas y calidad. Estas aplicaciones deberán ser registradas en un censo y estarán sujetas a regulaciones más severas para garantizar su seguridad y confiabilidad.
- Riesgo Limitado: Las aplicaciones de riesgo limitado, como los bots de asistencia y las soluciones de análisis, tendrán que cumplir con obligaciones de transparencia más leves.
El AI Act también impone restricciones estrictas a los sistemas de IA generativa, requiriendo que respeten las leyes de derechos de autor de la UE y cumplan con altos estándares de transparencia, pruebas rutinarias y ciberseguridad. Las empresas que violen estas normas se enfrentarán a multas de hasta 38 millones de dólares o el 7% de sus ingresos anuales globales, lo que sea mayor.
Plazos y Aplicación
Aunque se ha alcanzado un acuerdo sobre esta ley, su implementación completa aún requiere tiempo. Las restricciones a los sistemas de propósito general no entrarán en vigor hasta 12 meses después de la entrada en vigor. Además, los sistemas de IA generativa actualmente disponibles comercialmente, como ChatGPT, Gemini de Google y Copilot de Microsoft, tendrán un período de transición de 36 meses para cumplir con la nueva legislación.
Tratado Internacional del Consejo de Europa
En paralelo, el Consejo de Europa ha adoptado la primera convención internacional legalmente vinculante para garantizar que los sistemas de IA respeten los derechos humanos, la democracia y el estado de derecho. La Convención Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho cubre todo el ciclo de vida de los sistemas de IA y aborda los riesgos asociados, promoviendo al mismo tiempo la innovación responsable.
Este tratado establece un marco legal para el uso de IA en los sectores público y privado, exigiendo a los estados miembros adoptar medidas para identificar, evaluar, prevenir y mitigar posibles riesgos. También se contempla la posibilidad de imponer moratorias, prohibiciones u otras medidas cuando los riesgos sean incompatibles con los estándares de derechos humanos. La convención, que no se aplicará a cuestiones de seguridad y defensa nacional, establece mecanismos de seguimiento y supervisión independientes para garantizar el cumplimiento de sus términos.
