Cuando el primer algoritmo de reconocimiento facial detectó a un niño en la fila de una cafetería, la noticia no se quedó en las redes sociales: se volvió un llamado urgente a la regulación. Hoy, 150 países se ven obligados a auditar los sistemas de IA de alto riesgo antes de que salgan al mercado.
Regulación global de la IA: el debate internacional sobre gobernanza y riesgos
La inteligencia artificial ha encendido un debate regulatorio sin precedentes. Organismos como la ONU, la Unión Europea y gobiernos de todo el mundo están diseñando marcos normativos que buscan controlar los riesgos sin sofocar la innovación.
La UE aprobó el AI Act en 2024, la primera ley integral de regulación de IA del planeta. La norma clasifica los sistemas por nivel de riesgo: los de alto riesgo—que inciden en empleo, crédito, justicia o sanidad—deben superar auditorías antes de su despliegue. Los de riesgo inaceptable, como el reconocimiento facial en tiempo real en espacios públicos, quedan prohibidos.
El debate en Naciones Unidas
La ONU ha impulsado una gobernanza global de la IA a través de su Cuerpo Asesor de Alto Nivel. En 2024 publicó un informe con recomendaciones para los estados miembros. El reto es construir consenso entre países con intereses muy distintos: EE. UU. Y la UE priorizan valores democráticos; China enfatiza la soberanía estatal; los países en desarrollo temen quedarse rezagados en la revolución tecnológica.
Principios emergentes del consenso internacional
A pesar de las diferencias, convergen en tres pilares: transparencia en las decisiones automatizadas, responsabilidad de quienes desarrollan y despliegan el sistema, y protección de datos personales. La implementación práctica de estos principios varía según el contexto nacional.
