La exministra exige normas claras antes de que la tecnología profundice desigualdades y ahuyente inversiones
Madrid — Marta Gesto no usa eufemismos. "Estamos regalando poder a sistemas que toman decisiones sobre vidas humanas sin rendir cuentas", advirtió la exministra de Economía en una entrevista reciente. Su diagnóstico es tajante: la inteligencia artificial avanza a velocidad de crucero mientras las leyes van en patinete. Y ese desfase, dice, es una bomba de relojería.
Gesto no habla desde la teoría. Durante su etapa en el Gobierno, vio cómo sectores enteros —desde la banca hasta los hospitales— adoptaban algoritmos sin un marco que definiera responsabilidades. "La UE lleva años discutiendo su Reglamento de IA, pero mientras tanto, empresas y Estados usan herramientas que ni siquiera sus creadores entienden del todo", señala. La exministra pone el dedo en la llaga: "¿Quién responde si un algoritmo de contratación descarta sistemáticamente a mujeres? ¿O si un sistema médico prioriza pacientes por criterios opacos?".
Su propuesta no es un parche, sino un cambio de paradigma. Primero, exige transparencia radical: que los desarrolladores documenten cada paso de sus modelos, desde los datos de entrenamiento hasta los sesgos potenciales. Segundo, aboga por organismos independientes —con dientes— que auditen estos sistemas y sancionen los incumplimientos. "No podemos dejar que las mismas empresas que venden IA sean las que se autorregulen", zanja.
El costo de la improvisación
El argumento económico de Gesto es igual de contundente. La incertidumbre jurídica, dice, está frenando inversiones millonarias. "Los fondos de capital riesgo quieren certezas: saber qué pueden hacer y qué no. Si cada país tiene reglas distintas, las empresas se irán a donde haya menos trabas", explica. Países como Singapur o Emiratos Árabes ya están atrayendo startups con marcos regulatorios flexibles, pero la exministra alerta: "Eso es pan para hoy y hambre para mañana. Sin garantías, el riesgo de burbujas o escándalos es enorme".
En el terreno social, el panorama es aún más sombrío. Gesto recuerda cómo la automatización ya está desplazando empleos en logística y manufactura, pero sin políticas de reciclaje profesional. "No es solo cuestión de puestos de trabajo. Hablamos de sistemas que deciden quién accede a una hipoteca, quién recibe un trasplante o quién es vigilado por la policía. ¿De verdad queremos que eso funcione en modo piloto automático?", pregunta.
Su crítica más dura va dirigida a los sesgos algorítmicos. "La IA no es neutral: replica y amplifica los prejuicios de sus creadores y de los datos que la alimentan. Si no lo corregimos, estaremos codificando la discriminación", advierte. Casos como el de COMPAS —un software de evaluación de riesgos penales en EE.UU. Que discriminaba a afroamericanos— son para Gesto la prueba de que el laissez-faire tecnológico tiene consecuencias reales.
¿Soluciones globales para un problema global?
El debate no es nuevo, pero Gesto insiste en que la ventana de acción se está cerrando. La UE, con su Reglamento de IA, ha dado pasos —como prohibir los sistemas de "puntuación social" al estilo chino—, pero la exministra cree que falta ambición. "Europa va por buen camino, pero corre el riesgo de quedarse en lo cosmético. Necesitamos normas vinculantes, no recomendaciones", apunta.
El desafío, sin embargo, es mayúsculo. La IA no entiende de fronteras, y un algoritmo entrenado en un país puede usarse en otro con regulaciones más laxas. "Esto requiere cooperación internacional, pero también valentía. No podemos esperar a que haya un escándalo para actuar", sentencia.
Gesto no pide frenar la innovación, sino encauzarla. "La tecnología no es buena ni mala: depende de cómo la usemos. Pero si no ponemos reglas, estaremos jugando a la ruleta rusa con derechos fundamentales". Su mensaje es claro: o los gobiernos toman las riendas, o la IA se convertirá en un experimento descontrolado con millones de cobayas humanas.
