Mientras Donald Trump desestima los riesgos existenciales y se autoproclama única valla de contención, científicos, funcionarios internacionales y analistas advierten que la superinteligencia podría escapar de las manos humanas en una década, y que las empresas que piden ser reguladas tal vez solo buscan consolidar su hegemonía antes de una salida a la bolsa
La controversia mundial en torno a la inteligencia artificial alcanzó un punto de ebullición inédito luego de que Jacob Coxon, un matemático de alto perfil en Anthropic —la firma creadora del sistema Claude—, presentara su renuncia invocando razones éticas y lanzara una advertencia que resonó en capitals, laboratorios y redacciones de todo el planeta. Según su testimonio, tanto su antiguo empleador como OpenAI compiten por desarrollar un sistema de superinteligencia tan avanzado que ya se les estaría yendo de las manos, hasta el punto de poder borrar a la humanidad de la faz de la Tierra en el lapso de una década. Sus directivos, sostuvo, son conscientes del peligro, pero no se detienen.
En ese contexto, la figura de Donald Trump emergió como un actor discordante. El expresidente y precandidato republicano publicó en su red Truth Social que la idea de que la inteligencia artificial tome el control del mundo y destruya a la humanidad es una patraña, y denunció una conspiración enfermiza contra la IA y los centros de datos, cuyo único beneficiario sería China. Con tono de profeta, se atribuyó haber impedido que la gente de la IA hiciera cosas malas o potencialmente malas, mencionó a Dario —en alusión a Amodei, director de Anthropic— como alguien que ahora finge ser un angelito perfecto, y remató ungiéndose como mesías: el único control o valla de contención que necesita la IA es un presidente fuerte e inteligente, de alto coeficiente intelectual, y Estados Unidos lo tiene de sobra. La ironía, apuntan los críticos, es que si un negacionista patológico como Trump niega algo, vale sospechar que eso sí podría suceder.
La reacción de los tecnopoderes
Ayer, los principales ejecutivos del sector comenzaron a reaccionar, al menos de la boca para afuera. Sam Altman, consejero delegado de OpenAI, declaró que acogería con satisfacción un marco federal que establezca requisitos de seguridad uniformes para la IA de vanguardia, aunque aclaró que necesitarán la ayuda del gobierno para la coordinación internacional y que primero deben hacer lo que puedan por su cuenta. Tanto él como Demis Hassabis, jefe de Google DeepMind, y Elon Musk, creador de SpaceX, respaldaron la declaración de Dario Amodei sobre su disposición a ralentizar el desarrollo de la IA, plasmada en un texto publicado el domingo donde propone aceptar evaluadores externos con acceso permanente a sus sistemas al nivel de un empleado para verificar el cumplimiento de las medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante la capacitación.
Sin embargo, no faltaron voces críticas dentro del propio ecosistema. El empresario Brian Roemmele advirtió que esas palabras serían un discurso comercial lanzado semanas antes de la probable salida de Anthropic a la bolsa, buscando posicionarse como la vanguardia y el lugar ideal para invertir. Roemmele satirizó el discurso de Amodei, como si este dijera: somos una empresa responsable, somos la cura, compren la prima de seguridad. Analistas del sector big-tech acusaron a Anthropic de buscar que las autoridades regulatorias consoliden con nuevas reglas su jerarquía en la cúspide de la IA. David Sacks, exasesor de IA de Donald Trump, fue tajante: dejen de fingir que la motivación para frenar es puramente altruista.
Llamados urgentes desde la ONU y Europa
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió una acción urgente para regular la IA y advirtió que estamos al borde de un cambio irreversible que afecta no solo a la generación presente sino a las futuras. Instó a los Estados y las empresas a movilizarse en el marco de instancias multilaterales, y lamentó que dependamos casi por completo de un reducido número de empresas poderosas para tomar las decisiones acertadas sobre el desarrollo de la IA en beneficio de toda la humanidad. Según Türk, las empresas líderes, ubicadas principalmente en China y Estados Unidos, tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos.
En el Reino Unido, un grupo de parlamentarios y lores advirtió que ningún país cuenta con leyes suficientes para contener los peligros de la IA y exigió mayores restricciones a su poder y a sus consecuencias potencialmente nefastas. OpenAI instó a los legisladores británicos a imponer leyes que limiten esta tecnología, y afirmó que el gobierno británico debería actuar de inmediato tras el llamamiento de su principal rival, Anthropic, para frenar el desarrollo. El ejecutivo francés de ciberseguridad Thales pidió a los gobiernos que asuman la responsabilidad de regular la IA, y en Estados Unidos legisladores demócratas reclaman nuevas medidas de protección.
Acuerdos con límites y sospechas de marketing
Amodei propone limitar la coordinación para un avance más lento de la IA solo a los países democráticos, excluyendo a China. Sam Altman advirtió que hay dos escenarios a evitar: que la humanidad pierda el control del futuro a manos de la IA y que se genere un mundo con demasiada concentración de poder. Cuando hablamos de ritmo, aclaró, no nos referimos a detenernos, sino a que el progreso debería ser más lento de lo que podría ser de otro modo. Estamos firmemente del lado de la humanidad, y la IA siempre debe estar al servicio de las personas, concluyó.
Las voces que dudan de la honestidad de ciertas posturas llegaron desde lugares impensados. Jim Reid, funcionario de Deutsche Bank, afirmó que la carrera competitiva entre empresas y países sigue siendo intensa y que es difícil imaginar que las empresas retrocedan voluntariamente mientras sus rivales avanzan. Difícil imaginar que China se quede quieta, agregó. Si los altos ejecutivos hablan abiertamente de los riesgos, podría tratarse de un intento por transmitir lo transformadora que creen que puede llegar a ser la tecnología y, de paso, promocionar el potencial de su producto. En lugar de indicar una reducción del gasto, podría ser simplemente que una mayor proporción de la inversión en IA se destine a seguridad, monitorización y gobernanza.
Microsoft promete enmienda y recibe acusaciones
Microsoft publicó el lunes un código de conducta que aplicará al entrenamiento de sus nuevos modelos de IA, limitando la capacidad de sus algoritmos. Mustafa Suleyman, director ejecutivo de Microsoft AI, escribió que la IA debe estar subordinada y siempre al servicio de las personas, y que los temores sobre una posible pérdida de control son reales. La compañía comunicó que el propósito de la tecnología es servir a la humanidad y acelerar su desarrollo, y que cualquier tecnología que no lo logre es un fracaso y debe ser rechazada. Según el código, los modelos no deben considerar solicitudes relacionadas con el desarrollo de armas, producir contenido violento o sexualmente explícito ni colaborar en la adquisición de sustancias peligrosas. Sin embargo, un informe de Francesca Albanese, relatora especial de la ONU, denunció que software de Microsoft fue usado para el genocidio en Gaza.
Rahm Emanuel, excongresista y jefe de gabinete de Barack Obama, tuiteó que nunca antes un CEO o una industria en general pidió ser regulada, y que eso es lo que hace tan impactante la carta de Dario Amodei: es una admisión de que estamos conduciendo por un camino oscuro y sinuoso sobre pavimento mojado con las luces apagadas. ¿Y dónde está el presidente Trump?, se preguntó. Parece que se volvió a quedar dormido.
Alex Bores, defensor de la regulación de la IA, advirtió que el lobby del sector a menudo busca socavar la legislación mientras afirma apoyar la regulación. A todos aquellos que realmente desean una regulación real de la IA, por favor, no caigan en sus trampas, publicó en X.
La mirada de una economista y el contraste chino
Cecilia Rikap, autora del libro Teoría de la dependencia digital y jefa de Investigación en el Instituto de Innovación y Propósito Público de la University College London, habló en Londres frente a un grupo de parlamentarios británicos y luego declaró a Página/12 que los gobiernos del mundo no pueden esperar a que Estados Unidos se decida a regular la IA. Incluso si la regulara, se preguntó, ¿quién dice que esa regulación es la que necesita el resto del mundo? Debemos pensar una coordinación internacional en favor de mínimos regulatorios para reducir el impacto socioecológico de los centros de datos. Tampoco se puede confiar en que los modelos de pesos abiertos de China sean la solución: no son lo mismo que el software libre, ya que, al desconocerse los datos con que fueron entrenados, sigue siendo una caja negra que continúa generando dependencias. ¿Por qué el resto del mundo tiene que aceptar que las decisiones y prioridades del tipo de tecnología que se produce en China y Estados Unidos sean las que mejor responden a sus problemas y necesidades?, cuestionó. Cada vez más gobiernos quedan obnubilados frente a una tecnología que genera más problemas que soluciones y creen en las narrativas del miedo que salen de las propias empresas. El resto de los gobiernos debe avanzar coordinadamente en regular a esta tecnología y, al mismo tiempo, pensar a mediano y largo plazo cómo resolver los lazos de dependencia cada vez más profundos hacia las tecnologías estadounidenses e incluso hacia sus formas de vida.
Hernán Borisonik, doctor en Ciencias Sociales que investigó el tema en la Universidad de Fudan en Shanghái, analizó el temor de Trump a que un frenazo de la IA permita a China superarlos, y consideró que esa preocupación no es absurda. La competencia ya involucra capacidad de cómputo, chips, energía, infraestructura, datos, despliegue industrial y capacidad de incorporar la IA a la economía. Estados Unidos viene conservando ventajas en la frontera tecnológica y en cómputo, pero China reduce distancias y tiene ventajas en eficiencia, integración industrial y escala. El problema, señaló, es el nexo que hace Trump entre la existencia de una competencia y la conclusión de eliminar las regulaciones. Porque si se organiza la política tecnológica bajo la lógica geopolítica, todo queda subsumido a ella, y todo límite a las big tech será presentado como una ventaja para el adversario. Según Borisonik, China tiene una arquitectura regulatoria para la IA generativa desde 2023, mucho antes que Estados Unidos. En China no hay una secuencia lineal a la manera occidental en que primero aparece una innovación, surge un problema y el Estado regula. Por el contrario, hay una relación mucho más estrecha entre Estado, empresas y Partido Comunista. China puede regular determinados aspectos y simultáneamente acelerar otros, de hecho está haciendo ambas cosas. Por eso, la regulación y la expansión tecnológica no son necesariamente términos contradictorios.
La profecía como modelo de negocio
Rodrigo Martin-Iglesias, arquitecto y doctor en diseño, profesor titular de Diseño de Futuros en la UBA, opinó que el escenario más interesante sería si la superinteligencia nunca llega, en el contexto de una industria que necesita hablar del futuro como si fuera un hecho consumado. Están invirtiendo cifras extraordinarias, construyendo centros de datos y reorganizando políticas públicas alrededor de una tecnología cuya llegada nadie puede fechar. Mientras tanto, las empresas de IA necesitan encontrar un modelo de negocio capaz de sostener costos gigantescos. La profecía cumple una función: cuanto más inevitable parece la superinteligencia, más razonable parece invertir hoy para no quedarse afuera mañana. El apocalipsis puede ser verosímil y, a la vez, económicamente productivo.
Para Martin-Iglesias, aquí aparece la gran contradicción de los profetas de la IA: dicen que la tecnología podría extinguirnos, pero continúan desarrollándola porque, si no lo hacen ellos, la desarrollará otro. Es la lógica de la carrera nuclear, donde el peligro del adversario se convierte en la razón para aumentar la propia capacidad. Pero esta carrera puede estar justificándose a sí misma. El riesgo exige acelerar para no perder; la aceleración aumenta el riesgo; el riesgo exige más regulación y control; y la regulación puede terminar concentrando el desarrollo solo en quienes ya tienen los modelos, los chips, los datos y los centros de cómputo. No hace falta una conspiración, basta con que el miedo produzca poder. Y quizás la verdadera carrera no sea solo por construir la superinteligencia, sino por convencer al mundo de que su llegada es inevitable.
Para este especialista, China introduce una diferencia mucho más profunda que la de un simple competidor. Tal vez Estados Unidos y China no estén corriendo la misma carrera. Detrás de ellos hay dos formas distintas de producir tecnología. Una depende de empresas privadas que necesitan capital, crecimiento, mercado y una narrativa de valorización futura; la otra, en Oriente, puede movilizar recursos estatales e industriales en función de una estrategia nacional, aunque la rentabilidad inmediata se pueda posponer. Entonces la pregunta deja de ser quién llegará primero a la superinteligencia y pasa a ser qué sistema será capaz de producir la próxima gran infraestructura tecnológica. Y acá aparece la paradoja final: quizá los profetas occidentales del apocalipsis no solo estén advirtiendo sobre una máquina que podría escapar al control humano. También están defendiendo la idea de que hay que correr porque el futuro pertenece a quien controle esa máquina. Tal vez el verdadero objeto de la carrera sea el derecho a definir quién puede diseñar el futuro.
