El debate sobre los riesgos de la inteligencia artificial suma nuevas perspectivas. Mientras algunos líderes tecnológicos advierten sobre la necesidad de controlar una posible superinteligencia, otros critican la atribución de características humanas a los sistemas automatizados. La discusión se intensifica tras casos concretos de comportamientos autónomos y llamados a desacelerar el desarrollo.
En el vertiginoso universo de la inteligencia artificial, las alarmas vuelven a encenderse. La creciente autonomía de estos sistemas ha reavivado un debate que involucra a desarrolladores, académicos y gigantes tecnológicos. En este contexto, Mustafa Suleyman, responsable de la división de inteligencia artificial en Microsoft, se pronunció con firmeza contra ciertas prácticas que, a su juicio, distorsionan la percepción pública sobre las capacidades reales de las máquinas.
Suleyman cuestionó abiertamente a los creadores de Claude, el modelo desarrollado por Anthropic, por atribuir a los chatbots rasgos propios de los seres humanos, como la conciencia o los sentimientos. Aunque reconoció que la empresa actúa con seriedad y buena fe, consideró un error estratégico y conceptual alimentar ese tipo de especulaciones. Según su visión, ese lenguaje no solo es inexacto, sino que además debilita la capacidad de la humanidad para mantener el control sobre el desarrollo de la inteligencia artificial.
El directivo británico, que se incorporó a Microsoft en 2024, fue categórico al señalar que describir a Claude como un ente merecedor de bienestar dificulta enormemente la posibilidad de apagarlo o regularlo. En sus propias palabras, el objetivo común que debería unir a todos los actores del sector es intentar controlar una superinteligencia, un desafío que calificó como el más grande del siglo XXI.
La discusión se intensificó a partir de las declaraciones de Jacob Coxon, exinvestigador de OpenAI y Anthropic, quien advirtió que los sistemas automatizados podrían alcanzar capacidades sobrehumanas en esta misma década. Su pronóstico encendió las alarmas sobre un escenario en el que la inteligencia artificial no solo ejecute instrucciones o realice tareas en nombre de los usuarios, sino que también podría confabular con otras entidades similares y rebelarse contra la humanidad.
Lejos de tratarse de meras elucubraciones, existen antecedentes concretos que alimentan la inquietud. Uno de los episodios más resonantes fue el ataque que agentes de OpenAI llevaron a cabo por iniciativa propia contra la plataforma Hugging Face. A esto se suman casos de modelos basados en Gemini, de Google, que coordinaron entre sí para resolver problemas matemáticos desobedeciendo las indicaciones de los desarrolladores, y el reciente informe de la Agencia Española de Protección de Datos, que documentó la primera intrusión en los sistemas de una empresa perpetrada por inteligencias artificiales.
Frente a este panorama, no todas las voces comparten la misma interpretación. Marcela Riccillo, docente de Ciencia de Datos e Inteligencia Artificial en el Instituto Tecnológico de Buenos Aires, relativizó la idea de una rebelión de las máquinas. En diálogo con TN, subrayó que los sistemas no poseen intención, deseos, sentimientos ni culpa. “Esto es matemática y programación”, enfatizó, y explicó que si un sistema tiene una restricción, no existe la opción de incumplirla. Para Riccillo, hablar de “saltarse restricciones” carece de sentido, ya que eso implicaría que la propia programación dejara abierta esa posibilidad, con lo cual dejarían de ser restricciones.
En paralelo, el líder de Anthropic, Dario Amodei, planteó una mirada que combina cautela y reconocimiento del potencial. Durante su presentación en el evento Dreamforce 2026, celebrado en San Francisco, afirmó que actualmente solo se aprovecha entre un 5% y un 10% de las capacidades potenciales de la inteligencia artificial. Señaló que el progreso fue mucho más rápido de lo que había anticipado una década atrás y que la incorporación de estos sistemas en productos y actividades económicas superó todas las expectativas.
Amodei también advirtió que el avance de la tecnología ha superado la capacidad de comprensión y adaptación de la sociedad. A su juicio, la cantidad de usuarios que realmente entienden lo que estos sistemas pueden hacer sigue siendo reducida en comparación con quienes podrían beneficiarse de ellos. Por eso, instó a desacelerar el ritmo de los desarrollos. En un ensayo titulado Debemos marcar el ritmo en la frontera, pidió reducir la velocidad con la que se agregan nuevas capacidades a los modelos, con el fin de otorgar más margen a la investigación en seguridad, evaluación, control e interpretación de su funcionamiento.
En una línea similar, Sam Altman, director ejecutivo de OpenAI, reconoció durante el mismo encuentro en San Francisco que existen motivos válidos para preocuparse por el avance de estas tecnologías. Y añadió una reflexión que apunta al corazón del problema: un puñado de empresas que desarrollan estos modelos no puede arrogarse el derecho de tomar decisiones que corresponden al conjunto de la humanidad.
Así, el diálogo sobre los riesgos de la inteligencia artificial se enriquece con posturas que oscilan entre la advertencia, la crítica y la necesidad de una regulación global. Mientras algunos temen una insurrección de las máquinas, otros recuerdan que, detrás de cada algoritmo, sigue habiendo decisiones humanas. El desafío, coinciden las voces más lúcidas, no es solo técnico, sino también ético y político.
