Naciones Unidas advierte que las máquinas ya están en condiciones de conducir conflictos armados; especialistas señalan que la autonomía en la selección de blancos plantea un punto de inflexión sin retorno, mientras el desarrollo tecnológico supera con holgura los esfuerzos por establecer controles globales
A mediados del siglo pasado, cualquier estratega o combatiente de la Segunda Guerra Mundial habría contemplado con escepticismo las formas que adoptarían los enfrentamientos del porvenir. Sin embargo, lo que hoy acontece en materia de automatización militar habría superado con creces la imaginación más audaz de aquella época. La incorporación de la inteligencia artificial a las operaciones castrenses ha alcanzado un nivel de sofisticación tal que permite ejecutar acciones letales con una exactitud que estremece. La Organización de las Naciones Unidas lo ha puesto sobre la mesa recientemente al señalar que, merced a los avances científicos, los dispositivos mecánicos ya reúnen las condiciones para dirigir guerras.
Robin Geiss, responsable del Instituto de las Naciones Unidas para la Investigación sobre el Desarme, lo sintetizó con crudeza durante una conferencia de prensa: la guerra conducida por máquinas se aproxima de manera inexorable y la disyuntiva que se presenta es, lisa y llanamente, si se permitirá que los artefactos seleccionen y eliminen a seres humanos. La inquietud no es menor si se considera que los sistemas capaces de resolver cálculos matemáticos de enorme complejidad, de examinar expedientes judiciales con detenimiento o de interpretar diagnósticos médicos por imágenes con una precisión superior a la del ojo humano también estarán, lógicamente, mejor dotados para neutralizar un blanco. Si la inteligencia artificial promete sustituir a las personas desde las labores más sencillas hasta las más intrincadas, el ámbito bélico no representa ninguna excepción.
El inconveniente central radica en que los nuevos modelos de inteligencia artificial, al estar construidos sobre sistemas cuya opacidad dificulta su comprensión —incluso para quienes los programan—, pueden sustraerse al dominio de sus creadores. Cuando esa imposibilidad de control se traslada al terreno de las armas, las consecuencias adquieren una gravedad extrema. Oscar Niss, experto en ciberseguridad y ciberdefensa que hoy dirige el área de Seguridad Informática de la provincia de Buenos Aires, explica que los sistemas autónomos de ataque o defensa no constituyen una novedad, pues existen desde la década del cincuenta. La diferencia más evidente, precisa, es que ahora conjugan tres elementos: la celeridad para reconocer objetivos y preparar ofensivas, la magnitud para desplegar ataques simultáneos y masivos, y la autonomía para responder por cuenta propia con una intervención humana reducida al mínimo.
Esa combinación de variables, sostiene Niss, marca una diferencia sustancial cuando irrumpe la inteligencia artificial. Hoy resulta factible descubrir un objetivo, preparar el artefacto de ataque configurándolo si fuera necesario y ejecutarlo de manera autónoma, prescindiendo de la decisión humana. El resultado es una capacidad ofensiva considerablemente más letal que la existente con anterioridad. El especialista, que años atrás se desempeñó como subsecretario de Ciberdefensa de la Nación, advierte además que los errores de esta tecnología se pagan con vidas, y que aunque muchos colegas subestiman sus potencialidades, lo cierto es que plantea un punto de inflexión irremediable. Antes de la irrupción masiva de la inteligencia artificial, en el ámbito internacional ya se debatían los riesgos de los ataques autónomos convencionales; la Cruz Roja se preguntaba, por ejemplo, cómo advertir por vía cibernética a un arma autónoma que ciertas instalaciones médicas constituyen objetivos no militares.
La realidad, como suele ocurrir, resulta más compleja que las películas del siglo pasado que imaginaban futuros distópicos poblados de robots asesinos. La inteligencia artificial no solo potencia las acciones de cíborgs despiadados, sino que se integra a la industria bélica de manera integral: analiza información del enemigo, permite anticipar ofensivas mediante imágenes satelitales, intercepta comunicaciones y aplica reconocimiento facial y biométrico, además de configurar drones, sistemas de artillería y vehículos autónomos. Niss amplía el panorama al señalar que, en la medida en que no haya personas participando de la decisión de un ataque, el fenómeno crecerá como una bola de nieve, y que quienes se defienden también deberán emplear sistemas autónomos similares, dado que los mecanismos de defensa militar poseen asimismo carácter ofensivo. Insiste en que los ataques cibernéticos producen efectos físicos, ya que pueden dejar sin energía a una ciudad o a un país entero.
El horizonte de riesgos se extiende hacia terrenos aún más inquietantes. A comienzos de agosto, científicos de la Universidad de Stanford generaron virus nuevos con asistencia de la inteligencia artificial: fue la primera vez que se crearon genomas completos de dieciséis virus diseñados para infectar bacterias. El avance, presentado entonces como un cambio de paradigma capaz de abrir soluciones para enfermedades hoy incurables, también genera incertidumbre, pues la misma herramienta que sana encierra la capacidad de enfermar. Los investigadores eliminaron deliberadamente de su base de datos aquellos virus susceptibles de infectar organismos complejos, pero un individuo con conocimientos y malas intenciones podría valerse de ese desarrollo para crear nuevas formas biológicas peligrosas. La posibilidad de armas biológicas acecha a la vuelta de la esquina.
Mientras los sistemas evolucionan a un ritmo vertiginoso, las regulaciones y los controles avanzan con lentitud exasperante. En ese marco, Naciones Unidas anunció la preparación de un marco de conducta responsable destinado principalmente a las compañías que desarrollan tecnologías potencialmente aplicables a la guerra, con recomendaciones para que orienten sus actividades según un esquema de derechos humanos y promuevan un uso pacífico de la inteligencia artificial. Resta por ver si esas sugerencias serán atendidas por empresas que obtienen millones de dólares anuales gracias a programas que perfeccionan la capacidad de matar. El historiador y referente tecnológico Yuval Harari suele formular la pregunta inevitable: ¿alguien sabe dónde está el freno de la inteligencia artificial? Y si la respuesta fuera afirmativa, cabría añadir otro interrogante: ¿quién querrá detener eso que llaman progreso?
