Skynet

En esta escena de Terminator 2, el T800 (Arnold Schwarzenegger) describe un apocalipsis que en 1997 parecía tecnológicamente inalcanzable. Sin embargo, con los avances actuales, aquellas palabras han dejado de sonar extrañas para convertirse en una advertencia plausible.

El cine de ciencia ficción es capaz de anticipar aquello que no somos capaces de imaginar, y a menudo sirve como un espejo que nos devuelve las advertencias más urgentes sobre el futuro que estamos construyendo. No actúa como precursor de lo que debe suceder sino que lo anticipa desde la observación de lo que ocurre en la sociedad.

Esa observación, ese anticipo, ya no es un ejercicio futurista, sino un presente palpable. Hoy, la guerra de Ucrania se ha convertido en un gran escenario donde la robótica militar ha dejado de ser un concepto teórico para convertirse en una realidad. Su despliegue—desde drones de ataque autónomos hasta vehículos terrestres no tripulados—marca un punto de inflexión al desplazar progresivamente ciertas decisiones tácticas hacia sistemas automatizados. Hasta el punto en que, según se ha documentado, ya existen casos de soldados rusos rindiéndose ante estos sistemas robóticos autónomos, alterando la dinámica psicológica del combate. La misma lógica tecnológica la observamos en la documentación que revela que Israel ha utilizado inteligencia artificial para identificar y seleccionar objetivos en la Franja de Gaza, delegando a los algoritmos la tarea de priorizar blancos humanos.

Como contrapunto ético, la ciencia ficción clásica soñó con límites antes de que la ingeniería militar decidiera ignorarlos. Isaac Asimov formuló sus Tres Leyes de la Robótica: un robot no hará daño a un ser humano ni, por inacción, permitirá que sufra daño; debe obedecer las órdenes humanas salvo que contradigan la Primera Ley; y debe proteger su existencia siempre que no entre en conflicto con las anteriores, no como un protocolo técnico, sino como una propuesta moral. La paradoja de los Sistemas de Armas Autónomas Letales (LAWS) en Ucrania y Gaza no es que la tecnología haya traicionado esas leyes, sino que nunca se orientó hacia ellas. Se trata de sistemas diseñados para que causar daño sea su función operativa principal, invirtiendo la lógica asimoviana desde el propio código.

A pesar de este abismo ético, el verdadero desenlace no está escrito en código binario, sino en nuestra voluntad.  El humanismo se impone cuando recordamos que la tecnología es un reflejo de quienes la creamos, no un destino ineludible. La esperanza reside en la decisión colectiva de establecer una Primera Ley inquebrantable para la propia humanidad: proteger la vida por encima de la eficiencia o la estrategia. El desarrollo de la IA debe guiarse por la ética, la transparencia y el propósito de amplificar la compasión y el conocimiento, y no nuestra capacidad de destrucción. Pero esa ética no puede decidirla un pequeño grupo de investigadores. Debe surgir de un proceso democrático y auditable que agregue los valores de millones de personas, donde ninguna autoridad única imponga su criterio. La conciencia humana, expresada colectivamente, es capaz de apagar el afán autodestructivo y asegurar que el futuro sea construido, y no aniquilado, por nuestras propias manos.