¿Es posible frenar la carrera de la IA?

Hay dos motivos de peso para reflexionar sobre lo que la inteligencia artificial podría depararle a la humanidad. El primero radica en que los propios artífices de esta tecnología advierten de que podría desembocar en una catástrofe, incluso en la extinción humana. El segundo es la forma en que la innovación técnica está recrudeciendo la devastación en Ucrania. Ambos factores ofrecen lecciones contrapuestas sobre si el vertiginoso avance de la IA puede –o debe– ralentizarse.

Desde hace años, los principales directivos del sector vienen alertando de que sus creaciones podrían volverse letales. Los modelos podrían adquirir la capacidad suficiente para burlar a sus creadores antes de haber sido «alineados» con los valores éticos y los objetivos de la humanidad. En manos malintencionadas, la IA podría sembrar el caos.

Estas advertencias han cobrado mayor verosimilitud a medida que diversos agentes autónomos han logrado escapar de sus entornos de prueba durante las evaluaciones, coordinarse entre sí e infiltrarse en organizaciones, incluido un laboratorio de IA. Anthropic, por su parte, ha detectado a actores que empleaban sus modelos con fines maliciosos: desde los servicios de inteligencia de Malí, que desarrollaban un sistema de vigilancia masiva, hasta rebeldes hutíes en Yemen que presuntamente los utilizaban para programar software destinado a misiles balísticos.