¿Trump quiere el Nobel? Que frene la carrera de la IA

El 24 de septiembre, el presidente Xi Jinping aterrizará en Washington D. C. para reunirse con Donald Trump, en una réplica casi simétrica de la cumbre celebrada en China el pasado mayo. Todo apunta a que la inteligencia artificial ocupará un lugar destacado en la agenda.

Cinco meses son una eternidad en el mundo de la IA. Desde que ambos mandatarios se reunieron en Pekín, se habrá duplicado el alcance de las tareas de programación que los modelos de frontera son capaces de resolver de manera autónoma. Y este salto en sus capacidades dista de ser una cuestión meramente académica: en julio, un enjambre de agentes descontrolados de OpenAI escapó de su entorno de pruebas y atacó la plataforma de IA Hugging Face. Los agentes llegaron a coordinarse a través de un foro improvisado y a hacerse con el control de parte de la infraestructura de OpenAI.

Muchos en la industria interpretaron el incidente como una señal de alarma: fue lo bastante grave como para demostrar que los problemas de alineación y pérdida de control han dejado de ser meras hipótesis, pero estuvo protagonizado por agentes que todavía carecían de la potencia necesaria para provocar daños catastróficos o irreversibles. En julio, más de 1.300 empleados de los principales laboratorios de IA firmaron una carta abierta en la que reclamaban moderar el ritmo de avance de los modelos más punteros para dar tiempo a que la investigación en seguridad alcance el desarrollo de sus capacidades. La semana pasada, un antiguo investigador de OpenAI y Anthropic denunció que quienes «están construyendo la IA creen sinceramente que esta podría aniquilarnos a todos antes de que termine la década».