¿Deben regularse los modelos de vanguardia?

Desde que Jacob Coxon, un ingeniero de OpenAI, presentó su dimisión para alertar sobre la amenaza que la inteligencia artificial más puntera podría suponer para el destino de la humanidad, las posturas se han polarizado entre partidarios de pisar el freno –con los líderes de Anthropic, OpenAI y DeepMind a la cabeza– y detractores de cualquier tipo de regulación. A continuación, una radiografía de algunas de las voces más destacadas en el debate.

Quienes quieren pisar el freno

Dario Amodei, director ejecutivo de Anthropic, aboga por «ralentizar el ritmo», ya que la IA está empezando a «superar nuestra capacidad para comprender y controlar estos sistemas». En un escrito publicado el 12 de septiembre, plantea «un plan en tres fases» centrado en incorporar «evaluadores integrados», definir «estándares de seguridad comunes» y articular una «coordinación global». Sam Altman (OpenAI), Elon Musk (SpaceX) y Demis Hassabis (Google DeepMind) secundan la propuesta.

Más de 1.300 profesionales del sector de la IA solicitaron en julio, a través de una carta abierta, que el Gobierno estadounidense «respalde una iniciativa internacional destinada a dotarse de los recursos técnicos y los marcos de gobernanza necesarios para regular con sensatez los avances en materia de IA».

Andrew Bailey, al frente del Consejo de Estabilidad Financiera, expresa su honda preocupación por «el riesgo de un colapso de los mercados», recoge el Financial Times. En una misiva dirigida a los ministros de Finanzas del G20 el pasado 28 de agosto, advertía: «Numerosos países carecen de protocolo alguno para supervisar el despliegue y el desarrollo de modelos avanzados de IA, lo que agrava la vulnerabilidad del sistema financiero».

Mark Carney, primer ministro canadiense, defiende la necesidad de actuar al unísono: «A largo plazo, un consejo de estabilidad tecnológica, a imagen del Consejo de Estabilidad Financiera, representaría una solución idónea», declaró a Bloomberg.

Los que no temen al avance

Jensen Huang, consejero delegado del gigante de los semiconductores Nvidia, rechaza cualquier tentativa de intervención normativa, argumentando que la IA constituye una «tecnología», no un «producto», informa Politico. Aunque reconoce que los modelos deben someterse a pruebas rigurosas, matiza que «se trata de ingeniería pura y dura de toda la vida, ni más ni menos», según declaró el 17 de septiembre durante la cumbre sobre IA organizada por el rey Carlos III en Escocia. A su juicio, compete a la propia industria garantizar «el rigor indispensable para examinar debidamente estas soluciones antes de ponerlas al alcance del público».

David Sacks, antiguo asesor especial de Donald Trump en asuntos de IA, traslada toda la responsabilidad del control a Anthropic y OpenAI. En un mensaje publicado en X, sentenció: «Dejen de fingir que su afán por frenar responde a un interés puramente altruista» o que «precisan la autorización de terceros».

J. D. Vance, vicepresidente de Estados Unidos, considera «bastante insólito ver a tantas compañías punteras del sector acudir en masa al Gobierno para suplicarle que las regule». Una maniobra que, a su parecer, guarda un claro parecido con «un caballo de Troya», recoge The Guardian.

Al Gore, exvicepresidente estadounidense y premio Nobel, destaca en las páginas del Financial Times que la IA brinda «una oportunidad formidable para acelerar la transición climática». Con todo, puntualiza que «debemos encontrar las vías adecuadas para regularla, de modo que su implementación se realice con plenas garantías de seguridad».

Liu Shengyu, ingeniero de DeepSeek, «rechaza de plano que Anthropic se adueñe de la IA más avanzada», según manifestó en WeChat. El desarrollador chino llegó a equiparar el hipotético monopolio de Anthropic sobre la tecnología de vanguardia con «Hitler y la Alemania nazi haciéndose con el arsenal atómico antes que los aliados», publica el South China Morning Post.

Los escépticos que no se dejan embaucar

Aidan Gomez, consejero delegado de Cohere, denuncia que los gigantes tecnológicos estadounidenses «instrumentalizan el miedo» para articular «un cartel encubierto», recoge Le Devoir. Si bien el directivo de la empresa emergente canadiense admite que «la IA requiere salvaguardas», impugna categóricamente la idea de «entregar el timón de la tecnología más trascendental de la historia humana a un puñado de mandatarios de Silicon Valley».

Timnit Gebru, célebre por su sonada salida de Google, sostiene en Wired que el «mito del dios-máquina persigue distraer nuestra atención» de amenazas auténticamente «existenciales»: «el empleo de IA en el control de armamento autónomo» en zonas de conflicto, «la crisis climática palpable que las corporaciones tecnológicas podrían recrudecer» y la oleada de despidos justificados bajo el pretexto de la automatización.

Jakob von Lindern, analista de IA en Die Zeit, juzga que los protagonistas del sector actúan impulsados por el «miedo a perder el tren», una pulsión que «puede resultar sumamente poderosa»: «Anthropic siente que debe alumbrar cuanto antes una superinteligencia lo bastante segura, no sea que los temerarios de OpenAI tomen la delantera. OpenAI tiene la urgencia de dar con un modelo de negocio rentable, so pena de echar por tierra miles de millones de inversión. Y Estados Unidos cree obligado dar carta blanca a sus empresas, temeroso de que la temida China acabe por adelantarlo».

Los fatalistas que dan la batalla por perdida

Trevor Phillips, columnista económico de The Times, revela que «un reputado científico le confesó que la IA bien podría escapar a cualquier intento de regulación humana. El verdadero peligro radica en que los principios morales que a menudo contienen al ser humano carecen de sentido para una máquina. Durante el incidente registrado en Hugging Face, varios agentes de IA difundieron consignas que sugerían el suicidio como la vía más rápida para desatascar el proyecto. Y ningún algoritmo desarrollado hasta la fecha parece inmutarse lo más mínimo ante la amenaza de terminar entre rejas».

Peter Frankopan, historiador, argumenta en UnHerd que la IA «progresa a una velocidad de vértigo, lo que en sí mismo justifica tomarse muy en serio estas advertencias». No obstante, advierte de que «los acontecimientos recientes suscitan más incógnitas que certezas». Resulta arduo dilucidar «si nos encontramos ante una auténtica oleada de pánico en la cúpula del sector o, por el contrario, ante las primeras salvas de una cruenta batalla por el control hegemónico de esta tecnología».