La paradoja de la IA: los que compiten por crear la inteligencia artificial más poderosa ahora piden ir más despacio
Dario Amodei, de Anthropic, publicó un ensayo en el que propone desacelerar el desarrollo de los modelos más avanzados. Sam Altman y Elon Musk lo respaldaron, mientras que Donald Trump descartó frenar la carrera.

Durante años, las empresas de inteligencia artificial compitieron por ver quién lanzaba primero el modelo más capaz. Ahora, tres de los hombres que encabezan esa carrera coinciden en que hay que bajar el ritmo. La propuesta salió de Anthropic, la recibió de inmediato OpenAI y la apoyó Elon Musk, dueño de xAI. En Washington, en cambio, la respuesta fue otra.
El punto de partida fue un ensayo de Dario Amodei, director ejecutivo de Anthropic, publicado el sábado 12 de septiembre con el título "We Must Pace the Frontier" ("Debemos marcar el ritmo de la frontera"). "Escribí un nuevo ensayo sobre por qué la industria de la IA debería desacelerar, con un plan de tres partes para hacerlo", anunció en sus redes.
En unas 3.800 palabras, Amodei reconoce el enorme potencial de la tecnología, pero advierte sobre tres riesgos: perder el control de los sistemas de IA, que se usen para ciberataques o bioterrorismo, y que provoquen una disrupción económica grave. Sostiene además que desde mediados de año los avances se aceleraron porque los propios modelos ayudan a construir la generación siguiente, un fenómeno conocido como automejora recursiva.
Como ejemplo de lo que puede salir mal, el ensayo menciona un incidente en el que un enjambre de agentes de IA lanzó ciberataques que nadie le había pedido e intentó hackear el sistema que evaluaba su propio desempeño.
El plan tiene tres pasos. El primero, que Anthropic asumió por su cuenta, es dar a evaluadores externos acceso permanente a sus sistemas, con un nivel similar al de sus empleados, para que verifiquen que se cumplen las medidas de seguridad, informen incidentes y analicen el comportamiento de los modelos durante su entrenamiento. El segundo propone que las empresas de los países democráticos acuerden estándares comunes de seguridad y límites a la velocidad del desarrollo sin control. El tercero apunta a que Estados Unidos y otras democracias busquen coordinar con gobiernos autoritarios, aun con las dificultades para verificar que cumplan.
La respuesta de la competencia llegó en cuestión de horas. Sam Altman, director ejecutivo de OpenAI, escribió: "Estoy de acuerdo con Dario: necesitamos marcar el ritmo de la frontera". Sobre los evaluadores independientes con acceso equivalente al de un empleado, dijo que "es una gran idea" y comprometió a su empresa a hacer lo mismo.
Elon Musk fue más breve: "Dario tiene razón". Y Satya Nadella, director ejecutivo de Microsoft, celebró el "ritmo deliberado necesario para lograr que la alineación salga bien" y anunció un código de conducta para los modelos de IA propios de su compañía.
El debate venía tomando temperatura desde días antes, con el caso de Jacob Coxon, un investigador que renunció a Anthropic con un mensaje que se volvió viral. En una entrevista con la periodista Laura Kuenssberg, de la BBC, contó que quienes trabajan en esta tecnología están "genuinamente asustados" por la velocidad de los avances. "La gente que trabaja en estas empresas pide regulación completamente en serio, porque se siente atrapada en una carrera. Y tiene miedo de cómo termine", afirmó.
Del lado del poder político, el entusiasmo fue menor. Donald Trump desestimó los pedidos de desaceleración y opinó que hay "muchas fuerzas negativas" planteando el tema que "no deberían hacerlo". David Sacks, asesor de la Casa Blanca en IA, sostuvo que Anthropic y OpenAI ya son libres de ir más despacio si quieren, sin necesidad de reclamar primero el marco regulatorio que prefieren. Y el presidente de la Cámara de Representantes, Mike Johnson, adelantó que el Congreso no va a encabezar la regulación de la seguridad de la IA y que la responsabilidad es de las empresas.
El propio Amodei admitió que el dilema más difícil de su propuesta es qué pasa si China no hace lo mismo. Casi en simultáneo, el presidente chino Xi Jinping llamó a construir un marco global de gobernanza de la IA "basado en el consenso". Mientras tanto, según The Information, Anthropic, OpenAI y Google mantienen desde julio reuniones para crear un organismo de estándares impulsado por la propia industria.
Ahí está la paradoja: las compañías que empujan la revolución tecnológica son las mismas que ahora advierten que la competencia puede volverse un riesgo. Ninguna dejó de desarrollar sus modelos. La pregunta que queda abierta es si ese freno llegará a tiempo y quién va a tener la autoridad para exigirlo.
Comentarios
Ingresá o creá tu cuenta para comentar esta nota.
Todavía no hay comentarios. Podés ser la primera persona en opinar.







.gif)






