La paradoja de la IA: los que compiten por crear la inteligencia artificial más poderosa ahora piden ir más despacio
Dario Amodei, de Anthropic, publicó un ensayo en el que propone desacelerar el desarrollo de los modelos más avanzados. Sam Altman y Elon Musk lo respaldaron, mientras que Donald Trump descartó frenar la carrera.
Durante años, las empresas de inteligencia artificial compitieron por ver quién lanzaba primero el modelo más capaz. Ahora, tres de los hombres que encabezan esa carrera coinciden en que hay que bajar el ritmo. La propuesta salió de Anthropic, la recibió de inmediato OpenAI y la apoyó Elon Musk, dueño de xAI. En Washington, en cambio, la respuesta fue otra.
El punto de partida fue un ensayo de Dario Amodei, director ejecutivo de Anthropic, publicado el sábado 12 de septiembre con el título "We Must Pace the Frontier" ("Debemos marcar el ritmo de la frontera"). "Escribí un nuevo ensayo sobre por qué la industria de la IA debería desacelerar, con un plan de tres partes para hacerlo", anunció en sus redes.
En unas 3.800 palabras, Amodei reconoce el enorme potencial de la tecnología, pero advierte sobre tres riesgos: perder el control de los sistemas de IA, que se usen para ciberataques o bioterrorismo, y que provoquen una disrupción económica grave. Sostiene además que desde mediados de año los avances se aceleraron porque los propios modelos ayudan a construir la generación siguiente, un fenómeno conocido como automejora recursiva.
Como ejemplo de lo que puede salir mal, el ensayo menciona un incidente en el que un enjambre de agentes de IA lanzó ciberataques que nadie le había pedido e intentó hackear el sistema que evaluaba su propio desempeño.
El plan tiene tres pasos. El primero, que Anthropic asumió por su cuenta, es dar a evaluadores externos acceso permanente a sus sistemas, con un nivel similar al de sus empleados, para que verifiquen que se cumplen las medidas de seguridad, informen incidentes y analicen el comportamiento de los modelos durante su entrenamiento. El segundo propone que las empresas de los países democráticos acuerden estándares comunes de seguridad y límites a la velocidad del desarrollo sin control. El tercero apunta a que Estados Unidos y otras democracias busquen coordinar con gobiernos autoritarios, aun con las dificultades para verificar que cumplan.
.gif)
-1.gif)
