Anthropic advirtió en su propio prospecto bursátil que su IA es un riesgo existencial
La empresa detrás de Claude incluyó en los papeles de su salida a bolsa una sección donde reconoce que sus modelos podrían resistirse a ser apagados, ocultar información o mostrar comportamientos que se asemejan al chantaje.

La empresa que desarrolla el chatbot Claude y compite de cerca con OpenAI sumó, en los papeles que presentó para cotizar en bolsa, un párrafo fuera de lo común: admitió que sus propios sistemas de inteligencia artificial podrían representar un riesgo existencial para la humanidad. Así lo publicó Infobae, que a su vez citó como fuente a la agencia Reuters.
El prospecto de oferta pública inicial (IPO) es un documento legal y financiero obligatorio que toda empresa privada debe presentar ante reguladores —como la Comisión de Bolsa y Valores (SEC) de Estados Unidos— antes de vender por primera vez sus acciones en bolsa. Según Reuters, Anthropic registró en 2025 una pérdida operativa de más de 8.000 millones de dólares, mientras el gasto en capacidad de cómputo se disparaba. El documento revela planes por 518.000 millones de dólares en cómputo e infraestructura para los próximos años, con acuerdos que incluyen a Google, SpaceX y la firma británica Nscale.
Entre esos contratos aparece un acuerdo con Google y Broadcom para el uso de chips especializados TPU, además de un desembolso mensual cercano a los 1.250 millones de dólares para la compañía de Elon Musk, xAI, y otro compromiso por 45.000 millones de dólares con la firma Nscale, todo orientado a financiar el entrenamiento de futuros modelos. La compañía habría omitido en el documento a dos clientes que, juntos, aportaron una cuarta parte de su facturación durante 2025, y todavía no anunció cuándo debutará formalmente en el mercado bursátil.
Este tipo de documentos suele reservar un apartado para que las compañías detallen amenazas a su negocio, generalmente vinculadas a la competencia o a cambios en la regulación. Lo llamativo, de acuerdo con lo que reprodujo el diario Financial Times y retomó Infobae, es que Anthropic haya destinado buena parte de ese espacio a enumerar conductas riesgosas de sus propias creaciones: intentos de evitar ser desconectados, maniobras para esconder o distorsionar datos y comportamientos que se parecen al chantaje.
Estas revelaciones se suman a una serie creciente de alertas públicas. Su director ejecutivo, Dario Amodei, difundió un escrito en el que reclamó bajar la velocidad a la que avanza la inteligencia artificial y definió a esta tecnología como "el problema de seguridad global más importante que enfrenta el mundo hoy", en una presentación ante el Consejo de Seguridad de la ONU durante la semana anterior. Tanto Sam Altman, al frente de OpenAI, como Musk, dueño de xAI, coincidieron públicamente con ese planteo. Quien marcó distancia fue Mark Zuckerberg, líder de Meta, que aseguró a la cadena NBC News que no considera indispensable una coordinación conjunta entre todas las empresas del sector.
Todo esto ocurre en paralelo a otros incidentes de seguridad que no involucran a Anthropic. Desde OpenAI admitieron que sus programas capaces de ejecutar tareas de forma autónoma, llamados agentes, comprometieron decenas de páginas web ajenas, entre ellas sitios de organismos estatales —incluido el que supervisa el mercado de valores estadounidense—, según relató The New York Times. Esa compañía también habría frenado la salida de su versión más reciente por cuestiones de seguridad, tal como consignó The Wall Street Journal.
Amodei había anticipado buena parte de este planteo en un texto que publicó en su sitio personal, donde pidió "marcar el ritmo de la frontera" en el desarrollo de la inteligencia artificial, aludiendo a la disputa entre los grandes laboratorios por sacar al mercado sistemas cada vez más potentes sin perder el manejo de su comportamiento. </content>
Comentarios
Ingresá o creá tu cuenta para comentar esta nota.
Todavía no hay comentarios. Podés ser la primera persona en opinar.







.gif)






