En el documento entregado a posibles inversores, la empresa dueña del modelo Claude enumera peligros asociados a modelos cada vez más potentes, describe sus ingresos y gastos recientes, y reconoce riesgos comerciales como la concentración de clientes.
Anthropic dijo en su folleto de IPO que su tecnología de IA puede plantear riesgos catastróficos o existenciales para la humanidad.
La compañía reportó 4.600 millones de dólares de ingresos el año pasado y gastos operativos cercanos a 13.000 millones, con previsiones de grandes compromisos en computación en la nube.
Los riesgos operativos incluyen comportamientos impredecibles de modelos, usos maliciosos (como investigación de armas biológicas detectada y bloqueada) y dependencia de pocos clientes.
Anthropic incluyó en su folleto dirigido a potenciales inversores una advertencia explícita: sus modelos de inteligencia artificial, incluido Claude, pueden plantear "riesgos existenciales" o catastróficos para la humanidad. El texto fue compartido con un grupo limitado de inversores ante la prevista salida a bolsa en el Nasdaq.
La compañía reserva una sección del documento a los riesgos técnicos y operativos vinculados al desarrollo de modelos de IA cada vez más avanzados. Entre esos riesgos figura la posibilidad de que los sistemas adopten comportamientos impredecibles, manipulen a personas o ejecuten acciones equivalentes a chantaje, según el resumen publicado por medios que consultaron el folleto.
El folleto también aporta datos económicos: Anthropic registró 4.600 millones de dólares en ingresos en el ejercicio anterior, casi 12 veces más que el año previo. Sin embargo, los gastos operativos ascendieron a casi 13.000 millones de dólares, impulsados en gran medida por los costos informáticos necesarios para entrenar y ejecutar sus modelos.
La empresa plantea comprometer 518.000 millones de dólares en servicios de computación en la nube, capacidad informática e infraestructura durante los próximos años para sostener su expansión. En el año en curso, los ingresos continuaron subiendo, alcanzando 11.500 millones de dólares en el segundo trimestre, aunque los gastos también crecieron.
También se menciona la posibilidad de comportamientos difíciles de prever en modelos cada vez más capaces. Ese tipo de riesgo técnico es la base de las advertencias públicas que figures del sector, incluido el propio liderazgo de Anthropic, han planteado en semanas recientes.
Además del riesgo técnico, el folleto identifica riesgos de negocio: casi una cuarta parte de los ingresos de 2025 provinieron de solo dos clientes, mostrando una dependencia elevada. Esa concentración de ingresos crea vulnerabilidades financieras si alguno de esos acuerdos cambia o se pierde.
La advertencia de Anthropic llega en un momento de debate público y sectorial sobre el ritmo del desarrollo de la IA y las medidas de seguridad necesarias. El CEO de Anthropic, Darío Amodei, ha pedido públicamente una desaceleración en la frontera de desarrollo para reforzar la seguridad. Algunas figuras relevantes del sector han respaldado propuestas similares para analizar y gestionar riesgos a gran escala.
Para inversores, el folleto funciona como aviso legal y como reconocimiento de riesgos reales: costos de infraestructura masivos, dependencia de pocos clientes y riesgos de uso indebido o comportamientos impredecibles. Para reguladores y responsables de política pública, la advertencia aporta un caso concreto de cómo las propias empresas tecnológicas describen amenazas potenciales vinculadas a sistemas avanzados.
La divulgación pública del contenido del folleto generó cobertura internacional, y medios extranjeros registraron la revelación como un paso inusual de una empresa que busca capitalizar comercialmente tecnologías que, al mismo tiempo, reconoce como peligrosas.
Dario Amodei advierte sobre el peligro de una “automejora recursiva” y propone evaluaciones independientes y coordinación global para evitar crisis de ciberseguridad a escala masiva La entrada El director ejecutivo de Anthropic pide una desaceleración inmediata en el desarrollo de la IA se publicó primero en El Diario
Darío Amodei advirtió que el rápido avance de la tecnología conlleva peligros de superinteligencia y solicitó prudencia en la mejora de las capacidades de los modelos para garantizar la seguridad humana. The post El jefe de Anthropic pide frenar el ritmo del desarrollo de la IA appeared first on EL NACIONAL .
Anthropic plans to caution potential investors in its IPO that advanced AI could pose "catastrophic or existential risks to humanity," an extraordinary warning by a company seeking to profit from the same technology.
Bilal Chughtai alertó sobre la falta de control en los modelos de IAG tras renunciar a la compañía tecnológica, sumándose a los llamados de prudencia de ejecutivos y especialistas del sector. The post Exinvestigador de Google DeepMind advierte sobre los riesgos existenciales de la Inteligencia Artificial appeared first
La compañía indicó en un informe que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos La entrada Anthropic desarticuló posibles complots que usaban su IA para investigar armas biológicas se publicó primero en El Diario Venezuela - elD
Loading more related stories...
Open the app view to save this story, compare related coverage, and continue from the same source.