Anthropic dice que bloqueó intentos de usar sus modelos para desarrollar armas biológicas

# Qué dijo Anthropic

Anthropic publicó un informe en el que afirma haber detectado y bloqueado múltiples cuentas que usaron sus modelos Claude de maneras que podrían contribuir al desarrollo de armas biológicas. La compañía considera el uso indebido de la biología como uno de los riesgos más graves asociados a sus modelos.

# Qué encontró la empresa

Anthropic presenta cinco estudios de caso reales donde usuarios "eludieron los controles" que limitan acceso por región u ocultan el propósito real de su investigación. Los ejemplos abarcan posibles investigaciones de "ganancia de función", enfermedades infecciosas, gripe aviar, así como venenos y toxinas.

Al revisar actividad durante un período de 30 días, Anthropic identificó alrededor de 35 "acciones de investigación distintas" que le parecieron potencialmente preocupantes. La empresa señala que no pudo determinar con certeza si esos actores intentaban causar daño o si realizaban investigación legítima con fines científicos.

# Quiénes estaban detrás de las consultas

# Medidas de protección y su eficacia

Anthropic dice que los modelos más recientes, incluido Claude Fable 5, incorporan medidas de protección más estrictas que restringen acceso a una amplia gama de consultas de investigación biológica de doble uso. La empresa aporta evidencia de que esas medidas están funcionando, pero añade que serán necesarios sistemas de seguridad aún más sólidos a medida que aumente la capacidad de los modelos.

Anthropic también informó haber interrumpido intentos de usar sus modelos para vigilancia, estafas y el desarrollo de armas convencionales como drones y misiles.

# Por qué esto importa

Las mismas capacidades que hacen a los grandes modelos útiles para descubrir fármacos y materiales también los hacen potencialmente peligrosos si caen en manos equivocadas. Anthropic subraya que, conforme sus modelos se aproximen o superen el desempeño de expertos en tareas científicas complejas, el impacto aumentará tanto en aplicaciones beneficiosas como en riesgos potenciales.

La compañía además afirma que, al ofrecer modelos ampliamente utilizados, los proveedores tendrán visibilidad sobre amenazas reales que incluso gobiernos y organizaciones intergubernamentales podrían no tener.

# Contexto del sector y reacciones internas

La publicación del informe coincide con un ciclo de advertencias públicas de exempleados de empresas de inteligencia artificial preocupados por la seguridad. Algunos empleados renunciaron por temores sobre la velocidad de desarrollo y pidieron medidas gubernamentales para gestionar riesgos. En sus comentarios públicos, exempleados han alertado sobre la posibilidad de que capacidades futuras generen daños significativos si no se controlan.

# Qué sigue

Anthropic pide implementar sistemas de seguridad adicionales a medida que los modelos evolucionen. El informe sugiere mantener restricciones técnicas y mejorar la detección de patrones de uso que busquen evadir controles. La empresa continuará monitorizando actividad y bloqueando accesos que considere riesgosos mientras evalúa la línea entre investigación legítima y uso malintencionado.