Saltar al contenido

InvestigaciónAnthropic

Anvil, el red-teaming automatizado de Anthropic, supera a los expertos humanos contra las salvaguardas de Claude

Anthropic Anvil en resumen

Anthropic publicó Anvil el 12 de noviembre de 2026, su sistema de red-teaming automatizado para las salvaguardas de Claude: Anvil superó a los equipos humanos en salvaguardas de armas biológicas, ciberseguridad y destilación, y encontró jailbreaks más fuertes en 24 a 48 horas en vez de semanas.

Pregúntale a tu IA sobre esta noticia

Usa esta noticia en tu negocio: Anvil, el red-teaming automatizado de Anthropic, supera a los expertos humanos contra las salvaguardas de Claude (Anthropic). Pídele a tu IA que te explique qué pasó, cómo podría afectar a tu negocio y cómo ponerlo a trabajar. También que compare precio, velocidad, inteligencia y el laboratorio detrás. El enlace a la noticia va incluido.

Qué cambió con Anthropic Anvil

Anthropic publicó Anvil el 12 de noviembre de 2026, un sistema de red-teaming automatizado que construyó para atacar las propias salvaguardas de Claude: los clasificadores que bloquean la ayuda con armas biológicas, la explotación cibernética y la extracción del razonamiento oculto de Claude. Anvil ejecuta equipos de agentes investigadores de Claude, basados en versiones internas de frontera de Claude con sus propias salvaguardas desactivadas, que iteran jailbreaks en paralelo. Anthropic dice que ya usa Anvil para examinar las salvaguardas nuevas antes de desplegarlas, cumpliendo el objetivo de su Responsible Scaling Policy de encontrar vulnerabilidades en las salvaguardas mejor que los red-teamers humanos expertos.

En las pruebas de Anthropic, la diferencia fue amplia. Los cazadores humanos de su programa de recompensas dedicaron 430 horas en más de siete semanas a sus clasificadores biológicos y encontraron un jailbreak de alta gravedad en solo 1 de 8 preguntas; Anvil encontró un jailbreak más fuerte que los humanos en 23 de 24 combinaciones de pregunta y clasificador, en 24 a 48 horas.

En tareas de ciberseguridad rompió cada tarea en cada modelo que recibió en 0,4 a 4,4 horas cada una, donde los expertos contratados tardaron hasta 177 horas y rompieron menos, y contra los clasificadores antidestilación llegó a su primera filtración sustancial de razonamiento tras 435 solicitudes, frente a las 102.200 que necesitaron los humanos. Los jailbreaks que encontró Anvil también sirvieron para endurecer los clasificadores: entre generaciones, la proporción de ataques de Anvil que las evaluaciones antidestilación no detectaron cayó del 31,5% al 0,4%. Anthropic es claro en que esto es un arma de doble filo: la potencia de Anvil crece con el modelo subyacente, así que atacantes con modelos de salvaguardas más débiles podrían construir sistemas parecidos.

Anthropic Anvil en cifras

Los valores provienen de la fuente enlazada en la fecha indicada. No son mediciones de IA Compa.

Pares pregunta-clasificador donde Anvil superó a los humanosal · Fuente de Pares pregunta-clasificador donde Anvil superó a los humanos: safeguards.anthropic.com (se abre en una pestaña nueva)
23 de 24

Por qué Anthropic Anvil importa para los negocios

Por qué importa: si tu negocio se apoya en Claude o en agentes que actúan dentro de tus sistemas, las salvaguardas son parte de lo que estás comprando, y Anvil es la prueba de que esas salvaguardas ahora se someten a ataques automatizados de nivel atacante antes del lanzamiento, y no solo a pruebas humanas después. También marca un patrón que se exigirá a otros proveedores —el red-teaming automatizado como paso estándar antes de publicar— y una premisa para tus propias revisiones de seguridad: las técnicas de jailbreak seguirán mejorando junto con los modelos, así que conviene mantener la aprobación humana y el acceso mínimo en cualquier agente que pueda gastar dinero, enviar mensajes o cambiar registros.

Recibe Noticias de IA por correo

Noticias de IA verificadas, cada una con su fuente oficial, los lunes y jueves por la mañana. Agrega las noticias de última hora para enterarte de las más importantes en cuanto las publicamos.

Cada noticia enlaza su fuente oficial

Gratis, en español o en inglés

Date de baja con un clic, cuando quieras

Qué quieres recibir

Fuentes de esta noticia

  1. Oficial

Última verificación: . IA Compa resume anuncios públicos para lectores de negocios. No tenemos relación con las empresas mencionadas. Confirma siempre los detalles, precios y disponibilidad con la fuente oficial.

  • #anvil
  • #automated-red-teaming
  • #claude-safeguards
  • #ai-jailbreaks
  • #ai-safety
  • #anthropic-safeguards

¿Quieres aplicarlo en tu negocio?

Convertimos las nuevas capacidades de IA en agentes, recepcionistas de voz y automatizaciones que realmente puedes usar.