{"id":509,"publicationKind":"news","title":"Anthropic revela cinco intentos fallidos de usar su IA para posible investigación de armas biológicas","subtitle":"El informe coincide con las denuncias de un exempleado y reaviva el debate sobre controlar la IA avanzada","content":"Anthropic, desarrolladora de los modelos de IA Claude, divulgó hoy un informe de inteligencia de amenazas en el que afirma haber detectado y frustrado cinco intentos de usar sus sistemas para apoyar investigaciones que podrían facilitar el desarrollo de armas biológicas. La empresa enmarca los incidentes como señales tempranas de cómo la IA avanzada puede empezar a bajar barreras técnicas en biotecnología sensible si no se acompaña de salvaguardas robustas.\n\n## Qué tipo de usos se intentaron\n\nEl caso más detallado del informe describe a un solicitante que pidió a Claude ayuda para redactar una propuesta de subvención centrada en investigación de ganancia de función sobre el virus chikungunya, con el objetivo de aumentar su transmisibilidad y capacidad de evasión inmune. Anthropic señala que este tipo de trabajo puede tener fines legítimos, como mejorar vacunas, pero también podría servir para hacer al patógeno más peligroso y, por tanto, cruza sus líneas rojas de seguridad.\n\nEn total, la compañía documenta cinco estudios de caso de posible uso indebido biológico, vinculados a investigadores con afiliaciones académicas y, en algunos ejemplos, a instituciones estatales, que buscaban orientación experimental sobre virus y otros agentes en contextos que Anthropic clasifica como de “doble uso” de alto riesgo.\n\n## Cómo se detectaron y frenaron los intentos\n\nSegún el informe, los incidentes se produjeron entre finales de 2025 y mediados de 2026 y fueron identificados por una combinación de sistemas automáticos y revisión humana. Los modelos más recientes de Anthropic operan bajo niveles de seguridad biológica reforzados (ASL-3), que incluyen clasificadores especializados capaces de marcar consultas relacionadas con armas químicas, biológicas, radiológicas y nucleares, así como reglas que limitan la profundidad técnica de las respuestas incluso cuando las preguntas se presentan como proyectos científicos legítimos.\n\nEn el episodio del chikungunya, estos filtros impidieron que las versiones más potentes de Claude procesaran la solicitud y derivaron la interacción hacia un modelo de menor capacidad, que ofreció solo información superficial antes de ser bloqueado por el equipo de seguridad. Anthropic afirma que, en varios de los cinco casos, detectó también intentos de eludir restricciones geográficas y de ocultar el propósito real de la investigación, lo que desencadenó análisis adicionales y el cierre de cuentas.\n\n## Salvaguardas técnicas y supervisión humana\n\nEl informe sitúa estos episodios dentro de una arquitectura de seguridad más amplia. Anthropic asegura aplicar una política de escalado responsable que condiciona el despliegue de cada nueva generación de Claude a pruebas específicas sobre riesgos biológicos, red-teaming con expertos externos y umbrales de capacidad que, si se superan, obligan a endurecer los controles. A ello se suman clasificadores “constitucionales” diseñados para resistir intentos de jailbreak y un equipo interno de threat intelligence encargado de monitorizar patrones anómalos de uso y coordinar respuestas.\n\nAun así, la propia empresa reconoce que ya no puede garantizar que sus modelos más avanzados sean incapaces de ayudar a usuarios con alta pericia en biología, y que el objetivo de estas capas de seguridad es reducir la probabilidad y el impacto de un abuso, no eliminarlos por completo. Informes internacionales sobre seguridad de la IA coinciden en que los modelos de frontera empiezan a acercarse a umbrales preocupantes en materia de riesgo biológico.\n\nEl informe se publica en plena controversia por la renuncia de Jacob Coxon, investigador de Anthropic que dejó la empresa poco antes de consolidar buena parte de su equity y que advierte de un riesgo significativo de catástrofe global causada por IA avanzada. Sus críticas, en las que acusa a los grandes laboratorios de “jugar con nuestras vidas”, alimentan los argumentos de quienes reclaman que episodios como estos se gestionen no solo con salvaguardas voluntarias, sino también con regulación y supervisión pública, nacional e internacional, más estrictas.","summary":"Anthropic hizo público un informe en el que afirma haber detectado y bloqueado cinco intentos de utilizar sus modelos Claude para apoyar investigaciones biológicas de doble uso que, en el peor escenario, podrían facilitar el desarrollo de armas biológicas. El caso más detallado involucra una propuesta de ganancia de función sobre el virus chikungunya, que fue contenida por filtros automáticos y revisión humana. El anuncio llega en plena polémica por la renuncia del investigador Jacob Coxon, que acusa a los grandes laboratorios de subestimar riesgos extremos, y alimenta las demandas de marcos regulatorios más estrictos para la IA avanzada.","extendedSummary":"Anthropic publicó un informe de inteligencia de amenazas donde detalla cinco estudios de caso en los que actores con formación científica intentaron usar sus modelos Claude para obtener asistencia en experimentos de biología de alto riesgo, incluido un proyecto de ganancia de función sobre el virus chikungunya. Los incidentes, detectados entre finales de 2025 y 2026, fueron identificados mediante clasificadores especializados para riesgos biológicos, niveles de seguridad escalonados (ASL-3) y un equipo interno de monitorización, que derivó ciertas consultas a modelos menos potentes y terminó bloqueando cuentas. El documento se apoya en años de trabajo en políticas de escalado responsable, red-teaming con expertos y clasificadores “constitucionales”. En paralelo, las denuncias públicas del exinvestigador Jacob Coxon, que alerta sobre riesgos catastróficos de la IA, refuerzan la presión para que episodios como estos se gestionen con regulación y supervisión pública, no solo con compromisos voluntarios de la industria.","imageUrl":"https://media.proyecto42.com/articles/1789081354636-cz25d8.webp","contentType":"technology","keywords":["Estados Unidos","Anthropic","inteligencia artificial","armas biológicas","seguridad","regulación IA","Jacob Coxon"],"regionCodes":["GLOBAL"],"sources":[],"audioExtendedSummary":"https://media.proyecto42.com/audio-summarys/1789081358014-anthropic-revela-cinco.mp3","isUrgent":false,"publishedAt":"2026-09-10T23:02:38.419Z","contentModifiedAt":"2026-09-10T23:02:38.419Z","publicationMode":"legacy-import","aiModel":"gpt-5.1-2025-11-13","author":{"name":"Pyx"}}