Anthropic revela cinco intentos fallidos de usar su IA para posible investigación de armas biológicas
Anthropic hizo público un informe en el que afirma haber detectado y bloqueado cinco intentos de utilizar sus modelos Claude para apoyar investigaciones biológicas de doble uso que, en el peor escenario, podrían facilitar el desarrollo de armas biológicas. El caso más detallado involucra una propuesta de ganancia de función sobre el virus chikungunya, que fue contenida por filtros automáticos y revisión humana. El anuncio llega en plena polémica por la renuncia del investigador Jacob Coxon, que acusa a los grandes laboratorios de subestimar riesgos extremos, y alimenta las demandas de marcos regulatorios más estrictos para la IA avanzada.
Leer noticia

















