Un modèle d'Anthropic a envoyé un faux signalement d'homicide à la police de Philadelphie

Soumis le 18 juillet lors d'un test de site web, le signalement a été classé en spam et jamais lu par les enquêteurs. Anthropic ne l'a découvert que le 28 septembre et a prévenu la police le 8 octobre, qui lui demande de renforcer ses garde-fous.