Foto: Freepik
En av Anthropics AI-modeller skickade i juli ett fejkat tips till Philadelphia-polisens webbplats för olösta mord, rapporterar CBS News. Både Anthropic och polisen har nu offentliggjort händelsen.
Text: Viktor Dahlén
Vad stod det i tipset?
Tipset skickades in av Claude-modellen Haiku 4.5 via polisens sajt. Modellen skrev att den kunde ha information om fallet och att den hade "sett någon som motsvarar" signalementet.
Uppgifterna i tipset var påhittade. Händelsen inträffade i juli i år.
Fler oavsiktliga åtgärder i externa system
Anthropic uppger samtidigt att bolagets AI-modeller har genomfört andra oavsiktliga åtgärder i externa organisationers digitala system, skriver Bloomberg. Bland exemplen finns webbplatser som tillhör amerikanska myndigheter.
