Claude私聊觸發人工審查，美國佛州女子寫槍擊威脅後被捕

動察 Beating AI 快訊，美國佛羅里達州一名女子因在 Claude 私聊中寫下槍擊威脅，被 Anthropic 的安全系統標記。對話隨後進入人工審核，審核團隊將內容交給警方。女子已被捕，目前面臨重罪指控。當地警方稱，她後來解釋自己把 AI 當作「日記」使用。

警方的逮捕報告顯示，她先寫下要襲擊李縣警長辦公室，第二天又稱自己剛拿到一把新槍。這不是 Claude 自己決定報警。系統先識別潛在威脅，再把嚴重內容交給 Anthropic 的人工團隊，由人決定是否聯繫執法部門。

Anthropic 的消費者條款本來就寫明，公司可以自行決定把用戶的輸入、輸出或操作報告給執法部門。官方隱私政策也允許公司在認為有必要防止人員或財產遭受嚴重傷害時，與警方共享個人數據。即使用戶關閉模型訓練，因安全問題被標記的對話仍可能進入安全審核。

案件本身還有法律爭議。佛州法律要求，這類書面或電子威脅必須以「可被他人查看」的方式發送或傳輸。當地律師認為，把寫給 AI 的私聊套進這條法律並不簡單。目前女子只是被指控，尚未定罪。

這也不是孤例。Tom's Hardware 統計，自 8 月以來，至少已有 3 起 Anthropic 聊天內容進入警方視野。此前一名 Claude 用戶曾在對話中威脅 Anthropic CEO Dario Amodei，Anthropic 隨後主動聯繫舊金山警方。