Anthropic 公布濫用調查：Claude 被用來經營假交友平台

交友平台上的對話對象可能是 AI，即使有人能視訊，也不代表其他帳號都是真人。Anthropic 調查發現，一家中國工作室用 Claude 建立超過二十款交友 App，對外宣稱全是真人服務，卻混入 AI 身分。公司在今年四月的兩週內，觀察到超過 4,700 個 AI 身分與至少 2.5 萬人交談；這是互動人數，並非已確認的受害人數。

Anthropic 9 月 10 日公布濫用調查報告，涵蓋去年十二月至今年八月間遭其中斷的活動，包括網攻、監控、詐騙等七類。公司指出，在多起網攻案例中，AI 已從回答問題變成執行與協調工作，人類仍設定目標並檢查結果。Anthropic 表示已封鎖相關帳號並改善防護；報告挑選特殊案例，不能用來估算整體犯罪發生率。