Anthropic 承諾讓外部評估員進駐，查核 AI 安全

AI 公司的安全報告通常由公司決定公開哪些內容，外界不容易確認訓練過程是否照承諾執行。Anthropic 執行長 Dario Amodei 認為，AI 協助開發下一代模型的速度正在加快，安全研究可能跟不上。他主張讓獨立評估者持續接觸內部工作，而不只在模型完成後測試，替安全承諾增加外部查核。

Amodei 9 月 12 日發表文章，承諾 Anthropic 將邀請外部團隊進駐，提供近似內部風險評估員的工具與權限。評估者可發布風險和事件發現，公司不得只因結論不利就刪除，但仍有機密與客戶隱私例外。他另提民主國家業者協調開發節奏、再尋求全球合作；這兩步尚待協調，也不等於全面停止模型訓練。文章未公布團隊名單或進駐日期。