OpenAIとAnthropicがモデルの幻覚やセキュリティなどの問題を相互検証

Jinse Financeによると、OpenAIとAnthropicは最近、お互いのモデルを評価し合い、自社のテストで見落とされている可能性のある問題を発見しようとした。両社は水曜日、それぞれのブログで、今夏に相手の公開されているAIモデルに対して安全性テストを実施し、モデルに幻覚傾向や、いわゆる「ミスアライメント」（misalignment）、すなわち開発者の意図通りに動作しない問題が存在するかどうかを検証したと述べた。これらの評価は、OpenAIがGPT-5をリリースし、Anthropicが8月初旬にOpus 4.1を発表する前に完了している。Anthropicは元OpenAIの社員によって設立された。