OpenAI與Anthropic互測模型幻覺與安全性等問題

Jinse Finance報導，OpenAI與Anthropic近日互相對對方的模型進行了評估，以期發現自身測試中可能遺漏的問題。兩家公司週三在各自的部落格上表示，今年夏天，它們針對對方公開可用的AI模型進行了安全性測試，並檢驗了模型是否存在幻覺傾向，以及所謂「失準」（misalignment）問題，即模型未按開發者預期運行。這些評估是在OpenAI推出GPT-5，以及Anthropic於8月初發佈Opus 4.1之前完成的。Anthropic由前OpenAI員工創立。