ヴィタリック・ブテリンはAIの過剰な自律性の限界を強調し、人間とのより深い関わりを提唱する

イーサリアムの共同創設者であるヴィタリック・ブテリン氏は最近、ソーシャルメディアプラットフォームXで、多くのAI開発者がAIシステムの「エージェント性」を最大限に高めようとしているアプローチについて、不満を表明した。彼は、AIの自律性を高めることに焦点を当てるよりも、人間によるインプットの機会を増やす方が効果的であり、長期的にはより良い結果につながるだけでなく、安全性も向上すると主張した。

「最近では、ゼロから作成するだけのモデルよりも、優れた編集機能を備えたオープンウェイトの AI モデルにとても興奮しています」と彼は出版物で述べています。

「中期的には、生成中のものを表示し、各部分に対する私の感情をリアルタイムで検出し、それに応じて調整するような、高度な BCI のようなものが欲しい」と彼は付け加えた。

AIにおける過剰な自律性の課題と、インタラクティブでユーザー適応型のモデルの将来性

Vitalik Buterin氏は、大規模言語モデル（LLM）は長期的なタスクに最適化されているため、過度に自律的になっていると指摘した、元Tesla AIディレクターのAndrej Karpathy氏の投稿に反応した。 

Andrej Karpathy 氏は、たとえばコーディングでは、これらのモデルは長期間にわたって推論する傾向があり、リポジトリ全体を検索したり、Web 検索を繰り返し実行したり、不完全または積極的に開発中であることがわかっているコードであってもまれなエッジ ケースを過剰に分析したり、単純なクエリに答えるために数分後に戻ってくることが多いと説明しました。

「これは長時間実行されるタスクには理にかなっているかもしれませんが、私が今でも頻繁に行っているような、より「ループ内」の反復的な開発や、スクリプトを実行する前にインデックス作成のミスやその他の単純なエラーがないか確認したいだけの場合には、あまり適していません。私はよくLLMの作業を中断して、『ちょっと待ってください。考えすぎです。このファイルだけに集中してください。ツールは使わないでください。過剰なエンジニアリングはしないでください』と言っている自分に気づきます」と、Andrej Karpathy氏はある出版物で述べています。

ヴィタリック・ブテリン氏は、人工知能における過度の自律性は効率性の低下につながる可能性があるという見解に賛同を示した。彼は、編集機能を備えたオープンソースモデルは、コンテンツをゼロから作成することのみを目的として設計されたモデルよりもはるかに効果的であると主張した。 

イーサリアムの共同創設者である彼は、生成されたコンテンツに対するユーザーの反応をリアルタイムで監視し、それに応じて調整するブレイン・コンピューター・インターフェースの可能性にも言及した。このような技術により、AIシステムはユーザーの意図や期待をより深く理解し、それに応えることができるようになるだろう。彼は、現在の多くのAIモデルはこうした微妙なニュアンスを考慮できていないことが多く、それが全体的な有用性を制限していると指摘した。