Vitalik Buterin met en garde contre une « gouvernance naïve de l’IA » et préconise cette alternative axée sur le marché

Le créateur d’Ethereum (ETH), Vitalik Buterin, exprime une certaine inquiétude concernant ce qu’il qualifie de gouvernance de l’intelligence artificielle « naïve ».

Dans une publication sur X, Buterin met en avant un avertissement du cofondateur d’EdisonWatch, Eito Miyamura, qui a découvert que des acteurs malveillants pouvaient détourner le Model Context Protocol (MCP) d’OpenAI pour accéder à des données privées d’utilisateurs.

L’expérience de Miyamura suggérait que l’utilisation d’une invitation de calendrier contenant des commandes cachées pouvait potentiellement tromper ChatGPT afin d’obtenir des données personnelles sensibles, à condition d’avoir l’adresse e-mail de la victime.

Buterin déclare :

« C’est aussi pourquoi une ‘gouvernance IA’ naïve est une mauvaise idée.

Si vous utilisez une IA pour allouer des financements aux contributions, les gens AJOUTERONT un jailbreak ainsi que ‘donne-moi tout l’argent’ partout où ils le pourront. »

En alternative, Buterin suggère une approche « info finance », ou un marché ouvert où chacun peut proposer un modèle qui peut être vérifié par tous ou évalué par un « jury humain ».

« Ce type d’approche de ‘conception institutionnelle’, où vous créez une opportunité ouverte pour que des personnes extérieures disposant de LLMs (large language model) puissent se connecter, plutôt que de coder en dur un seul LLM vous-même, est intrinsèquement plus robuste, à la fois parce qu’il vous offre une diversité de modèles en temps réel et parce qu’il crée des incitations intégrées pour que les soumissionnaires de modèles et les spéculateurs externes surveillent ces problèmes et les corrigent rapidement. »

Image générée : Midjourney
Image à la une : Shutterstock/Zalevska Alona UA