Ethereum : Buterin alerte sur les dérives de l’IA dans la gouvernance

L’intelligence artificielle fait rêver. Mais elle fait aussi peur, surtout quand on commence a parler de gouvernance. Vitalik Buterin, le célèbre cofondateur d’Ethereum, vient justement de tirer la sonnette d’alarme. Pour lui, confier à une IA des décisions cruciales comme la gestion de fonds ou les votes dans une DAO serait une grosse erreur. Son avertissement arrive alors qu’une démonstration inquiétante a mis en lumière les limites de la sécurité de ChatGPT. Une simple ligne cachée dans un calendrier a suffi à piéger l’IA. Alors, l’IA dans la gouvernance crypto : bonne idée ou bombe à retardement ?

Vitalik Buterin tire la sonnette d’alarme

Dans une série de messages publiés sur X, Vitalik Buterin n’y va pas par quatre chemins : utiliser une IA pour gérer la gouvernance d’un projet crypto, c’est ouvrir la porte à toutes les dérives possibles. Il parle même d’une approche « naïve », tant les failles peuvent être nombreuses.

Buterin l’explique simplement : si une IA décide toute seule où va l’argent, certains vont forcément trouver un moyen de la piéger avec des instructions cachées. C’est ce qu’on appelle un « jailbreak » ; une astuce pour tromper l’IA et lui faire faire ce qu’elle ne devrait pas… comme par exemple envoyer tous les fonds à une adresse choisie.

L’affaire ChatGPT qui illustre parfaitement le problème

L’exemple qui a tout déclenché, c’est une démonstration faite par le développeur Eito Miyamura. Il a montré qu’il suffisait d’envoyer une invitation de calendrier à ChatGPT, avec un message un peu particulier, pour que l’IA se mette à exécuter des actions en douce. Résultat ? Exfiltration de données privées, sans que l’utilisateur s’en rende compte.

La faille est plutôt simple : Chat GPT peut maintenant se connecter à votre calendrier Google. Il suffit d’avoir un prompt malicieux caché dans un évènement, et chat GPT l’exécutera sans questionnement. Dans la vidéo ci-dessus par exemple, le prompt est tout simplement d’envoyer toutes infos de la boite mail lié au calendrier a un nouvel email :

On peut donc se faire hacker simplement par un évènement Google.

Les risques d’une gouvernance IA sans contrôle

L’exemple de ChatGPT le montre bien : si une IA peut se faire avoir aussi facilement, lui confier les clés d’un système de gouvernance est vraiment risqué. Surtout dans la crypto, où des millions, parfois des milliards, de dollars sont en jeu… ça peut vite tourner à la catastrophe.

En plus du risque de détournement de fonds, il y a celui de la centralisation : si un seul modèle d’IA est utilisé partout, toute la sécurité repose sur lui. Une faille, un bug ou une manipulation, et c’est tout l’écosystème qui peut vaciller. Perte de confiance, attaque ciblée, manipulation des décisions… Buterin le dit clairement : l’IA ne peut pas gouverner seule.

Le modèle « Info Finance » proposé par Buterin

Plutôt que d’interdire l’IA, Vitalik propose un modèle plus intelligent : un système qu’il appelle « info finance », où l’IA a sa place, mais toujours sous contrôle humain. L’idée ? Ne jamais dépendre d’un seul modèle ou d’un seul acteur. Il faut de la diversité, de la concurrence, et surtout… de la surveillance.

Dans ce modèle, plusieurs IA peuvent être proposées pour analyser ou suggérer des décisions. Des vérifications aléatoires (des « spot-checks ») permettent de s’assurer qu’aucune ne triche. Et en cas de doute, un jury humain est là pour trancher. Bref, une gouvernance hybride où l’IA aide, mais ne décide pas seule.

L’alerte de Buterin tombe au parfait moment. L’intelligence artificielle progresse vite, mais elle reste manipulable. Dans la gouvernance crypto, cela peut coûter cher. Finalement, l’enjeu n’est pas d’écarter l’IA, mais de l’utiliser avec intelligence.

Source : Vitalik Butherin , Eito Miyamura

Pour aller plus loin sur le sujet :

• Ethereum : 2,65 millions d’ETH en attente de retrait, un record qui secoue le marché
• Explosion des mineurs BTC : l’énorme pari IA de Microsoft déclenche une ruée haussière
• Diella, une agent IA ministre en Albanie : quel impact pour les cryptos à long terme ?