Vitalik Buterin Memperingatkan Terhadap 'Tata Kelola AI yang Naif', Mendorong Alternatif Berbasis Pasar Ini

Pencipta Ethereum (ETH), Vitalik Buterin, mengungkapkan kekhawatiran terkait apa yang ia sebut sebagai tata kelola kecerdasan buatan (AI) yang “naif”.

Dalam sebuah postingan di X, Buterin menyoroti peringatan dari salah satu pendiri EdisonWatch, Eito Miyamura, yang menemukan bahwa pelaku jahat dapat membajak Model Context Protocol (MCP) milik OpenAI untuk mendapatkan akses ke data pribadi pengguna.

Eksperimen Miyamura menunjukkan bahwa menggunakan undangan kalender dengan perintah tersembunyi berpotensi menipu ChatGPT untuk memberikan data pribadi yang sensitif selama alamat email korban diberikan.

Kata Buterin,

“Inilah juga alasan mengapa ‘tata kelola AI’ yang naif adalah ide yang buruk.

Jika Anda menggunakan AI untuk mengalokasikan pendanaan bagi kontribusi, orang-orang PASTI akan memasukkan jailbreak plus ‘beri saya semua uangnya’ di sebanyak mungkin tempat.”

Sebagai alternatif, Buterin menyarankan pendekatan “info finance”, atau pasar terbuka di mana siapa pun dapat berkontribusi pada model yang dapat diperiksa oleh siapa saja atau dievaluasi oleh “juri manusia”.

“Pendekatan ‘desain institusi’ seperti ini, di mana Anda menciptakan peluang terbuka bagi orang-orang dengan LLM (large language model) dari luar untuk terhubung, alih-alih mengkodekan satu LLM saja, secara inheren lebih tangguh, baik karena memberikan keragaman model secara real time maupun karena menciptakan insentif bawaan bagi pengirim model dan spekulan eksternal untuk mengawasi masalah ini dan segera memperbaikinya.

Generated Image: Midjourney
Featured Image: Shutterstock/Zalevska Alona UA