Віталік попереджає криптопроекти не використовувати штучний інтелект у процесах управління

ChainCatcher повідомляє, що за даними Cointelegraph, співзасновник Ethereum Віталік Бутерін попередив, що криптопроекти, які використовують штучний інтелект у процесах управління, можуть стати жертвами зловмисників.

Минулої суботи Віталік написав у X: “Якщо ви використовуєте штучний інтелект для розподілу грантів, люди обов’язково намагатимуться впровадити інструкції для обходу системи, додаючи вимогу ‘віддати всі гроші мені’.” Ця заява Віталіка була відповіддю на відео засновника AI data-платформи EdisonWatch Ейто Міямури. У відео показано, що минулої середи нова функція ChatGPT від OpenAI має ризик витоку приватної інформації. Віталік вважає, що інцидент із ChatGPT демонструє, що “наївне ‘AI-управління’ є неприйнятним”, і запропонував альтернативу у вигляді “інформаційного фінансового закону”. Він пояснив, що можна створити відкритий ринок, де кожен може внести свою модель, ці моделі підлягають вибірковій перевірці, яку оцінює журі з людей, а механізм вибіркової перевірки може бути ініційований будь-ким.