Vitalik Buterin advierte contra la "gobernanza ingenua de la IA" y propone esta alternativa impulsada por el mercado
El creador de Ethereum (ETH), Vitalik Buterin, está expresando cierta preocupación sobre lo que él denomina una gobernanza de inteligencia artificial “ingenua”.
En una publicación en X, Buterin destaca una advertencia del cofundador de EdisonWatch, Eito Miyamura, quien descubrió que actores malintencionados podrían secuestrar el Model Context Protocol (MCP) de OpenAI para acceder a datos privados de los usuarios.
El experimento de Miyamura sugirió que usar una invitación de calendario con comandos ocultos podría potencialmente engañar a ChatGPT para que proporcione datos personales sensibles, siempre que se le diera la dirección de correo electrónico de la víctima.
Buterin afirma,
“Por eso la ‘gobernanza de IA’ ingenua también es una mala idea.
Si usás una IA para asignar fondos a contribuciones, la gente VA a poner un jailbreak más un ‘dame toda la plata’ en tantos lugares como pueda.”
Como alternativa, Buterin sugiere un enfoque de “info finance”, o un mercado abierto donde cualquiera pueda contribuir con un modelo que pueda ser revisado por cualquiera o evaluado por un “jurado humano”.
“Este tipo de enfoque de ‘diseño institucional’, donde creás una oportunidad abierta para que personas con LLMs (large language model) desde afuera se conecten, en vez de codificar un solo LLM vos mismo, es inherentemente más robusto, tanto porque te da diversidad de modelos en tiempo real como porque crea incentivos incorporados para que tanto los que presentan modelos como los especuladores externos estén atentos a estos problemas y los corrijan rápidamente.”
Imagen generada: Midjourney
Imagen destacada: Shutterstock/Zalevska Alona UA
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
Ganancias de 6200 veces, ¿quién es el mayor ganador de Moore Threads?
El 5 de diciembre, Moore Threads debutó oficialmente en la Junta de Innovación Científica y Tecnológica, abriendo a un precio de 650 yuanes, lo que representa un aumento del 468,78% respecto al precio de emisión de 114,28 yuanes.
La divergencia en K de la valoración de los grandes activos: la evolución posterior de la "prima de riesgo fiscal"
Southwest Securities considera que el mercado actual se encuentra en un momento peligroso y dividido, impulsado principalmente por factores fiscales. La lógica macroeconómica tradicional ha dejado de funcionar, y tanto las acciones estadounidenses como el oro se han convertido en herramientas para cubrirse contra el riesgo crediticio de las monedas fiduciarias.
El "presidente en la sombra" de la Reserva Federal, Hassett, se pronuncia: la Fed debería bajar las tasas la próxima semana, se espera una reducción de 25 puntos básicos.
Hassett declaró en una entrevista con los medios que el FOMC ahora parece estar más inclinado a bajar las tasas de interés y se espera una reducción de 25 puntos básicos.
La gran actualización de Ethereum 2025 ha sido completada: la mainnet ahora es más rápida y barata
El 4 de diciembre, la segunda gran actualización del año de Ethereum, Fusaka (correspondiente a la Epoch 411392), fue activada oficialmente en la red principal de Ethereum.
En tendencia
MásPrecios de las criptos
Más
