Buterin insta a Info Finance a detener los exploits en la gobernanza de IA

• Vitalik advierte que la gobernanza ingenua de la IA es vulnerable a la manipulación y a los exploits.
• La info finance crea diversidad de modelos y correcciones rápidas, haciendo la gobernanza de la IA más segura.
• Los mercados de predicción y las verificaciones aleatorias ayudan a asegurar la toma de decisiones y la financiación de la IA.

El cofundador de Ethereum, Vitalik Buterin, ha advertido que los modelos ingenuos de gobernanza de la IA presentan riesgos serios y ha señalado que los marcos que dependen de la IA para la financiación o la toma de decisiones siguen siendo vulnerables a la manipulación y los exploits. En su opinión, estos sistemas permiten que actores maliciosos desvíen recursos; sin embargo, aboga por un enfoque llamado “info finance”, diseñado para construir responsabilidad y prevenir el mal uso a través de mercados, supervisión humana y controles.

El caso en contra de la gobernanza ingenua de la IA

Buterin enfatizó que la gobernanza ingenua de la IA es arriesgada y añadió que si la IA se utiliza para asignar fondos, las personas podrían manipularla con indicaciones de su elección y obtener dinero en exceso. Explicó además que si los modelos funcionaran sin restricciones ni directrices, podrían ser mal gestionados, alentando así a los hackers a usar prompts y engañar a la IA para liberar recursos incorrectos. 

Tales vulnerabilidades ponen a la IA en un posible ciclo peligroso. Además, Buterin reveló debilidades sistémicas que, si no se controlan, podrían ser manipuladas. Ataques invisibles e inyecciones de prompts son ejemplos de cómo los atacantes pueden aprovecharse fácilmente.

Info Finance como alternativa

Buterin opta por la info finance en lugar de la gobernanza ingenua, describiéndola como un enfoque de “diseño institucional” que combina la competencia de mercado abierto con la verificación humana. Él dijo,

Como alternativa, apoyo el enfoque de info finance, donde tienes un mercado abierto en el que cualquiera puede contribuir con sus modelos, los cuales están sujetos a un mecanismo de verificación aleatoria que puede ser activado por cualquiera y evaluado por un jurado humano.

Explicó que Info Finance permite a los contribuyentes externos integrar grandes modelos de lenguaje (LLMs) sin codificar rígidamente un solo sistema. Esto permitirá la diversidad de modelos, reduciendo así la posibilidad de fallos generalizados. También crea incentivos para que desarrolladores y especuladores vigilen de cerca los defectos y actúen rápidamente cuando surjan problemas.

Un mecanismo propuesto implica mercados de predicción o mercados de decisiones. Varios modelos competirían y los participantes podrían apostar sobre los resultados, señalando qué modelos parecen más confiables. Jurados o auditores humanos verificarían periódicamente los resultados, especialmente en casos de alto riesgo.

Relacionado: Las tesorerías de ETH aumentan a $12B mientras Vitalik advierte sobre los riesgos de apalancamiento

Implicaciones para las criptomonedas y los mercados

La info finance se basa en la responsabilidad por capas y es notable en la competencia abierta, que permite desafiar o reemplazar modelos defectuosos. La supervisión humana se añade a través de jurados y auditorías. Los incentivos económicos impiden la manipulación, mientras que la transparencia hace visible el comportamiento malicioso.

Al vincular la gobernanza de la IA con blockchain y el trading, Buterin sugiere que los fallos en la IA centralizada podrían aumentar el interés en soluciones descentralizadas, principalmente construidas sobre Ethereum. Además, tokens como RNDR de Render Network y GRT de The Graph proporcionan infraestructura para cálculos de IA, beneficiándose así del desarrollo. Además, los traders también podrían usar ETH y estos tokens para arbitraje en medio de la volatilidad del mercado. 

Los datos on-chain indican que hay más transacciones de ETH asociadas con contratos inteligentes relacionados con IA y que los problemas de gobernanza de la IA pueden impactar también a las acciones tecnológicas, con empresas como NVIDIA y Microsoft involucradas en inversiones en IA. En general, Buterin señaló que Info Finance permite correcciones más rápidas, reemplazando así modelos defectuosos y penalizando a los infractores. También añadió que las verificaciones por jurado y las verificaciones aleatorias evitarán que la explotación se propague.

El artículo Buterin Pushes Info Finance to Stop Exploits in AI Governance apareció primero en Cryptotale.