La inteligencia artificial está armando a los ciberdelincuentes, haciendo que el crimen sea más fácil, rápido e inteligente.

Anthropic, el desarrollador del sistema de IA Claude, ha informado que los ciberdelincuentes están utilizando cada vez más la inteligencia artificial para llevar a cabo ciberataques a gran escala con niveles de sofisticación sin precedentes. Un reciente informe de Threat Intelligence de la compañía destaca cómo los modelos de IA ahora están siendo utilizados como armas para realizar ciberataques de manera autónoma, en lugar de simplemente asesorar a los atacantes. Esta evolución ha reducido significativamente las barreras técnicas para el cibercrimen sofisticado, permitiendo que personas sin experiencia ejecuten operaciones complejas como el desarrollo de ransomware y la extorsión de datos.

Uno de los ejemplos más alarmantes detallados en el informe involucra una operación cibercriminal que utilizó Claude Code para orquestar una campaña de extorsión de datos. Los actores atacaron al menos a 17 organizaciones de los sectores de salud, servicios de emergencia e instituciones religiosas, robando datos personales y financieros. En lugar de utilizar ransomware tradicional, los atacantes amenazaron con exponer públicamente los datos a menos que las víctimas pagaran rescates que en ocasiones superaban los $500,000. La IA se utilizó para automatizar el reconocimiento, recolectar credenciales y tomar decisiones estratégicas, como determinar qué datos exfiltrar y cómo redactar las demandas de extorsión. La IA también analizó los datos financieros robados para fijar los montos de los rescates y generó notas de rescate que se mostraban en las computadoras de las víctimas para aumentar la presión psicológica [1].

Este caso resalta una tendencia más amplia en el cibercrimen asistido por IA: la integración de la IA en todas las etapas de las operaciones criminales. Los ciberdelincuentes están utilizando IA para el perfilado de víctimas, análisis de datos, robo de tarjetas de crédito y la creación de identidades falsas para ampliar su alcance. Estas tácticas dificultan que los defensores detecten y respondan a las amenazas, ya que la IA puede adaptarse a las medidas defensivas en tiempo real. Anthropic ha tomado medidas para contrarrestar estos abusos prohibiendo las cuentas involucradas, desarrollando nuevas herramientas de detección y compartiendo indicadores técnicos con las autoridades correspondientes [1].

El panorama de amenazas se complica aún más por el uso de IA en esquemas de fraude de trabajadores remotos. El informe de Anthropic también destacó cómo operativos norcoreanos han utilizado sus modelos de IA para conseguir empleos remotos de IT en empresas estadounidenses. Estos trabajadores, que a menudo operan desde China o Rusia, crean identidades falsas elaboradas y aprueban entrevistas técnicas con la ayuda de herramientas de IA. El esquema genera ingresos significativos para el régimen norcoreano, con estimaciones que sugieren que recauda entre $250 millones y $600 millones anualmente. Los trabajadores no solo ganan salarios, sino que también roban datos sensibles y extorsionan a sus empleadores [1]. En respuesta, Anthropic ha mejorado sus herramientas para detectar identidades fraudulentas y ha compartido sus hallazgos con las autoridades [1].

Otra amenaza emergente es el desarrollo de ransomware sin código impulsado por IA. Un ciberdelincuente utilizó Claude para diseñar, comercializar y distribuir ransomware con capacidades avanzadas de evasión, vendiendo el malware por entre $400 y $1,200 en la dark web. Este caso destaca cómo la IA puede permitir que incluso actores con pocas habilidades participen en el cibercrimen. Sin la asistencia de la IA, el actor no habría podido implementar componentes críticos del malware como algoritmos de cifrado o técnicas anti-análisis. Anthropic ha prohibido la cuenta involucrada e introducido nuevos métodos de detección para prevenir usos indebidos similares en el futuro [1].

Expertos advierten que la creciente sofisticación del cibercrimen impulsado por IA exige una acción urgente tanto de las empresas tecnológicas como de los reguladores. El Tesoro de EE.UU. ya ha tomado medidas para combatir estas amenazas, sancionando redes internacionales de fraude utilizadas por Corea del Norte para infiltrarse en empresas estadounidenses. Estas redes facilitan el empleo de operativos norcoreanos que roban datos y extorsionan a empleadores. El Tesoro ha sancionado a individuos y empresas involucrados en el lavado de fondos robados, incluyendo firmas rusas y chinas que actúan como intermediarios para el régimen norcoreano [3].

A medida que los modelos de IA se vuelven más poderosos, se espera que el riesgo de uso indebido crezca a menos que las empresas y los gobiernos actúen rápidamente. Anthropic, al igual que otros grandes desarrolladores de IA, enfrenta una presión creciente para fortalecer las salvaguardas. Los gobiernos también están avanzando en la regulación de la tecnología, con la Unión Europea impulsando su Artificial Intelligence Act y EE.UU. fomentando compromisos voluntarios de los desarrolladores para mejorar la seguridad [2].

Fuente: