Penjahat Memanfaatkan Model AI untuk Mencuri Data Kesehatan, Informasi Keuangan, dan Kredensial Pemerintah, Mengancam Akan Membocorkan Data Kecuali Dibayar Lebih dari $500.000

Anthropic mengatakan bahwa seorang penjahat siber telah menggunakan model kecerdasan buatan (AI) miliknya untuk mencuri informasi pribadi sensitif dan menuntut tebusan besar agar tidak membocorkannya.

Anggota tim intelijen ancaman Anthropic, Alex Moix, Ken Lebedev, dan Jacob Klein mengatakan dalam laporan baru bahwa seorang penjahat siber telah menyalahgunakan chatbot Claude milik perusahaan AI tersebut untuk membantu pencurian data dan permintaan tebusan.

“Baru-baru ini kami berhasil menggagalkan aksi penjahat siber canggih yang menggunakan Claude Code untuk melakukan pencurian dan pemerasan data pribadi dalam skala besar. Pelaku menargetkan setidaknya 17 organisasi yang berbeda…

Pelaku menggunakan AI pada tingkat yang kami yakini belum pernah terjadi sebelumnya. Claude Code digunakan untuk mengotomatisasi pengintaian, mengambil kredensial korban, dan menembus jaringan. Claude diizinkan untuk membuat keputusan taktis dan strategis, seperti menentukan data mana yang akan diekstrak, serta bagaimana menyusun permintaan pemerasan yang ditargetkan secara psikologis. Claude menganalisis data keuangan yang diekstrak untuk menentukan jumlah tebusan yang sesuai, dan menghasilkan catatan tebusan yang secara visual mengkhawatirkan yang ditampilkan di perangkat korban.”

Anthropic mengatakan bahwa penjahat siber tersebut mengatur “kampanye serangan sistematis yang berfokus pada pencurian data secara menyeluruh dan pemerasan” menggunakan model AI tersebut.

“Pelaku memberikan Claude Code TTP (Tactics, Techniques, and Procedures) operasional pilihan mereka dalam file CLAUDE.md yang digunakan sebagai panduan bagi Claude Code untuk merespons permintaan sesuai preferensi pengguna….

Pendekatan sistematis pelaku mengakibatkan kompromi terhadap catatan pribadi, termasuk data kesehatan, informasi keuangan, kredensial pemerintah, dan informasi sensitif lainnya, dengan permintaan tebusan langsung kadang-kadang melebihi $500.000.”

Perusahaan juga mengatakan bahwa penggunaan model AI miliknya untuk tujuan ilegal masih terjadi meskipun telah dilakukan upaya untuk mencegahnya.

“Kami telah mengembangkan langkah-langkah keamanan dan keselamatan yang canggih untuk mencegah penyalahgunaan model AI kami. Meskipun langkah-langkah ini umumnya efektif, penjahat siber dan pelaku jahat lainnya terus berupaya mencari celah untuk mengatasinya.”

Generated Image: Midjourney