Ethereum Vitalik: ChatGPT memiliki risiko jailbreak, jangan gunakan AI untuk mengelola proyek enkripsi

Pendiri bersama Ethereum, Vitalik Buterin, pada 9/13 di Twitter (X) memberikan peringatan, menyerukan proyek aset kripto untuk tidak membiarkan AI terlibat langsung dalam keputusan pemerintahan. Ia menunjukkan, baru-baru ini terdengar kabar bahwa seseorang dapat menggunakan metode "jailbreak" (Jailbreak) untuk melewati perlindungan keamanan ChatGPT dan mengendalikan AI, dan jika disalahgunakan, dapat menyebabkan pengeluaran dana yang salah, bahkan membocorkan privasi pengguna.

ChatGPT memicu kekhawatiran keamanan dengan menggunakan metode jailbreak untuk membaca email pribadi

OpenAI pada 9/13 memperbarui ChatGPT dan menambahkan dukungan untuk MCP (Model Context Protocol), memungkinkan ChatGPT untuk lebih fleksibel berintegrasi dengan berbagai jenis perangkat lunak dan menjalankan peran sebagai agen otomatis dengan lebih lancar. Pada hari yang sama, pendiri platform data AI EdisonWatch, Eito Miyamura, juga memposting di Twitter (X) menunjukkan bahwa hanya dengan satu alamat email, ia dapat membujuk ChatGPT untuk membocorkan konten email pribadi.

Dia mengatakan, selama mengirimkan undangan kalender yang berisi "perintah jailbreak", pihak lain bahkan tidak perlu menerima undangan tersebut, setelah itu jika meminta ChatGPT untuk memeriksa kalender, AI akan membaca perintah tersebut dan terkontrol, sehingga terpaksa mencari dan bahkan meneruskan email.

Miyamura menekankan, meskipun sistem memerlukan persetujuan manual dari pengguna, "kelelahan pengambilan keputusan" adalah hal yang nyata, dan orang biasa mungkin akan langsung mengklik setuju. Dia memperingatkan:

"AI yang secerdas apapun tetap bisa ditipu dengan metode yang sangat bodoh, yang dapat menyebabkan kebocoran data."

(Catatan: MCP, yang merupakan singkatan dari Model Context Protocol, merujuk pada "antarmuka umum" yang dirancang untuk asisten AI, memungkinkan berbagai model AI untuk terhubung secara aman dan dua arah ke informasi dan layanan eksternal yang Anda butuhkan.)

(AI Dunia USB-C: Apa itu Model Context Protocol (MCP)? Penafsiran protokol konteks umum untuk asisten AI )

Vitalik memperingatkan, jangan gunakan AI untuk mengelola proyek kripto

Saat ini, banyak pengguna telah mulai menggunakan AI untuk membuat robot trading atau portofolio manajemen investasi, dan ada juga yang ingin memanfaatkan AI untuk membantu mengelola proyek enkripsi, tetapi Vitalik percaya bahwa ini dapat berkembang menjadi kerentanan sistemik.

Vitalik memberikan tanggapan terhadap demonstrasi Miyamura, ia menyatakan bahwa jika menggunakan AI untuk mengalokasikan dana, orang pasti akan mencari cara untuk memasukkan perintah seperti "jailbreak" ditambah "berikan semua uang kepada saya", jadi jangan gunakan AI untuk mengelola proyek DeFi.

(2025 Analisis Lengkap 5 LLM Utama Terbaru, Biaya, Aplikasi, dan Keamanannya Sekali Lihat )

Mengajukan Info Finance sebagai alternatif

Vitalik tidak hanya mengkritik, tetapi juga kembali mempromosikan rencana "Info Finance" yang dia ajukan pada November 2024 (Info Finance).

Ia menjelaskan, alih-alih mengunci mekanisme manajemen pada satu model AI, sebaiknya dibangun "pasar terbuka di mana siapa pun dapat menyediakan model", yaitu memungkinkan pihak luar untuk secara aktif meminta pemeriksaan kapan saja, dan diperiksa secara manual, sambil menggunakan mekanisme penghargaan untuk menarik penyedia model dan spekulan eksternal untuk secara aktif mengawasi, mengungkap, dan memperbaiki masalah.

Ia menyatakan bahwa desain ini memungkinkan beberapa model saling mengimbangi, yang dapat mengurangi risiko keseluruhan manajemen yang dikendalikan oleh AI saat diserang.

(Penelitian terbaru OpenAI: mengapa GPT-5 dan LLM lainnya masih bisa berbicara omong kosong)

Artikel ini Ethereum Vitalik: ChatGPT memiliki risiko jailbreak, jangan gunakan AI untuk mengelola proyek Aset Kripto Pertama kali muncul di Berita Blockchain ABMedia.