Integrasi AI dan Web3 Menyebabkan Tantangan Keamanan Baru, DeFAI Menjadi Sorotan

Baru-baru ini, Minggu Blockchain Istanbul berfokus pada tren integrasi AI dan Web3, menjadi platform penting untuk diskusi keamanan Web3 tahun ini. Dalam dua forum bulat, sejumlah pakar industri melakukan diskusi mendalam tentang keadaan aplikasi teknologi AI dalam DeFi dan tantangan keamanannya.

Dalam diskusi, "DeFAI" (Kecerdasan Buatan Keuangan Terdesentralisasi) menjadi kata kunci. Para ahli menunjukkan bahwa dengan perkembangan cepat model bahasa besar dan agen AI, paradigma keuangan yang sepenuhnya baru - DeFAI sedang secara bertahap terbentuk. Namun, perubahan ini juga membawa permukaan serangan dan risiko keamanan yang baru.

Seorang eksekutif dari perusahaan keamanan mengatakan: "DeFAI memiliki prospek yang luas, tetapi juga memaksa kita untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar yang didasarkan pada logika tetap, proses pengambilan keputusan agen AI dipengaruhi oleh konteks, waktu, bahkan interaksi sejarah. Ketidakpastian ini tidak hanya meningkatkan risiko, tetapi juga menciptakan peluang bagi penyerang."

"AI代理" pada dasarnya adalah entitas cerdas yang dapat mengambil keputusan dan menjalankan tindakan secara mandiri berdasarkan logika AI, biasanya dijalankan oleh pengguna, protokol, atau DAO yang diberi izin. Di antara mereka, perwakilan yang paling khas adalah robot perdagangan AI. Saat ini, sebagian besar AI代理 beroperasi di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap serangan injeksi, manipulasi model, atau pemalsuan data. Sekali diretas, ini tidak hanya dapat menyebabkan kerugian finansial tetapi juga dapat mempengaruhi stabilitas keseluruhan protokol.

Forum juga menyebutkan skenario serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau pesan media sosial sebagai sinyal perdagangan, penyerang menerbitkan alarm palsu, seperti "protokol tertentu diserang", yang dapat memicu agen tersebut untuk segera memulai likuidasi darurat. Operasi semacam ini tidak hanya akan menyebabkan kerugian aset pengguna, tetapi juga dapat menyebabkan volatilitas pasar, yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan yang lebih awal.

Mengenai risiko di atas, para ahli umumnya berpendapat bahwa keamanan agen AI tidak seharusnya ditanggung oleh satu pihak saja, tetapi merupakan tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga.

Pertama, pengguna perlu memahami dengan jelas batasan hak yang dimiliki oleh agen, memberikan izin dengan hati-hati, dan juga memperhatikan untuk memeriksa operasi berisiko tinggi dari agen AI. Kedua, pengembang harus menerapkan langkah-langkah pertahanan sejak tahap desain, seperti: penguatan kata kunci, isolasi sandbox, pembatasan laju, dan logika fallback. Sementara itu, perusahaan keamanan pihak ketiga harus memberikan tinjauan independen terhadap perilaku model agen AI, infrastruktur, serta cara integrasi di blockchain, dan bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah-langkah mitigasi.

Dalam diskusi terakhir, seorang ahli keamanan memperingatkan: "Jika kita terus menganggap AI sebagai 'kotak hitam', kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Untuk para pengembang yang sedang menjelajahi arah DeFAI, saran yang diberikan adalah: "Seperti kontrak pintar, logika perilaku AI juga diimplementasikan melalui kode. Karena ini adalah kode, ada kemungkinan untuk diserang, jadi perlu dilakukan audit keamanan profesional dan pengujian penetrasi."

Sebagai salah satu acara blockchain paling berpengaruh di Eropa, Istanbul Blockchain Week telah menarik lebih dari 15.000 peserta yang terdiri dari pengembang, pihak proyek, investor, dan regulator dari seluruh dunia. Tahun ini, dengan diluncurkannya izin proyek blockchain oleh Komisi Pasar Modal Turki, posisi industri acara ini semakin meningkat.