Regulator Eropa telah memperingatkan bahwa kemajuan pesat dalam kecerdasan buatan agentik telah melampaui pembentukan peraturan yang ada, dengan bank sentral dan otoritas keuangan menyerukan perlindungan baru untuk mengurangi risiko terhadap pasar keuangan.
Menurut pernyataan yang dibuat selama pertemuan tahunan Bank Sentral Eropa di Sintra, Portugal, para pembuat kebijakan senior mengatakan proses regulasi saat ini kesulitan untuk mengimbangi sistem AI yang berevolusi dalam hitungan minggu atau bulan, bukan tahun.
Berbicara pada acara tersebut pada hari Selasa, Wakil Gubernur Bank of England Sarah Breeden mengatakan pembuat kebijakan harus mempertimbangkan perlindungan serupa dengan pemutus sirkuit pasar atau sakelar pemutus darurat (kill switch) yang dapat menghentikan perdagangan jika model AI yang cacat memicu gangguan pasar yang meluas selama periode tekanan.
Breeden mengatakan AI agentik dapat memperkuat volatilitas pasar dan menambahkan bahwa peningkatan pembiayaan utang yang terkait dengan investasi AI dapat meningkatkan risiko stabilitas keuangan jika harga aset terkait AI menurun tajam.
Kekhawatiran ini muncul hanya beberapa hari setelah Bank for International Settlements (BIS) memperingatkan dalam laporan 28 Juni bahwa antusiasme yang berkepanjangan terhadap kecerdasan buatan dapat membuat pasar rentan terhadap koreksi mendadak. Menurut BIS, kebijakan moneter yang lebih ketat untuk menahan inflasi dapat memicu penurunan tajam harga aset terkait AI setelah pengambilan risiko yang berkepanjangan, menciptakan lingkaran umpan balik makro-keuangan yang mengganggu.
Di antara yang lain, Tobias Adrian, Direktur Departemen Moneter dan Pasar Modal Dana Moneter Internasional, mengatakan kepada Bloomberg pada 30 Juni bahwa sektor ini juga menghadapi potensi ketidaksesuaian antara sifat jangka panjang infrastruktur fisik AI dan jatuh tempo utang yang lebih pendek yang digunakan untuk membiayainya.
Di tempat lain, Presiden Bank Sentral Eropa Christine Lagarde mengatakan kepada surat kabar Prancis Les Echos pada hari Kamis bahwa kecerdasan buatan kini menghadirkan tantangan yang lebih serius daripada ancaman keamanan siber tradisional karena teknologi ini berkembang pesat sementara kemampuan defensif dan pendanaan masih tertinggal.
Dalam wawancara terpisah dengan Squawk Box CNBC, Kepala Eksekutif Financial Conduct Authority Inggris Nikhil Rathi mengatakan siklus regulasi konvensional tidak lagi sesuai untuk teknologi yang berubah dalam hitungan minggu atau bulan. Rathi mengatakan regulator akan membutuhkan pendekatan baru dan kerja sama yang lebih erat dengan industri alih-alih hanya mengandalkan proses pembuatan peraturan yang panjang.
Peringatan terbaru ini menyusul perdebatan kebijakan baru-baru ini mengenai akses ke sistem AI canggih di Eropa.
Bulan lalu, Austria mendesak Uni Eropa untuk menjajaki pendirian Anthropic di dalam blok tersebut setelah pembatasan ekspor AS membatasi akses asing ke model-model AI paling canggih perusahaan tersebut.
Menteri Sekretaris Negara Austria untuk Digitalisasi Alexander Proell berpendapat bahwa Eropa seharusnya tidak mengambil risiko kehilangan akses ke AI terdepan karena keputusan yang dibuat di luar wilayah tersebut.
Seperti yang dilaporkan sebelumnya, Anthropic menangguhkan akses publik ke model Fable 5 dan Mythos 5 pada bulan Juni setelah direktif kontrol ekspor AS mewajibkan perusahaan untuk memblokir akses bagi warga negara asing karena kekhawatiran keamanan siber terkait teknik jailbreak yang dilaporkan.
Otoritas AS kemudian menyetujui model-model tersebut untuk digunakan kembali setelah Anthropic memperkenalkan pengklasifikasi dan perlindungan baru yang dirancang untuk memblokir penyalahgunaan terkait keamanan siber.
