(SeaPRwire) –   Selamat datang di Eye on AI, bersama reporter AI Sharon Goldman. Dalam edisi ini: Sisi liar OpenClaw…Super PAC baru Anthropic senilai $20 juta melawan OpenAI…OpenAI merilis model pertamanya yang dirancang untuk output super cepat…Anthropic akan menanggung kenaikan harga listrik dari pusat data AI-nya…Isomorphic Labs mengatakan telah membuka batas biologis baru di luar AlphaFold.

OpenClaw telah menghabiskan beberapa minggu terakhir menunjukkan betapa cerobohnya agen AI — dan menarik pengikut setia dalam prosesnya.

Agen kecerdasan buatan otonom sumber terbuka gratis ini, yang dikembangkan oleh Peter Steinberger dan awalnya dikenal sebagai ClawdBot, mengambil chatbot yang kita kenal dan sukai — seperti ChatGPT dan Claude — dan memberi mereka alat serta otonomi untuk berinteraksi langsung dengan komputer Anda dan orang lain di seluruh internet. Bayangkan mengirim email, membaca pesan Anda, memesan tiket konser, membuat reservasi restoran, dan banyak lagi — mungkin saat Anda duduk santai dan makan bonbon.

Masalah dengan memberikan OpenClaw kekuatan luar biasa untuk melakukan hal-hal keren? Tidak mengherankan, ini adalah fakta bahwa ia juga memberinya banyak kesempatan untuk melakukan hal-hal yang tidak seharusnya, termasuk membocorkan data, mengeksekusi perintah yang tidak disengaja, atau diam-diam dibajak oleh penyerang, baik melalui malware atau melalui apa yang disebut serangan “prompt injection”. (Di mana seseorang menyertakan instruksi berbahaya untuk agen AI dalam data yang mungkin digunakan agen AI.)

Kegembiraan tentang OpenClaw, kata dua pakar keamanan siber yang saya ajak bicara minggu ini, adalah bahwa ia tidak memiliki batasan, pada dasarnya memberikan pengguna kekuatan yang sebagian besar tidak terbatas untuk menyesuaikannya sesuka mereka.

“Satu-satunya aturan adalah tidak ada aturan,” kata Ben Seri, salah satu pendiri dan CTO di Zafran Security, yang berspesialisasi dalam menyediakan manajemen paparan ancaman untuk perusahaan. “Itu bagian dari permainan.” Tetapi permainan itu bisa berubah menjadi mimpi buruk keamanan, karena aturan dan batasan adalah inti dari menjaga peretas dan kebocoran.

Kekhawatiran keamanan klasik

Kekhawatiran keamanan adalah masalah klasik, kata Colin Shea-Blymyer, seorang peneliti di Georgetown’s Center for Security and Emerging Technology (CSET), tempat ia bekerja di CyberAI Project. Kesalahan konfigurasi izin — siapa atau apa yang diizinkan melakukan apa — berarti manusia dapat secara tidak sengaja memberikan OpenClaw lebih banyak wewenang daripada yang mereka sadari, dan penyerang dapat memanfaatkannya.

Misalnya, di OpenClaw, sebagian besar risiko berasal dari apa yang disebut pengembang sebagai “skills,” yang pada dasarnya adalah aplikasi atau plugin yang dapat digunakan agen AI untuk mengambil tindakan — seperti mengakses file, menjelajahi web, atau menjalankan perintah. Perbedaannya adalah, tidak seperti aplikasi normal, OpenClaw memutuskan sendiri kapan harus menggunakan skills ini dan bagaimana merangkainya, yang berarti kesalahan izin kecil dapat dengan cepat berkembang menjadi sesuatu yang jauh lebih serius.

“Bayangkan menggunakannya untuk mengakses halaman reservasi restoran dan ia juga memiliki akses ke kalender Anda dengan segala macam informasi pribadi,” katanya. “Atau bagaimana jika itu malware dan ia menemukan halaman yang salah dan menginstal virus?”

OpenClaw memang memiliki halaman keamanan dalam dokumentasinya dan mencoba untuk menjaga pengguna tetap waspada dan sadar, kata Shea-Blymyer. Tetapi masalah keamanan tetap menjadi masalah teknis yang kompleks yang sebagian besar pengguna rata-rata tidak mungkin sepenuhnya memahaminya. Dan sementara pengembang OpenClaw mungkin bekerja keras untuk memperbaiki kerentanan, mereka tidak dapat dengan mudah menyelesaikan masalah mendasar dari agen yang dapat bertindak sendiri — yang justru membuat sistem ini begitu menarik.

“Itulah ketegangan mendasar dalam sistem semacam ini,” katanya. “Semakin banyak akses yang Anda berikan kepada mereka, semakin menyenangkan dan menarik mereka — tetapi juga semakin berbahaya.”

Perusahaan akan lambat mengadopsi

Seri dari Zafran Security mengakui bahwa kecil kemungkinan untuk memadamkan rasa ingin tahu pengguna ketika datang ke sistem seperti OpenClaw, meskipun ia menekankan bahwa perusahaan akan jauh lebih lambat untuk mengadopsi sistem yang tidak terkendali dan tidak aman seperti itu. Untuk pengguna rata-rata, katanya, mereka harus bereksperimen seolah-olah mereka bekerja di laboratorium kimia dengan bahan yang sangat mudah meledak.

Shea-Blymyer menunjukkan bahwa itu adalah hal yang positif bahwa OpenClaw terjadi pertama kali di tingkat penghobi. “Kita akan belajar banyak tentang ekosistem sebelum ada yang mencobanya di tingkat perusahaan,” katanya. “Sistem AI dapat gagal dengan cara yang bahkan tidak dapat kita bayangkan,” jelasnya. “[OpenClaw] dapat memberi kita banyak informasi tentang mengapa LLM yang berbeda berperilaku seperti itu dan tentang masalah keamanan yang lebih baru.”

Tetapi sementara OpenClaw mungkin merupakan eksperimen penghobi hari ini, para ahli keamanan melihatnya sebagai pratinjau jenis sistem otonom yang pada akhirnya akan dirasakan tekanan oleh perusahaan untuk diterapkan.

Untuk saat ini, kecuali seseorang ingin menjadi subjek penelitian keamanan, pengguna rata-rata mungkin ingin menjauhi OpenClaw, kata Shea-Blymyer. Jika tidak, jangan terkejut jika asisten agen AI pribadi Anda berkeliaran di wilayah yang sangat tidak ramah.

Dengan itu, berikut adalah berita AI lainnya.

Sharon Goldman
sharon.goldman@
@sharongoldman