Rencana OpenAI untuk Membuat AI Lebih ‘Demokratis’

(SeaPRwire) –   Pada suatu sore di awal Mei 2023, Colin Megill duduk di kursi di ruang pertemuan yang dipenuhi tanaman di kantor pusat _OpenAI_ di San Francisco.

Ia dikelilingi oleh tujuh staf dari laboratorium kecerdasan buatan terkemuka di dunia, yang telah meluncurkan ChatGPT beberapa bulan sebelumnya. Salah satu dari mereka adalah Wojciech Zaremba, salah satu pendiri _OpenAI_. Ia ingin bantuan Megill. 

Selama lebih dari satu dekade, Megill telah bekerja dalam ketidakjelasan relatif sebagai salah satu pendiri Polis, platform teknologi nirlaba sumber terbuka untuk melaksanakan musyawarah publik. Menurut pandangan Megill, demokrasi nyaris tidak berevolusi dalam ratusan tahun bahkan ketika dunia di sekitarnya telah berubah secara drastis. Setiap pemilih memiliki banyak keyakinan yang harus mereka uraikan menjadi satu sinyal: satu suara, setiap beberapa tahun. Heterogenitas setiap individu hilang dan terdistorsi, dengan akibat sistem demokrasi sering kali nyaris tidak mencerminkan keinginan rakyat dan cenderung menuju polarisasi.

Polis, yang diluncurkan pada tahun 2012, adalah solusi Megill. Sistem tersebut bekerja dengan memungkinkan pengguna untuk mengartikulasikan pandangan mereka dalam pernyataan singkat, dan membiarkan mereka memberikan suara pada pandangan orang lain. Dengan pembelajaran mesin, sistem tersebut dapat menghasilkan peta terperinci tentang nilai-nilai pengguna, yang secara jelas mengidentifikasi kelompok orang dengan keyakinan yang serupa. Namun inovasi yang sebenarnya lebih sederhana: dengan data ini, Polis dapat memunculkan pernyataan yang bahkan disetujui oleh kelompok yang biasanya tidak setuju. Dengan kata lain, ia menembus polarisasi dan menawarkan jalan maju. Pemerintah Taiwan melihat janji yang cukup dalam Polis untuk , dan Twitter memanfaatkan untuk mendukung fitur pemeriksaan fakta Community Notes. Sekarang _OpenAI_ telah datang mengetuk pintu.

Tim ilmuwan komputer di _OpenAI_ mencoba mengatasi masalah teknis tentang cara menyelaraskan AI mereka dengan nilai-nilai manusia. Namun staf yang berfokus pada strategi dan kebijakan di dalam perusahaan juga bergulat dengan akibat yang rumit: tepatnya nilai-nilai _siapa_ yang harus dicerminkan oleh AI? Dan siapa yang harus memutuskan? 

Para pemimpin _OpenAI_ enggan membuat keputusan tersebut secara sepihak. Mereka telah melihat rawa politik yang membuat perusahaan media sosial terjebak selama tahun 2010-an, ketika sekelompok kecil miliarder Silicon Valley menetapkan aturan wacana publik untuk miliaran orang. Namun mereka juga merasa tidak nyaman menyerahkan kekuasaan atas AI mereka kepada pemerintah atau regulator saja. Sebagai gantinya, laboratorium AI tersebut mencari cara ketiga: langsung kepada masyarakat. Karya Megill adalah yang paling dekat yang pernah ditemukannya dengan cetak biru.

Zaremba memiliki proposal yang menarik untuk Megill. Kedua pria itu tahu bahwa teknologi Polis efektif tetapi padat karya; teknologi tersebut mengharuskan manusia untuk memfasilitasi musyawarah yang terjadi di platform dan menganalisis data setelahnya. Itu rumit, lambat, dan mahal—faktor-faktor yang Megill duga membatasi penerapannya dalam demokrasi di seluruh dunia. Model bahasa besar (LLM)—yang menjadi dasar alat seperti ChatGPT—dapat membantu mengatasi kemacetan tersebut, kata Zaremba kepadanya. Chatbot tampaknya secara unik cocok untuk tugas mendiskusikan topik kompleks dengan orang-orang, mengajukan pertanyaan lanjutan, dan mengidentifikasi area konsensus.

Sebelas hari setelah pertemuan mereka, Zaremba mengirimkan Megill sebuah video prototipe yang sedang bekerja. “Itu fiksi ilmiah,” pikir Megill dengan penuh semangat. Kemudian ia menerima undangan Zaremba untuk memberi nasihat kepada _OpenAI_ tentang salah satu proyek tata kelola AI yang paling ambisius hingga saat ini. Perusahaan tersebut ingin mengetahui apakah teknologi musyawarah, seperti Polis, dapat memberikan jalan menuju penyelarasan AI yang dapat disetujui oleh banyak masyarakat. Sebagai imbalannya, Megill mungkin mengetahui apakah LLM adalah bagian teka-teki yang hilang yang ia cari untuk membantu Polis akhirnya mengatasi kekurangan yang ia lihat dalam demokrasi.

Pada 25 Mei, _OpenAI_ mengumumkan di blognya bahwa mereka sedang mencari aplikasi untuk program senilai $1 juta yang disebut “Masukan Demokrat ke AI.” Sepuluh tim masing-masing akan menerima $100.000 untuk mengembangkan “bukti konsep untuk proses demokrasi yang dapat menjawab pertanyaan tentang aturan apa yang harus diikuti oleh sistem AI.” Saat ini tidak ada mekanisme yang koheren untuk secara akurat memperhitungkan pendapat masyarakat global mengenai apa pun, apalagi hal yang serumit perilaku sistem AI. _OpenAI_ sedang mencoba menemukannya. “Kami benar-benar mencoba untuk memikirkan: apa sebenarnya mekanisme yang paling layak untuk memberikan sejumlah orang terbesar pengaruh terhadap perilaku sistem ini?” Kepala urusan global _OpenAI_ Anna Makanju mengatakan kepada TIME pada bulan November. “Karena bahkan peraturan akan gagal, jelas, kurang dari itu.”

Megill akan duduk di komite tiga ahli yang tidak dibayar yang akan memberi nasihat kepada _OpenAI_ tentang aplikasi mana yang akan didanai. (Temuan dari eksperimen tidak akan mengikat, “setidaknya untuk saat ini,” tulis perusahaan.) Sebagai contoh jenis proyek penelitian yang dicarinya, _OpenAI_ menerbitkan tiruan versi Polis yang sangat canggih, di mana ChatGPT akan memfasilitasi musyawarah dalam skala besar, menjangkau pandangan orang dan mengidentifikasi bidang konsensus. CEO perusahaan, Sam Altman, jelas sangat antusias dengan potensi ide ini. “Kami memiliki kemampuan baru untuk melakukan demokrasi langsung dalam skala massal yang belum pernah kami miliki sebelumnya,” katanya kepada TIME pada bulan November. “AI dapat mengobrol dengan semua orang dan mendapatkan preferensi mereka yang sebenarnya.”

Namun sebelum _OpenAI_ dapat mengumumkan hasil _program_ hibahnya secara publik, perusahaan tersebut dilanda kekacauan. Dewan nirlaba yang mengatur _OpenAI_ memecat Altman, dengan tuduhan bahwa ia tidak jujur ​​kepada mereka. Setelah lima hari yang penuh gejolak, Altman kembali memimpin dengan dewan yang sebagian besar baru. Tiba-tiba, pertanyaan tata kelola AI yang coba dijawab oleh penerima hibah _OpenAI_ senilai $100.000 tidak lagi tampak begitu teoritis. Kontrol atas AI canggih kini jelas merupakan masalah kekuasaan politik dan ekonomi yang keras—di mana _OpenAI_ dan pelindungnya, Microsoft, tampaknya tidak akan melepaskan banyak, jika ada, pengaruh yang signifikan. Persaingan sengit sedang terjadi antara Microsoft, Google, Meta, dan Amazon untuk mendominasi AI. Perusahaan teknologi mulai bersaing untuk membangun “kecerdasan umum buatan,” sebuah sistem hipotetis yang dapat menandingi atau bahkan melampaui kemampuan manusia, menghasilkan triliunan dolar dalam prosesnya. Dalam iklim ini, apakah _OpenAI_ serius akan membiarkan publik memutuskan aturan yang mengatur sistemnya yang paling kuat? Dan dengan begitu banyak yang dipertaruhkan, apakah mungkin untuk benar-benar mendemokratisasi AI? 

Di sebuah auditorium di kantor pusat _OpenAI_ San Francisco pada bulan September, perwakilan dari 10 tim pemenang hibah berkumpul untuk mempresentasikan pekerjaan mereka. Dua pohon palem dalam ruangan yang besar mengapit panggung, dan sederet tanaman merambat tergantung di atas layar proyektor. Cahaya keemasan yang hangat memenuhi ruangan tersebut. Tyna Eloundou, seorang peneliti di _OpenAI_, naik ke podium untuk menyambut para tamu yang berkumpul. “Dalam piagam kami, kami secara tegas membuat komitmen untuk membangun AI yang bermanfaat bagi seluruh umat manusia,” katanya, merujuk pada dokumen yang diharapkan dipatuhi oleh staf _OpenAI_. “Dengan banyaknya tujuan dan ambisi umat manusia, itu adalah perintah yang tinggi.” Apakah mungkin untuk merancang sistem yang dapat mencerminkan keinginan demokrasi masyarakat? Seperti apa sistem seperti itu? Bagaimana cara mengatasi fakta bahwa sistem AI menguntungkan beberapa komunitas lebih dari yang lain? “Ini adalah pertanyaan yang sedang kami hadapi, dan kami perlu secara serius mempertanyakan siapa yang memiliki wewenang dan legitimasi untuk menciptakan sistem seperti itu,” kata Eloundou. “Itu bukan pertanyaan yang mudah, oleh karena itu kami telah menugaskan kalian semua untuk menyelesaikannya.” Gelak tawa riuh bergemuruh di seluruh ruangan.

Artikel ini disediakan oleh penyedia konten pihak ketiga. SeaPRwire (https://www.seaprwire.com/) tidak memberikan jaminan atau pernyataan sehubungan dengan hal tersebut.

Sektor: Top Story, Daily News

SeaPRwire menyediakan distribusi siaran pers real-time untuk perusahaan dan lembaga, menjangkau lebih dari 6.500 toko media, 86.000 editor dan jurnalis, dan 3,5 juta desktop profesional di 90 negara. SeaPRwire mendukung distribusi siaran pers dalam bahasa Inggris, Korea, Jepang, Arab, Cina Sederhana, Cina Tradisional, Vietnam, Thailand, Indonesia, Melayu, Jerman, Rusia, Prancis, Spanyol, Portugis dan bahasa lainnya. 

Pembicara berikutnya menyampaikan poin yang lebih baik mengenai penting