(SeaPRwire) –   Siapa yang harus mengendalikan AI? Apakah perusahaan-perusahaan yang merilis teknologi canggih tersebut menjadi penentu nasibnya? Ataukah kekuasaan tersebut harus dipercayakan kepada pemerintah?

Palmer Luckey, pendiri perusahaan pertahanan Anduril—yang bertujuan untuk memodernisasi militer AS—berpikir jawabannya sederhana: berikan kekuasaan kepada pemerintah. Dalam wawancara terbaru dengan New York Post, pendiri miliarder tersebut memberikan pendapatnya tentang perdebatan yang berkembang mengenai siapa yang berhak menentukan bagaimana AI digunakan oleh pemerintah.

Bagi miliarder tersebut, terserah kepada pemerintah, dan oleh karena itu, rakyat, untuk membuat keputusan penggunaan spesifik. Jika tidak, perusahaan teknologi dapat membahayakan demokrasi.

“Kita perlu mempertahankan posisi bahwa ini ada di tangan rakyat,” katanya. “Siapa pun yang mengatakan bahwa perusahaan pertahanan harus melampaui hukum, melampaui apa yang dikatakan oleh legislator dan pemimpin terpilih dalam hal siapa mereka akan bekerja sama dan tidak, Anda secara efektif mengatakan bahwa Anda tidak percaya pada eksperimen demokratis ini, bahwa Anda menginginkan ‘corporatocracy.’”

“Dalam semua kasus, siapa pun yang pemerintah Amerika Serikat katakan kepada saya bahwa saya boleh dan tidak boleh menjual kepada,” lanjutnya, “memiliki posisi lain adalah terjerumus lebih dalam… pada dasarnya eksekutif perusahaan memiliki kontrol de facto atas kebijakan luar negeri AS.”

Pemikiran Luckey muncul saat CEO Anthropic Dario Amodei menolak untuk mengizinkan Pentagon menggunakan sepenuhnya sistem AI-nya untuk pengawasan massal atau untuk menggerakkan senjata yang sepenuhnya otonom yang beroperasi tanpa pengawasan manusia. Akibatnya, Department of Defense menetapkan perusahaan AI tersebut sebagai “supply chain risk,” sebuah sebutan yang biasanya dicadangkan untuk perusahaan asing yang bermusuhan, seperti perusahaan berbasis Tiongkok. Amodei mengatakan label tersebut tidak akan banyak berdampak pada bisnis perusahaan, dan bahwa perusahaan tersebut berencana untuk membalikkan penetapan tersebut. Meskipun demikian, perusahaan tetap dalam diskusi dengan Pentagon mengenai penggunaan model dan alat AI-nya.

Namun Amodei, bersama dengan pendiri Anthropic—yang telah meninggalkan OpenAI bersama-sama untuk membangun perusahaan yang mereka katakan mengutamakan keamanan AI—mempertahankan bahwa apa yang diminta oleh Pentagon melampaui batas. “Ancaman-ancaman ini tidak mengubah posisi kami: kami tidak dapat dengan hati nurani yang baik menyetujui permintaan mereka,” kata Amodei dalam sebuah pernyataan pekan lalu.

Anthropic tidak segera menanggapi permintaan komentar dari .

Silicon Valley versus Washington

Department of Defense—dan tokoh-tokoh seperti Luckey—tidak berpikir bahwa itu berada di tangan kontraktor swasta untuk menentukan kasus penggunaan, dan sebaliknya, berpendapat bahwa itu berada dalam kekuasaan pemerintah. Tak lama setelah kesepakatan Anthropic runtuh bulan lalu, OpenAI milik Sam Altman mencapai kesepakatan dengan Pentagon untuk memberikan akses pada model dan alat AI startup tersebut. xAI milik Elon Musk juga setuju untuk membiarkan Pentagon menggunakan AI-nya, menambah persaingan pada kemitraan yang dulunya eksklusif milik Anthropic.

Anthropic bukanlah perusahaan teknologi pertama yang menolak DOD. Seperti yang dicatat Luckey dalam wawancara, Google menjauh dari Pentagon pada 2018, mengundurkan diri dari Project Maven, yang melibatkan analisis rekaman drone AI, setelah ribuan karyawan memprotes keterlibatan dalam program tersebut karena khawatir dapat menyebabkan senjata otonom.

“Apa yang akan Anda miliki adalah dunia di mana eksekutif Silicon Valley akan memiliki kekuasaan kebijakan luar negeri lebih besar daripada presiden Amerika Serikat,” kata Luckey. “Itu sangat, sangat berbahaya.”

Bagi Luckey, ini bermuara pada apakah keputusan tingkat atas tentang penggunaan AI menjadi milik Silicon Valley atau Washington. Pandangannya adalah bahwa, terlepas dari siapa yang berada di White House, perusahaan teknologi, dan sektor swasta secara lebih luas, memiliki tanggung jawab untuk mematuhi keputusan kebijakan luar negeri administrasi tersebut.
Namun bahkan ketika konflik Anthropic-Pentagon membesar, Amodei mengatakan dalam sebuah pernyataan pada hari Kamis bahwa kedua belah pihak dapat menemukan kesamaan. “Anthropic memiliki lebih banyak kesamaan dengan Department of War daripada perbedaan,” katanya.