Gubernur California Gavin Newsom pada hari Minggu memveto rancangan undang-undang penting yang bertujuan untuk menetapkan langkah-langkah keselamatan pertama di negara ini untuk model kecerdasan buatan yang besar.
Keputusan ini merupakan pukulan besar terhadap upaya mengendalikan industri dalam negeri yang berkembang pesat dengan sedikit pengawasan. RUU itu akan menetapkan beberapa peraturan pertama pada model AI skala besar di negara ini dan membuka jalan bagi peraturan keselamatan AI di seluruh negeri, kata para pendukungnya.
Awal bulan ini, gubernur Partai Demokrat mengatakan kepada audiensi di Dreamforce, sebuah konferensi tahunan yang diselenggarakan oleh raksasa perangkat lunak Salesforce, bahwa California harus memimpin dalam mengatur AI dalam menghadapi kelambanan pemerintah federal, namun usulan tersebut “dapat berdampak buruk pada industri.”
Proposal tersebut, yang mendapat tentangan keras dari perusahaan rintisan, raksasa teknologi, dan beberapa anggota DPR dari Partai Demokrat, dapat merugikan industri dalam negeri karena menetapkan persyaratan yang kaku, kata Newsom.
“Meskipun bermaksud baik, SB 1047 tidak memperhitungkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau penggunaan data sensitif,” kata Newsom dalam sebuah pernyataan. “Sebaliknya, RUU ini menerapkan standar yang ketat bahkan untuk fungsi-fungsi yang paling mendasar sekalipun – selama sistem besar menerapkannya. Saya tidak percaya ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.”
Newsom pada hari Minggu malah mengumumkan bahwa negara bagian tersebut akan bermitra dengan beberapa pakar industri, termasuk pionir AI Fei-Fei Li, untuk mengembangkan pagar pembatas seputar model AI yang kuat. Li menentang proposal keamanan AI.
Langkah tersebut, yang bertujuan untuk mengurangi potensi risiko yang ditimbulkan oleh AI, akan mengharuskan perusahaan untuk menguji model mereka dan mengungkapkan secara publik protokol keselamatan mereka untuk mencegah model tersebut dimanipulasi, misalnya, untuk memusnahkan jaringan listrik negara atau membantu membuat senjata kimia. Para ahli mengatakan skenario tersebut mungkin terjadi di masa depan karena industri ini terus mengalami kemajuan pesat. Hal ini juga akan memberikan perlindungan bagi para pelapor (whistleblower) kepada para pekerja.
Undang-undang tersebut merupakan salah satu dari sejumlah rancangan undang-undang yang disahkan oleh Badan Legislatif tahun ini untuk mengatur perlawanan terhadap AI palsu dan melindungi pekerja. Anggota parlemen negara bagian mengatakan California harus mengambil tindakan tahun ini, mengutip pelajaran sulit yang mereka peroleh dari kegagalan mengendalikan perusahaan media sosial ketika mereka punya kesempatan.
Para pendukung langkah tersebut, termasuk Elon Musk dan Anthropic, mengatakan bahwa proposal tersebut dapat memberikan tingkat transparansi dan akuntabilitas pada model AI skala besar, karena pengembang dan pakar mengatakan bahwa mereka masih belum memiliki pemahaman penuh tentang bagaimana model AI berperilaku dan Mengapa.
RUU tersebut menargetkan sistem yang membutuhkan lebih dari $100 juta untuk pembangunannya. Saat ini, belum ada model AI yang mencapai ambang batas tersebut, namun beberapa ahli mengatakan bahwa hal tersebut dapat berubah pada tahun depan.
“Hal ini disebabkan oleh peningkatan investasi besar-besaran dalam industri ini,” kata Daniel Kokotajlo, mantan peneliti OpenAI yang mengundurkan diri pada bulan April karena dianggap mengabaikan risiko AI oleh perusahaan tersebut. “Ini adalah kekuatan yang sangat besar untuk membuat perusahaan swasta mengendalikan secara tidak bertanggung jawab, dan ini juga sangat berisiko.”
Amerika Serikat sudah tertinggal dibandingkan Eropa dalam mengatur AI untuk membatasi risiko. Proposal California ini tidak sekomprehensif peraturan di Eropa, namun hal ini akan menjadi langkah awal yang baik untuk menetapkan batasan terhadap teknologi yang berkembang pesat yang meningkatkan kekhawatiran akan kehilangan pekerjaan, misinformasi, pelanggaran privasi dan bias otomatisasi, kata para pendukungnya.
Sejumlah perusahaan AI terkemuka tahun lalu secara sukarela setuju untuk mengikuti tindakan pengamanan yang ditetapkan oleh Gedung Putih, seperti pengujian dan berbagi informasi tentang model mereka. RUU California akan mengamanatkan pengembang AI untuk mengikuti persyaratan serupa dengan komitmen tersebut, kata para pendukung undang-undang tersebut.
Namun para kritikus, termasuk mantan Ketua DPR AS Nancy Pelosi, berpendapat bahwa RUU tersebut akan “mematikan teknologi California” dan menghambat inovasi. Hal ini akan membuat pengembang AI enggan berinvestasi pada model besar atau berbagi perangkat lunak sumber terbuka, kata mereka.
Keputusan Newsom untuk memveto RUU tersebut menandai kemenangan lain di California bagi perusahaan teknologi besar dan pengembang AI, yang banyak di antaranya menghabiskan waktu setahun terakhir untuk melobi bersama Kamar Dagang California untuk mempengaruhi gubernur dan anggota parlemen agar tidak memajukan peraturan AI.
Dua proposal AI lainnya, yang juga mendapat tentangan dari industri teknologi dan lainnya, gagal menjelang batas waktu legislatif bulan lalu. RUU tersebut mengharuskan pengembang AI untuk memberi label pada konten yang dihasilkan AI dan melarang diskriminasi terhadap alat AI yang digunakan untuk membuat keputusan ketenagakerjaan.
