Teknologi bisa menjadi lebih cerdas dibandingkan manusia dan pada akhirnya akan mengambil alih, menurut Yoshua Bengio
Perkembangan pesat kecerdasan buatan (AI) dapat menimbulkan risiko besar bagi umat manusia karena semakin sulit dikendalikan, demikian peringatan ilmuwan komputer terkenal Yoshua Bengio.
Seorang profesor di Universitas Montreal dan kepala Institut Algoritma Pembelajaran Montreal, Bengio mengatakan kepada CNBC pada hari Kamis bahwa mesin akan segera memiliki sebagian besar kemampuan kognitif manusia.
Ilmuwan tersebut mengacu pada kecerdasan umum buatan (AGI), sejenis teknologi AI yang bertujuan untuk menyamai atau menjadi lebih baik dari kecerdasan manusia. “Kecerdasan memberi kekuatan. Jadi, siapa yang akan mengendalikan kekuatan itu?” kata Bengio.
“Jika kita menciptakan entitas yang lebih pintar dari kita dan mempunyai tujuan sendiri, apa artinya bagi umat manusia? Apakah kita dalam bahaya?” dia bertanya.
Ilmuwan komputer tersebut mengutip ketakutan umum terhadap mesin AI yang saat ini sedang dilatih “akan mengarah pada sistem yang merugikan manusia.”
Dia menunjukkan bahwa sejumlah organisasi dan pemerintah mampu membangun mesin AI yang kuat dan mahal. Hal ini akan menyebabkan terkonsentrasinya kekuatan ekonomi, politik dan militer, yang pada akhirnya mengancam stabilitas geopolitik di seluruh dunia, ia memperingatkan.
“Ada orang-orang yang mungkin ingin menyalahgunakan kekuasaan tersebut, dan ada pula orang-orang yang mungkin senang melihat umat manusia digantikan oleh mesin,” katanya, menyerukan peraturan yang lebih ketat.
Menurut ilmuwan komputer tersebut, perusahaan yang mengembangkan AI dan bersaing satu sama lain untuk menguasai teknologi global adalah yang terdepan “perlombaan yang berbahaya” dan harus bertanggung jawab atas tindakan mereka.
Bengio terkenal karena karya perintisnya dalam pembelajaran mendalam, yang membuatnya mendapatkan Penghargaan Turing AM 2018, yang dikenal sebagai ‘Hadiah Nobel Komputasi’, bersama ilmuwan Geoffrey Hinton dan Yann LeCun. Pada tahun 2019, ia dianugerahi Killam Prize, dan pada tahun 2022 menjadi ilmuwan komputer dengan pengaruh tertinggi di dunia yang diukur dengan h-index.
Dalam beberapa tahun terakhir, tokoh-tokoh terkemuka di industri teknologi telah menyuarakan keprihatinan atas potensi bahaya yang ditimbulkan oleh penerapan teknologi AI yang tidak diatur.
Hinton, yang dipandang sebagai pelopor AI, telah memperingatkan bahwa dunia bisa menghadapi bencana besar sebelum penggunaan senjata AI diatur dengan benar.
Bengio termasuk di antara tokoh industri terkemuka, termasuk CEO Tesla Elon Musk dan salah satu pendiri Apple Steve Wozniak, yang ikut menandatangani surat tahun lalu yang menyerukan regulasi agresif di sektor AI. Pada bulan Juni, dia mendukung surat terbuka lainnya tentang teknologi tersebut “risiko serius.” Surat tersebut ditandatangani oleh karyawan Open AI, pencipta chatbot AI viral ChatGPT.
Anda dapat membagikan cerita ini di media sosial:
