DoNotPay, perusahaan AI yang terkenal karena membantu pengguna membatalkan langganan yang tidak diinginkan dan melawan denda parkir, telah mencapai kesepakatan dengan FTC atas chatbot AI yang diiklankan sebagai “pengacara robot pertama di dunia.” Pengacara AI tersebut tidak memenuhi klaimnya dan DoNotPay tidak pernah menguji alat chatbot tersebut dengan benar, menurut FTC. Bahkan, perusahaan tersebut dilaporkan tidak pernah mempekerjakan pengacara manusia sungguhan untuk mengerjakan produk tersebut.
DoNotPay telah setuju untuk membayar $193.000 dan akan diminta untuk mengirimkan pemberitahuan kepada setiap pelanggan sebelumnya yang menggunakan pengacara AI dari tahun 2021 hingga 2023 yang memperingatkan tentang batasan layanan berlangganan. Penyelesaian ini juga akan “melarang perusahaan untuk membuat klaim tentang kemampuannya untuk menggantikan layanan profesional apa pun tanpa bukti untuk mendukungnya,” menurut sebuah pernyataan pada hari Rabu. dari FTC.
Pengacara AI tersebut mengklaim dirinya sebagai alat yang dapat digunakan untuk hal-hal seperti menuntut atas penyerangan di pengadilan klaim kecil dan menyusun surat perintah penghentian. Alat AI tersebut juga membuat dokumen hukum seperti NDA, kontrak bisnis, perjanjian pranikah, dan perjanjian hak asuh, menurut FTC. DoNotPay awalnya berencana untuk menggunakan pengacara AI-nya di ruang sidang fisik tetapi menghentikan rencana tersebut pada awal tahun 2023 setelah menerima ancaman dari asosiasi Pengacara Negara.
Keluhan FTC, yang tersedia untuk baca onlinedipenuhi dengan beberapa detail yang agak aneh, termasuk kutipan yang muncul di situs web DoNotPay yang konon berasal dari Los Angeles Times: “Apa yang dapat dilakukan oleh pengacara robot ini sangat mirip—jika tidak lebih—dengan apa yang dilakukan oleh pengacara manusia.” Kenyataannya, kutipan tersebut berasal dari Los Angeles Times Orang Dalam Sekolah Menengah Atas situs web, platform konten buatan pengguna untuk siswa sekolah menengah, menurut FTC.
Alat tersebut juga tidak diuji dengan cara yang diharapkan oleh orang yang berakal sehat, menurut keluhan FTC:
Karyawan DoNotPay belum menguji kualitas dan keakuratan dokumen hukum dan saran yang dihasilkan oleh sebagian besar fitur hukum Layanan. DoNotPay belum mempekerjakan pengacara dan belum menunjuk pengacara, apalagi pengacara dengan keahlian hukum yang relevan, untuk menguji kualitas dan keakuratan fitur hukum Layanan.
Pendiri perusahaan AI, Joshua Browder, sebelumnya mengatakan DoNotPay ingin, “mengganti industri hukum senilai $200 miliar dolar dengan kecerdasan buatan.” Browder keluar dari perguruan tinggi pada tahun 2018 sebagai bagian dari Thiel Fellowship, sebuah program yang dimulai oleh investor teknologi Peter Thiel yang memberikan uang kepada orang-orang untuk keluar dari perguruan tinggi dan memulai bisnis.
Sementara itu, DoNotPay dengan cepat menyatakan perusahaannya belum mengakui tanggung jawab apa pun dalam penyelesaian dengan FTC.
“DoNotPay merasa senang telah bekerja sama secara konstruktif dengan FTC untuk menyelesaikan kasus ini dan menyelesaikan masalah ini sepenuhnya, tanpa mengakui adanya tanggung jawab,” kata perusahaan tersebut dalam sebuah pernyataan yang ditujukan kepada “Juru Bicara DoNotPay” yang tidak disebutkan namanya.
Gizmodo menanyakan tentang tuduhan bahwa mereka tidak mempekerjakan pengacara untuk memeriksa pekerjaan pengacara AI mereka, tetapi pertanyaan-pertanyaan tersebut tidak dijawab oleh perusahaan dalam pernyataannya. Tidak jelas apakah pernyataan tersebut dibuat oleh AI atau ditulis oleh manusia.
“Keluhan tersebut terkait dengan penggunaan beberapa ratus pelanggan beberapa tahun lalu (dari jutaan orang), dengan layanan yang telah lama dihentikan,” lanjut pernyataan tersebut. “DoNotPay menunjuk Maneesha Mithal, mantan Associate Director di FTC, sebagai penasihat hukum eksternal, yang sangat membantu dalam menangani masalah ini.”
Berita tentang tindakan terhadap DoNotPay merupakan bagian dari pengumuman yang lebih luas pada hari Rabu oleh FTC yang berfokus pada tindakan keras terhadap AI. Dan ketua FTC Lina Khan, seorang tokoh yang dikagumi oleh kaum Demokrat progresif dan dibenci oleh banyak bisnis besar karena tindakan penegakan hukumnya baru-baru ini, mengatakan penggunaan AI tidak memberikan pengecualian apa pun terhadap undang-undang yang ada.
“Menggunakan alat AI untuk menipu, menyesatkan, atau menipu orang adalah ilegal,” kata Khan dalam sebuah pernyataan yang diunggah di situs web agensi.
“Tindakan penegakan hukum FTC memperjelas bahwa tidak ada pengecualian AI dari undang-undang yang berlaku,” lanjut Khan. “Dengan menindak praktik yang tidak adil atau menipu di pasar-pasar ini, FTC memastikan bahwa bisnis dan inovator yang jujur bisa mendapatkan kesempatan yang adil dan konsumen pun terlindungi.”
