Sebuah firma hukum telah dibiarkan dengan risiko yang sah – dan kemungkinan menghadapi a Dewan Praktik Hukum Investigasi (LPC) – karena diduga menggunakan “Google” dan kecerdasan buatan untuk mendapatkan kutipan hukum yang tidak ada dalam proses pengadilan.
Surendra Singh and Associates yang berbasis di Pietermaritzburg juga telah diperintahkan untuk membayar biaya, dari kasnya sendiri, untuk dua sidang pengadilan pada bulan September tahun lalu di mana hakim pengadilan tinggi Pietermaritzburg Elsja-Marie Bezuidenhout menginterogasi dokumen pengadilan dan referensi terhadap hukum kasus.
Dari pengajuan dan penelitiannya sendiri, hakim menyimpulkan bahwa “meskipun sumber sebenarnya dari pihak berwenang masih belum diketahui”, kemungkinan besar perusahaan tersebut mengandalkan teknologi AI yang “tidak bertanggung jawab dan benar-benar tidak profesional”.
Hakim Bezuidenhout merujuk keputusannya ke LPC dan “mendesak agar LPC mendapatkan rekaman seluruh proses termasuk komentar yang dibuat sebelum saya masuk ke pengadilan serta pengajuan yang dibuat oleh berbagai perwakilan pemohon”.
Firma hukum tersebut mewakili politisi kontroversial KwaZulu-Natal Godfrey Mvundla yang terpilih sebagai walikota Umvoti tahun lalu tetapi kemudian ditangguhkan, sebuah keputusan yang menurutnya diambil pada “pertemuan yang melanggar hukum” dewan.
Sementara Mvundla mendapatkan larangan sementara terhadap kotamadya Umvoti, Bezuidenhout akhirnya mencabut larangan tersebut dan membatalkan perintah tersebut.
Mvundla kemudian mengajukan cuti untuk mengajukan banding atas keputusannya. Dalam permohonan ini, pengacaranya mengutip berbagai “otoritas kasus” untuk mendukung pernyataan mereka bahwa hakim telah melakukan kesalahan hukum dalam beberapa temuannya.
‘Kekhawatiran serius’
Dalam putusannya yang menolak izin mengajukan banding, yang dijatuhkan pada tanggal 8 Januari, Bezuidenhout mengatakan penasihat Mavundla, Ms S Pillay (yang diberi pengarahan oleh firma hukum), telah, dalam pengajuan dan argumen tertulis, merujuk pada beberapa kasus.
Hakim Bezuidenhout mengatakan bahwa awalnya ada satu orang yang mengkhawatirkannya. Dia tidak menemukan kasus seperti itu dalam laporan hukum resmi mana pun. Dia meminta dua peneliti hukum di pengadilan untuk membaca pemberitahuan banding dan memberikan informasi tentang semua kasus yang disebutkan.
“Dari sembilan perkara yang dirujuk dan dikutip, hanya dua perkara yang ditemukan, padahal salah satu yang dikutip salah,” kata hakim.
Baca: Cara kerja AI di balik ChatGPT
“Saya mempunyai kekhawatiran yang serius,” katanya. Dia meminta Pillay untuk memberinya salinan kasus tersebut. Pillay menjawab bahwa dia telah diberikan referensi oleh “petugas artikel” dan bahwa dia tidak melihat kasus-kasus tersebut karena dia “kepadatan” dan berada di bawah banyak tekanan.
Belakangan diketahui bahwa pemberitahuan banding telah dibuat oleh panitera.
Hakim Bezuidenhout mengarahkan agar panitera datang ke pengadilan untuk menjelaskan dirinya sendiri. “Dia sepatutnya muncul di hadapan saya dan menjelaskan bahwa dia memperoleh kasus-kasus tersebut dari jurnal hukum dengan melakukan penelitian melalui portal Unisa miliknya. Saya bertanya kepadanya jurnal hukum mana yang spesifik dan dia tidak bisa menjawab. Saya bertanya kepadanya apakah dia pernah menggunakan aplikasi kecerdasan buatan seperti ChatGPT tetapi dia membantah telah melakukannya,” kata Bezuidenhout.
Hakim mengatakan dia kemudian menghentikan kasus tersebut untuk mengizinkan pengacara Mavundla pergi ke perpustakaan pengadilan dan mengambil kasusnya.
Ketika masalah tersebut ditarik kembali, Suren Singh, pemilik firma hukum tersebut, muncul. Dia mengatakan dia tidak bisa mendapatkan salinannya karena pustakawan ingin dia membayar untuk salinan tersebut “yang dia tidak bersedia lakukan”.
Hakim menunda kembali kasus tersebut untuk memberikan kesempatan terakhir kepada Singh dan stafnya untuk memberikan bukti atas kasus tersebut baik dari Laporan Hukum Afrika Selatan, Semua Laporan Hukum Afrika Selatan, atau dari Laporan Hukum Afrika Selatan. Institut Informasi Hukum Afrika Selatan.
Ketika Singh kembali menghadapnya pada tanggal 25 September, dia menunjukkan bahwa sebagai “praktisi lanjut usia” (yang menurut hakim, dia mengartikannya sebagai orang yang tertantang secara teknologi), dia mengalami kesulitan dalam mendapatkan kasus-kasus tersebut, namun telah berusaha semaksimal mungkin untuk mendapatkan kasus tersebut. melakukannya menggunakan Google.
Dia mengeluh bahwa panitera ini telah ditempatkan di bawah “paksaan yang tidak beralasan” karena harus hadir di pengadilan.
Dalam penilaiannya, Bezuidenhout mengatakan dari seluruh kasus yang diajukan pengacara, banyak yang tidak ada sama sekali, ada yang salah kutipan dan ada yang sama sekali tidak ada sangkut pautnya dengan kasus yang ditanganinya.
‘Keraguan serius’
Singh, katanya, telah menyampaikan bahwa dia tidak seharusnya membayar biaya kedua sidang tersebut. Dia berkata bahwa dia mempunyai “perusahaan kecil” dan berdiri di samping pegawai artikelnya. “Dia tidak mau mengakui kesalahannya atau bertanggung jawab atas betapa seriusnya tindakan Pillay dan (panitera),” kata hakim.
Dia mengatakan Singh telah menyatakan bahwa advokat responden (MEC untuk departemen pemerintahan koperasi & urusan adat) juga harus disalahkan karena dia juga belum memeriksa kutipannya.
Hakim mengatakan “tidak jelas apakah dia mengakui” bahwa ChatGPT dan program AI lainnya telah digunakan dan, jika memang demikian, maka hal tersebut merupakan hal yang wajar.
Baca: Menyerukan undang-undang baru untuk melindungi pembeli online di Afrika Selatan
“Jelas bahwa pengadilan harus dapat berasumsi dan mengandalkan representasi diam-diam dari pengacara yang dikutip dan diandalkan oleh pihak berwenang, memang benar-benar ada. Ms Pillay secara membabi buta mengandalkan otoritas yang diberikan kepadanya (oleh petugas) tanpa memeriksa referensi,” kata Bezuidenhout.
Hakim mengatakan bahwa dia memiliki “keraguan yang serius” mengenai kebenaran dan kebenaran pernyataan panitera bahwa dia menemukan kutipan tersebut di jurnal hukum dan hal ini menimbulkan pertanyaan mengenai karir hukumnya di masa depan. Namun, itu adalah masalah yang harus diputuskan oleh LPC.
“Banyak sekali sumber daya hukum dan yudisial yang dihabiskan untuk menemukan pihak berwenang yang dirujuk di pengadilan,” katanya, dan mengajukan kasus-kasus fiktif atau tidak ada tidak berarti “memberikan penjelasan hukum yang jujur”.
Dia mengatakan “eksperimen singkat” yang memasukkan hanya dua kutipan ke dalam ChatGPT telah segera menggambarkan tidak dapat diandalkannya situs tersebut sebagai sumber informasi dan penelitian hukum.
Seandainya Pillay memeriksa pihak berwenang sebelum datang ke pengadilan, dia akan mengecam segala ketergantungan pada kasus-kasus tersebut.
“Seandainya siapa pun yang menandatangani pemberitahuan banding tambahan dan yang bertanggung jawab mengawasi (panitera), melakukan pemeriksaan paling mendasar, maka masalahnya akan diketahui bahkan sebelum dokumen tersebut diterbitkan dan diserahkan. Adapun penelitian (panitera), semakin sedikit dikatakan semakin baik. Namun sayangnya hal ini memicu rangkaian peristiwa yang sangat disayangkan.”
Baca: Kami Bukan Pelanggar Hukum: MTN membalas gugatan Vodacom
Hakim Bezuidenhout mengatakan pemohon (Mavundla) tidak bertanggung jawab atas biaya-biaya ini dan Surendra Singh and Associates harus membayarnya dari kasnya sendiri.
Dia menolak permohonan izin untuk mengajukan banding dan mengarahkan agar keputusannya dikirim ke LPC untuk kemungkinan tindakan lebih lanjut.
Baca keputusan Di Sini. — (c) GroundUp 2025
Dapatkan berita terkini dari TechCentral di WhatsApp. Daftar di sini.
Jangan lewatkan:
Kecerdasan buatan telah melewati ‘fase keajaiban’
