Krisis etika dalam komputasi “diluncurkan” pada tahun 2018. Pada bulan Maret tahun itu, Bola Dunia Boston menegaskan, “Ilmu komputer menghadapi krisis etika. Skandal Cambridge Analytica membuktikannya!” Hal ini sebagai tanggapan terhadap teknologiDi mana Jurnal Wall Street kolumnis Peggy Noonan menggambarkan para eksekutif Silicon Valley sebagai “orang-orang Mars yang bermoral yang beroperasi pada gelombang etika postmodern baru yang aneh” dan Niall Ferguson, seorang sejarawan Hoover Institution, menggambarkan dunia maya sebagai “cyberia, sebuah dunia gelap dan tanpa hukum yang menjadi tempat berkumpulnya aktor-aktor jahat.”
Tapi di bulan Januari 2019 saya Komunikasi kolom, saya mengabaikan getaran krisis etika. Saya menulis, “Jika masyarakat menganggap model bisnis pengawasan bersifat ofensif, maka solusinya adalah kebijakan publik, dalam bentuk undang-undang dan peraturan, bukan pelanggaran etika.” Namun kini aku berpikir, aku salah. Saya pikir saya benar dalam mengadvokasi undang-undang dan peraturan untuk mengatasi dampak buruk komputasi, namun sekarang saya yakin kita memang mengalami krisis etika dalam komputasi.
Apa yang mengubah pikiran saya? Pertama, kecemasan saya terhadap penyakit yang disebabkan oleh komputasi telah meningkat secara dramatis, seperti yang ditunjukkan oleh pembacaan kolom saya selama lima tahun terakhir. Saya mengeluh bahwa umat manusia tampaknya lebih mengutamakan teknologi dan bukan sebaliknya. Saya berpendapat bahwa perusahaan teknologi telah menjadi terlalu kuat dan kekuasaan mereka harus dibatasi. Saya minta ACM mendedikasikan dirinya untuk kepentingan publik. Saya menunjukkan bahwa model bisnis Big Tech tidak etis. Saya menjelaskan bagaimana teknologi meningkatkan polarisasi masyarakat. Saya meratap bahwa komputasi mempunyai darah di tangannya. Sekitar dua tahun lalu, saya mulai memberi pembicaraan tentang bagaimana menjadi teknolog komputasi yang etis.
Namun, hingga saat ini, saya masih belum bisa menjawab tantangan tersebut dan menanyakan apakah bekerja di perusahaan teknologi besar itu etis, dengan mempertimbangkan semua hal di atas. Kode Etik ACM memang menawarkan pedoman etika yang jelas. Ini dibuka dengan kalimat berikut: “Tindakan para profesional komputasi mengubah dunia. Untuk bertindak secara bertanggung jawab, mereka harus merefleksikan dampak yang lebih luas dari pekerjaan mereka, dan secara konsisten mendukung kepentingan publik.” Jadi, bintang etika yang harus kita ikuti adalah dukungan terhadap kepentingan publik.
Mendukung kepentingan publik tidak selalu mudah. Kita semua harus menavigasi trade-off antara “saya” dan “kita.” Sebuah kutipan Talmud yang terkenal menyatakan: “Jika saya bukan untuk diri saya sendiri, siapakah yang akan menjadi untuk saya? Jika aku hanya untuk diriku sendiri, siapakah aku ini?” Kita harus menyeimbangkan antara optimalisasi untuk diri sendiri dan optimalisasi untuk orang lain, termasuk kepentingan publik. Jadi, bagaimana cara kerja Big Tech memasang jarum ini? Ini adalah pertanyaan yang harus ditanyakan oleh orang-orang yang bekerja untuk Big Tech pada diri mereka sendiri.
Motif keuntungan pada dasarnya tidak bertentangan dengan kepentingan publik. Seperti yang dikatakan Adam Smith, “Mereka dipimpin oleh tangan yang tidak terlihat…dan dengan demikian, tanpa disengaja, tanpa menyadarinya, memajukan kepentingan masyarakat.” Namun kepercayaan pada kekuatan magis pasar bebas yang selalu melayani kepentingan publik tidak memiliki dasar teori. Faktanya, krisis iklim yang kita hadapi saat ini sudah terbukti kegagalan pasar. Sebagai contoh ekstrim, Big Tobacco tentu saja tidak mendukung kepentingan publik, dan sebagian besar dari kita akan setuju bahwa bekerja untuk Big Tobacco adalah tindakan yang tidak etis. Pertanyaannya adalah apakah Big Tech mendukung kepentingan publik, dan jika tidak, apa yang harus dilakukan para pekerja Big Tech untuk mengatasinya.
Tentu saja, tidak ada jawaban sederhana untuk pertanyaan seperti itu, dan satu-satunya jawaban yang masuk akal terhadap pertanyaan apakah bekerja di Big Tech itu etis adalah, “Tergantung.” Tapi pertimbangkan Uber. Pada tahun 2023, Kabel majalah dilaporkan bahwa “…Travis Kalanick, telah membangun basis pengguna yang sangat besar dan antusias dengan mensubsidi perjalanan menggunakan dana VC yang sangat besar dari perusahaan. Di bawah Kalanick, Uber mengabaikan peraturan, mengabaikan masalah keselamatan, dan memimpin tempat kerja yang penuh dengan pelecehan seksual.” Apakah etis bekerja di Uber di bawah Kalanick? Saya yakin banyak karyawan Uber yang tidak menyadari kejahatan Kalanick, namun banyak yang menyadarinya, namun mereka terus bekerja di Uber. Baru pada tahun 2022 seorang pelapor membocorkan lebih dari 124.000 file perusahaan ke Walimengungkap kelakuan buruknya.
“Sulit membuat seseorang memahami sesuatu, ketika gajinya bergantung pada ketidakpahamannya,” kata penulis dan aktivis politik Upton Sinclair. Saya yakin, para pekerja Big Tech tampaknya tidak menanyakan pertanyaan-pertanyaan sulit kepada diri mereka sendiri. Oleh karena itu, saya menyimpulkan bahwa kita memang menderita krisis etika.
