Komisi Eropa telah mengirimkan permintaan informasi mengenai desain dan pengoperasian sistem pemberi rekomendasi ke YouTube, Snapchat, dan TikTok. Sistem pemberi rekomendasi adalah algoritme pembelajaran mesin yang menggunakan data untuk menyarankan item yang mungkin diminati pengguna.
Namun, berdasarkan Undang-Undang Layanan Digital (DSA), yang merupakan peraturan moderasi konten penting di UE, Komisi menyatakan bahwa hal-hal tersebut merupakan “inti” risiko sistemik yang ditimbulkan oleh platform kepada pengguna.
Dalam pernyataan yang dikeluarkan pada Rabu (2 September), Komisi UE dikatakan: “Di bawah DSA, platform harus menilai dan memitigasi secara memadai risiko yang berasal dari sistem pemberi rekomendasi mereka, termasuk risiko terhadap kesehatan mental pengguna dan penyebaran konten berbahaya yang timbul dari desain algoritma ini yang berbasis keterlibatan.”
Kami meminta informasi dari YouTube, Snapchat, dan TikTok tentang desain sistem rekomendasi mereka berdasarkan Digital Services Act.
YouTube dan Snapchat harus merinci parameter algoritme dan amplifikasi risikonya.
TikTok harus menjelaskan tindakan melawan manipulasi dan… pic.twitter.com/usQkKHfPH4
— Komisi Eropa (@EU_Commission) 2 Oktober 2024
Permintaan tersebut “juga berkaitan dengan langkah-langkah platform tersebut untuk memitigasi potensi pengaruh sistem pemberi rekomendasi mereka terhadap penyebaran konten ilegal, seperti mempromosikan obat-obatan terlarang dan ujaran kebencian.”
Komisi menyatakan bahwa mereka telah meminta TikTok untuk memberikan informasi lebih lanjut mengenai langkah-langkah yang telah diterapkan perusahaan untuk mencegah pelaku kejahatan memanipulasi platform dan untuk memitigasi risiko terkait pemilu dan wacana sipil.
YouTube dan Snapchat perlu menjawab pertanyaan mengenai parameter algoritma rekomendasi mereka dan potensi peran mereka dalam memperbesar risiko sistemik, termasuk yang terkait dengan perlindungan anak di bawah umur.
Ketiga perusahaan media sosial tersebut diberi waktu hingga 15 November untuk menyediakan data. UE mengatakan tanggapan mereka akan menginformasikan langkah selanjutnya termasuk kemungkinan membuka penyelidikan formal dan kemungkinan denda.
UE membuka proses formal terhadap Meta atas sistem pemberi rekomendasinya
UE sebelumnya telah memulai proses ketidakpatuhan berdasarkan DSA, yang memaksa perusahaan teknologi untuk mengambil tindakan lebih tegas terhadap konten ilegal dan berbahaya di platform mereka. Prosesnya terkait dengan rekomendasi yang diberikan oleh Facebook dan Instagram Meta, AliExpress, dan TikTok.
Komisi tidak membahas perusahaan induk Meta, Facebook dan Instagram, karena pertanyaan yang sama juga dibahas dalam proses resmi yang dibuka terhadap perusahaan tersebut pada bulan Mei.
ReadWrite melaporkan bahwa badan tersebut khawatir bahwa sistem Facebook dan Instagram, termasuk algoritme mereka, dapat merangsang kecanduan perilaku pada anak-anak, serta menciptakan apa yang disebut “efek lubang kelinci.”
Gambar unggulan: Tengah perjalanan
Pos UE mempertanyakan YouTube, Snapchat, TikTok tentang sistem rekomendasi AI mereka muncul pertama kali di ReadWrite.
