Dua mahasiswa telah menggunakan kacamata pintar Meta untuk membuat alat yang dengan cepat mengidentifikasi orang asing yang lewat dan menampilkan informasi sensitif orang tersebut, termasuk alamat rumah dan informasi kontak mereka, menurut video demonstrasi yang diposting ke Instagram. Meskipun pembuatnya mengatakan bahwa mereka tidak memiliki rencana untuk merilis kode untuk proyek mereka, demo tersebut memberi kita gambaran tentang kemungkinan besar masa depan umat manusia—masa depan yang dulunya hanya terbatas pada film fiksi ilmiah distopia.
Dua orang di balik proyek ini, AnhPhu Nguyen dan Caine Ardayfio, adalah mahasiswa ilmu komputer di Harvard yang sering memposting eksperimen teknologi mereka di media sosial, termasuk Gambar cetak 3D Dan pelempar api yang dapat dipakai. Tapi ini adalah eksperimen terbaru mereka, yang pertama kali ditemukan oleh 404 Mediaitu mungkin akan membuat banyak orang merasa tidak nyaman.
Sebuah video Instagram diposting oleh Nguyen menjelaskan bagaimana kedua pria tersebut membuat program yang memasukkan informasi visual dari kacamata pintar Meta Ray Ban ke dalam alat pengenalan wajah seperti Pimeyes, yang pada dasarnya telah memindai seluruh web untuk mengidentifikasi di mana wajah orang tersebut muncul secara online. Dari sana, model bahasa besar menyimpulkan kemungkinan nama dan detail lainnya tentang orang tersebut. Nama tersebut kemudian dimasukkan ke berbagai situs web yang dapat mengungkapkan alamat rumah orang tersebut, nomor telepon, pekerjaan atau afiliasi organisasi lainnya, dan bahkan nama kerabatnya.
“Untuk menggunakannya cukup memakai kacamata, lalu saat berjalan melewati orang, kacamata akan mendeteksi wajah seseorang yang ada di dalam bingkai. Foto ini digunakan untuk menganalisis mereka, dan setelah beberapa detik, informasi pribadi mereka muncul di ponsel Anda,” Nguyen menjelaskan dalam video Instagram.
Nguyen dan Ardayfio menyebut proyek mereka I-XRAY dan sungguh menakjubkan betapa banyak informasi yang dapat mereka peroleh dalam waktu singkat. Mereka dengan cepat menunjukkan bahwa banyak dari alat-alat ini baru tersedia secara luas dalam beberapa tahun terakhir. Misalnya saja kacamata pintar Meta dengan kemampuan kamera mirip kacamata biasa yang baru dirilis tahun lalu. Dan jenis ekstraksi data LLM yang mereka capai hanya mungkin dilakukan dalam dua tahun terakhir. Bahkan kemampuan untuk mencari sebagian nomor jaminan sosial (berkat semua kebocoran data yang Anda baca setiap hari sekarang) hanya mungkin dilakukan di tingkat konsumen sejak tahun 2023.
Seperti yang Anda lihat di video, mereka juga mendekati orang asing dan bertindak seolah-olah mereka mengenal orang-orang tersebut dari tempat lain setelah langsung mencari informasi mereka.
“Sistem ini memanfaatkan kemampuan LLM untuk memahami, memproses, dan mengumpulkan sejumlah besar informasi dari beragam sumber – menyimpulkan hubungan antara sumber online, seperti menghubungkan nama dari satu artikel ke artikel lainnya, dan secara logis mengurai identitas dan detail pribadi seseorang melalui teks,” kata pembuatnya dalam dokumen penjelasan yang diposting ke Google Drive. “Sinergi antara LLM dan pencarian wajah terbalik memungkinkan ekstraksi data yang sepenuhnya otomatis dan komprehensif yang sebelumnya tidak mungkin dilakukan hanya dengan metode tradisional.”
Pembuatnya mencantumkan alat yang mereka gunakan dalam rilisnya, dengan menyatakan bahwa siapa pun dapat meminta agar layanan tersebut menghapus informasi mereka. Untuk mesin pencari wajah terbalik, ada Pimeyes dan Facecheck ID. Untuk mesin pencari yang menyertakan informasi pribadi ada FastPeopleSearch, CheckThem, dan Instant Checkmate. Mengenai informasi nomor jaminan sosial, tidak ada cara untuk menghapusnya, jadi para siswa menyarankan untuk membekukan kredit Anda.
“Meskipun awalnya dimulai sebagai proyek sampingan, Caine dan saya pikir dalam jangka panjang, peluncuran I-XRAY adalah hal positif bagi umat manusia,” kata Nguyen kepada Gizmodo melalui email. “Kami lebih suka jika hanya segelintir orang saja yang mengetahui alat-alat yang digunakan seperti fastPeopleSearch atau Pimeyes, yang mungkin merupakan aktor jahat yang menghabiskan lebih banyak waktunya untuk mencari alat-alat ini dibandingkan para korbannya.”
Ardayfio juga optimis tentang teknologi ini dan mengatakan kepada Gizmodo bahwa lebih baik orang menyadari kemampuan ini daripada tidak mengetahuinya.
“Saya rasa konten seperti video yang kami buat ini baik untuk kemanusiaan,” kata Ardayfio. “Karena video ini, jutaan orang telah melihat potensi teknologi pencarian gambar terbalik dan LLM dengan cara yang relatif sehat dan tidak berbahaya. Namun yang lebih penting, mereka kini tahu cara mengendalikan data mereka sendiri terhadap orang-orang yang tidak seperti kita dan memiliki kepentingan buruk! Pelaku kejahatan selalu mampu melakukan penelusuran gambar terbalik, menggunakan LLM, mengikis situs web, dll., namun kami mengungkap apa yang dapat dilakukan orang-orang ini dan bagaimana melindungi diri Anda sendiri.”
“Saya pikir menerapkan batasan, seperti mengizinkan orang menghapus informasi publik mereka dari kumpulan data besar, sangat penting untuk membuat teknologi baru aman,” lanjut Ardayfio.
Meta tidak segera menanggapi pertanyaan dari Gizmodo pada Rabu pagi. Kami akan memperbarui postingan ini jika kami mendengarnya kembali. Namun sementara itu, kita semua mungkin harus bersiap-siap menghadapi teknologi semacam ini yang akan muncul lebih luas karena perpaduan teknologi semacam ini tidak dapat dihindari pada saat ini—terutama jika ada kacamata pintar baru yang sangat disukai oleh orang-orang seperti Mark Zuckerberg. benar-benar menjadi arus utama.
Mungkin diperlukan waktu cukup lama bagi perusahaan teknologi terbesar untuk mendukung hal ini, namun sama seperti kita melihat OpenAI pada dasarnya menjadi senjata awal bagi AI generatif yang ditujukan kepada konsumen, perusahaan kecil mana pun bisa saja mewujudkan produk ini dan mulai membuat domino jatuh ke tangan perusahaan lain. perusahaan teknologi yang lebih besar untuk memulai masa depan ini. Mari berharap yang terbaik, mengingat implikasi privasinya. Rasanya seperti tak seorang pun akan memiliki kemiripan anonimitas di depan umum begitu bola ini bergulir.
