mig33

Bagaimana Pengguna Internasional Tanpa Sadar Membangun Sensor China WeChat – Sebuah badan penelitian yang signifikan selama dekade terakhir telah menunjukkan bagaimana platform online di China secara rutin disensor untuk mematuhi peraturan pemerintah. Ketika perusahaan China tumbuh ke pasar di luar China, aktivitas mereka juga mendapat sorotan.

Bagaimana Pengguna Internasional Tanpa Sadar Membangun Sensor China WeChat

mig33 – Misalnya, TikTok, sebuah perusahaan media sosial berbasis video, telah dituduh menyensor konten di platformnya yang akan sensitif di China. Grindr, platform kencan online milik Cina untuk gay, bi, trans, dan queer, dicurigai dapat digunakan untuk memantau, melacak, atau membahayakan pengguna Amerika.

WeChat adalah platform media sosial paling populer di China dan ketiga di dunia.Sementara platform mendominasi pasar di Cina, ia juga telah melakukan upaya untuk menginternasionalkan dan menarik pengguna secara global.

Baca : Migme Mencetak Pertumbuhan Pendapatan 393%, Tetapi Kerugian Bersih Melebar

Seperti platform Internet lainnya yang beroperasi di China, WeChat diharapkan untuk mengikuti aturan dan regulasi dari otoritas China terkait konten yang dilarang.

Penelitian Citizen Lab sebelumnya menunjukkan tindakan penyeimbangan yang harus dipertahankan WeChat saat mencoba untuk tetap berada dalam garis merah pemerintah di China dan menarik pengguna secara internasional.

WeChat menerapkan sensor untuk pengguna dengan akun yang terdaftar ke nomor telepon China daratan. Sensor ini dilakukan tanpa pemberitahuan kepada pengguna dan diperbarui secara dinamis, sering kali sebagai respons terhadap peristiwa terkini.

Dalam pekerjaan sebelumnya, tidak ada bukti bahwa fitur sensor ini memengaruhi pengguna dengan akun yang tidak terdaftar ke nomor telepon yang berbasis di China.

Pengguna ini dapat mengirim dan menerima pesan yang tidak dapat dilakukan oleh pengguna dengan akun yang terdaftar di China. Dalam laporan ini, kami menunjukkan bahwa dokumen dan gambar yang dibagikan di antara akun yang tidak terdaftar di Tiongkok tunduk pada pengawasan konten dan digunakan untuk membangun basis data yang digunakan WeChat untuk menyensor akun yang terdaftar di Tiongkok.

Dengan terlibat dalam analisis perjanjian privasi WeChat dan dokumen kebijakan, kami menemukan bahwa perusahaan tidak memberikan referensi atau penjelasan yang jelas tentang fitur pengawasan konten dan karena itu tidak melakukan eksperimen teknis mereka sendiri, pengguna tidak dapat menentukan apakah, dan mengapa, pengawasan konten diterapkan . Akibatnya, pengguna non-China yang mengirim konten sensitif melalui WeChat mungkin tanpa disadari berkontribusi pada sensor politik di China.

Latar Belakang

WeChat ( Weixin dalam bahasa China ) adalah salah satu aplikasi media sosial paling populer di China, dengan 1,15 miliar pengguna aktif bulanan di China dan luar negeri pada akhir 2019.

Aplikasi ini dimiliki dan dioperasikan oleh Tencent, salah satu perusahaan teknologi terbesar di China, dan diluncurkan pada 2011 sebagai aplikasi pesan instan seluler.

Sejak itu, Grup WeChat/Weixin Tencenttelah mengembangkan berbagai fungsi komunikasi di WeChat termasuk pesan instan (misalnya, obrolan pribadi satu lawan satu, obrolan grup), Momen WeChat (yaitu, fungsi yang menyerupai Garis Waktu Facebook di mana pengguna dapat berbagi pembaruan berbasis teks, mengunggah gambar, dan berbagi video atau artikel pendek dengan teman-teman mereka), dan platform Akun Publik (yaitu, platform mirip blog yang memungkinkan penulis individu maupun bisnis menulis untuk khalayak umum). Empat puluh lima miliar pesan dilaporkan dikirim menggunakan WeChat setiap hari.

Pasar Cina menghadirkan tantangan unik bagi penyedia platform Internet karena undang-undang dan peraturan yang meminta pertanggungjawaban perusahaan atas konten yang diterbitkan atau dikirimkan pada platform mereka.

Perusahaan diharapkan berinvestasi dalam sumber daya manusia dan teknologi untuk memoderasi konten dan mematuhi peraturan pemerintah tentang kontrol konten. Perusahaan yang tidak melakukan aktivitas moderasi dan kepatuhan tersebut dapat didenda atau dicabut izin usahanya.

Sementara itu, undang-undang dan peraturan China tentang kontrol konten didefinisikan secara luas, dengan topik yang dilarang mulai dari “mengganggu ketertiban dan stabilitas sosial” atau “merusak kehormatan dan kepentingan negara,” hingga melintasi “garis bawah sosialisme.” Penelitian sebelumnya telah menunjukkan bahwa pedoman yang didefinisikan secara samar-samar ini sering membuat perusahaan dan individu sama-sama terlibat dalam penyensoran diri.

Sebelumnya bekerja menunjukkan bahwa WeChat etik meresap politik censorshi p bagi pengguna yang akunnya beroperasi di bawah persyaratan WeChat Cina layanan; kami menyebut akun ini, secara umum, sebagai akun yang terdaftar di China.

Akun yang awalnya terdaftar ke nomor telepon Cina daratan termasuk dalam persyaratan layanan ini, dan tetap berada di bawahnya meskipun pengguna kemudian menautkan akun mereka ke nomor telepon non-Cina.

File dan komunikasi yang dikirim ke, atau dari, akun yang terdaftar di China dinilai untuk sensitivitas politik di antara kategori konten lainnya. Jika konten komunikasi ditemukan sensitif, itu disensor untuk semua akun yang terdaftar di China di platform.

Pekerjaan sebelumnya telah menemukan bahwa WeChat menempatkan gambar yang dikirim oleh akun yang terdaftar di China di bawah dua jenis pengawasan yang berbeda.Karena metode komputasi yang mahal dan memakan waktu yang diperlukan untuk menganalisis sensitivitas gambar, metode ini tidak mudah diadaptasi untuk dijalankan secara real-time.

Akibatnya, WeChat pertama-tama mengarahkan gambar-gambar ini ke file pengawasan hash untuk menilai apakah gambar sebelumnya telah dikategorikan sebagai sensitif, yang ditentukan dengan memeriksa apakah hash file ada dalam indeks hash dari hash file sensitif yang diketahui.

Pemeriksaan indeks hash ini dilakukan secara real time. Jika hash file gambar ada dalam indeks hash, itu disensor secara real time. Gambar yang tidak ada dalam indeks hash dari file sensitif yang diketahui menjalani pengawasan konten.

Pengawasan semacam itu melibatkan gambar yang dianalisis apakah secara visual mirip dengan gambar apa pun yang masuk daftar hitam. Selanjutnya, teks yang ada dalam gambar diekstraksi dan dianalisis untuk menentukan apakah ada teks yang masuk daftar hitam.

Jika gambar tersebut ternyata sensitif, maka hash filenya akan ditambahkan ke indeks hash untuk mengaktifkan penyensoran waktu nyata di masa mendatang. Sebagai catatan, pengujian sebelumnya menemukan bahwa pengawasan konten tidak pernah dilakukan secara real time dan file gambar sensitif pertama kali dikirim tidak disensor.

Dalam laporan ini, kami meninjau kembali bagaimana WeChat mengimplementasikan pengawasan gambar. Untuk pertama kalinya, kami memeriksa bagaimana WeChat melakukan pengawasan dan penyensoran dokumen yang dikirim melalui platform.

Selain itu, kami memeriksa apakah gambar dan dokumen yang dikomunikasikan sepenuhnya di antara akun yang tidak terdaftar di Tiongkok tunduk pada praktik pengawasan yang sama yang sebelumnya ditemukan berlaku untuk komunikasi ke, atau dari, akun yang terdaftar di Tiongkok.

Penilaian Teknis

Mengukur pengawasan komunikasi dapat menjadi tantangan karena sifatnya yang tidak terlihat. Dengan tidak adanya sensor, yang membatasi komunikasi dengan cara yang memiliki efek terukur (misalnya, pesan gagal terkirim), pengawasan bisa sulit dideteksi.

Untuk mendeteksi pengawasan komunikasi dari akun yang tidak terdaftar di China, kami mengembangkan dan menjalankan dua eksperimen saluran samping. Dalam kedua eksperimen, kami menggunakan dua saluran, satu berkomunikasi sepenuhnya di antara akun yang tidak terdaftar di Tiongkok dan yang kedua berkomunikasi dengan akun yang terdaftar di Tiongkok.

Dengan memanfaatkan indeks hash yang menyensor akun WeChat yang terdaftar di China sebagai saluran samping, kami dapat menyimpulkan bahwa pengawasan konten terjadi di saluran pertama dengan mengukur sensor di saluran kedua.

Singkatnya, meskipun kami tidak mendeteksi penyensoran dalam komunikasi di antara akun yang tidak terdaftar di Tiongkok, kami menunjukkan bahwa akun tersebut tetap tunduk pada pengawasan konten.

Pengawasan semacam itu ditemukan dengan mengonfirmasi bahwa konten sensitif secara politik yang dikirim secara eksklusif antara akun yang tidak terdaftar di Tiongkok diidentifikasi sebagai sensitif secara politik dan kemudian disensor ketika dikirimkan antara akun yang terdaftar di Tiongkok, tanpa sebelumnya dikirim ke, atau di antara, yang terdaftar di Tiongkok. Di sisa bagian ini, kami menjelaskan analisis pra-eksperimen kami, desain eksperimental kami, dan kami menyajikan hasil eksperimen kami.

Sebelum merancang eksperimen saluran samping, pertama-tama kami menyelidiki apakah dokumen sensitif yang dikirim ke, atau dari, akun yang terdaftar di China diawasi dan disensor menggunakan indeks hash.

Dengan mengirimkan dokumen sensitif ke akun yang terdaftar di China, kami dapat mengamati file mana yang disensor. Kami menemukan bahwa dokumen seperti teks biasa (*.txt) yang disandikan UTF8, Microsoft Word (*.docx), dan Portable Document Format (*.pdf) dokumen yang berisi kombinasi kata kunci sensitif tertentu seperti (Falun Gong + Falun Dafa) disensor.

Sebagai bagian dari penyelidikan kami, kami mengirim banyak dokumen dalam beberapa hari. Dari catatan khusus, kami mengirim lebih dari 50 selama 25-26 November, yang tepat sebelum percobaan kami, serta lebih dari 50 selama 3-5 Desember, yang selama percobaan kami.

Yaitu, kami mengkonfirmasi bahwa dokumen menjalani pengawasan hash file dan bahwa file tersebut tidak disensor secara real time sampai mereka menjalani pengawasan konten non-real time dan hash file mereka telah ditambahkan ke indeks hash.

Kami juga berusaha untuk mengkonfirmasi apakah gambar masih tunduk pada pengawasan dan disensor seperti yang dijelaskan dalam pekerjaan sebelumnya. Kami menemukan bahwa, tidak seperti dalam pekerjaan sebelumnya di mana pengawasan konten gambar tidak dilakukan secara real time, gambar sekarang terkadang disensor secara real time bahkan jika mereka belum pernah dikirim melalui platform sebelumnya.

Karena kemampuan baru implementasi sensor WeChat ini, kami merancang eksperimen kami untuk mengirim sejumlah besar gambar sedemikian rupa sehingga kami berharap, dengan probabilitas tinggi, bahwa setidaknya satu tidak akan disensor secara real time.

Percobaan Statistik

Di bagian ini, kami menyajikan eksperimen saluran samping pertama kami yang menguji pengawasan konten dokumen dan gambar sensitif yang dikirimkan melalui WeChat. Kami menyebut eksperimen ini sebagai eksperimen statistik karena eksperimen ini menggunakan analisis statistik.

Baca Juga : Foap, Aplikasi Penjualan Foto Secara Online Yang Menjadi Impian Para Fotografer

Metodologi

Dalam percobaan ini, kami menggunakan dua percakapan obrolan grup WeChat untuk berfungsi sebagai dua saluran komunikasi kami:

  • Obrolan grup non-Cina . Obrolan grup ini berisi tiga akun WeChat yang tidak terdaftar di Tiongkok yang terdaftar ke nomor telepon Kanada. Dalam obrolan grup ini, akun yang tidak terdaftar di Tiongkok mengirimkan konten sepenuhnya di antara akun lain yang tidak terdaftar di Tiongkok.
  • Obrolan grup Cina . Obrolan grup ini berisi dua akun WeChat yang tidak terdaftar di Tiongkok yang didaftarkan ke nomor telepon Kanada dan satu akun WeChat yang didaftarkan ke nomor telepon Tiongkok daratan.
  • Dalam obrolan grup ini, akun yang tidak terdaftar di Tiongkok secara bersamaan mengirimkan konten ke akun yang tidak terdaftar di Tiongkok dan akun yang terdaftar di Tiongkok. Dalam obrolan grup ini, kami tertarik pada apakah akun yang terdaftar di China menerima konten atau konten tersebut malah disensor.
  • Eksperimen kami mengandalkan pengujian keberadaan hash file di indeks hash sensor WeChat. Dengan mengirimkan file di grup chat China dan mengukur apakah file tersebut disensor secara real time, kita dapat menguji apakah hash-nya sudah ada di indeks hash.

Namun, sebagai konsekuensi dari pengujian ini, kami memasukkan hash ke dalam indeks hash jika belum ada. Jadi, penting bahwa, setiap kali kami melakukan pengujian baru, kami mengirim file unik dengan hash yang belum pernah dikirim melalui WeChat sebelumnya. Kami menyebut file seperti itu sebagai file baru , karena hash-nya baru bagi platform WeChat.

Bagaimana Pengguna Internasional Tanpa Sadar Membangun Sensor China WeChat
Tagged on: