Facebook mengakui industri bisa berbuat lebih untuk memerangi ekstremisme online

Facebook telah mengakui bahwa perusahaan teknologi dapat berbuat lebih banyak untuk melawan ekstremisme online setelah Theresa May dan presiden Prancis, Emmanuel Macron, mengusulkan perusahaan-perusahaan yang bergerak terlalu lambat untuk menyingkirkan konten ekstremis yang dibagi oleh kelompok teroris.

Raksasa media sosial tersebut mengatakan kepada sebuah pertemuan antara para pemimpin politik dan eksekutifnya sendiri serta pihak-pihak lain dari Google dan Microsoft di majelis umum Perserikatan Bangsa-Bangsa di New York bahwa sekarang mereka mempekerjakan ribuan pengulas konten di seluruh dunia dan 150 staf yang berdedikasi untuk melawan terorisme di platformnya dalam upaya untuk menghapus lebih banyak konten ekstremis.

Tapi, bersama dengan Google, ini memperingatkan bahwa menggunakan teknologi kecerdasan buatan yang muncul untuk menemukan materi berbahaya belum terlalu mudah.

Sumber Facebook mengatakan bahwa perusahaan dapat berbuat lebih banyak dan pihaknya berkomitmen untuk membangun lebih banyak teknologi untuk membantu mengatasi masalah ini. Upaya juga telah dipercepat, khususnya dengan menggunakan kecerdasan buatan untuk menandai konten ekstremis dan berbagi data ini dengan perusahaan pesaing.

"AI telah mulai membantu kami mengidentifikasi citra teroris pada saat upload sehingga kami dapat menghentikan upload, memahami sinyal berbasis teks untuk dukungan teroris, menghapus cluster teroris dan konten terkait, dan mendeteksi akun baru yang dibuat oleh pelanggar berulang," kata Monika Bickert , Direktur manajemen kebijakan global Facebook, saat KTT tersebut.

Namun, perusahaan tersebut mengatakan bahwa pengawasan manusia masih diperlukan, karena masih ada keterbatasan teknologi. "AI bisa melihat lambang atau bendera teroris, tapi sulit menafsirkan maksud konten," tambah Bicker.

Google juga memiliki situs video sharing YouTube sementara Facebook memiliki layanan pesan terenkripsi WhatsApp dan Instagram.

Perdana menteri Inggris telah mendesak para pemimpin teknologi untuk "melangkah lebih jauh dan lebih cepat dalam mengotomatisasi deteksi dan penghapusan konten teroris secara online" dan menetapkan tujuan dua jam untuk penghapusannya setelah posting pertama.

Tekanannya pada raksasa teknologi hadir dari perdana menteri Macron dan Italia, Paolo Gentiloni, yang semuanya khawatir bahwa Negara Islam terlalu mudah untuk mengirim video dan majalah online yang mengilhami serangan teror mematikan.

Google juga membuat catatan peringatan. Kent Walker, penasihat umum Google, mengatakan bahwa masalah yang lebih besar adalah Anda tidak dapat menangkap semuanya di keseluruhan internet. Tantangannya adalah, sementara pembelajaran mesin adalah alat yang hebat, ini masih relatif awal dalam evolusinya,” katanya, dikutip dari the Guardian.

Konsultan strategi digital berbasis di London, Robert Blackie, mengatakan tantangan besarnya adalah belum ditentukannya isi konen ekstremis.  "Jika Anda melaporkan pornografi misalnya, itu akan dihapus dengan sangat cepat. Tantangan terbesar adalah bahwa pemerintah belum menentukan isi ekstremisnya," katanya.

Jim Killock, direktur eksekutif Open Rights Group, sebuah sosialisasi untuk melindungi privasi dan kebebasan berbicara secara online, juga memperingatkan keterbatasan mengandalkan otomasi untuk mencatat materi teroris.

"Kesalahan pasti akan dilakukan, dengan menghapus konten yang salah dan dengan kehilangan materi ekstremis. Penghapusan otomatis akan memiliki efek luas pada konten yang kita lihat, meskipun tidak harus menyebarkan gagasan ekstremis karena para teroris akan beralih menggunakan platform lain," kata Killock.

Salah satunya adalah Telegram, layanan pesan terenkripsi, yang dikenal digunakan oleh pendukung Negara Islam. Perusahaan sebelumnya telah mengambil tindakan untuk memblokir puluhan akun Isis yang dicurigai.

"Sangat gila untuk melakukan percakapan ini tanpa menempatkan telegram depan dan pusat pembicaraan karena jika Anda menghapuskan retorika, kenyataannya: ini pendukung negara Islam tidak menggunakan Twitter atau YouTube seperti dulu. Telegram adalah pusat baru mereka. dari gravitasi," kata Charlie Winter, peneliti senior di Pusat Internasional untuk Studi Radikalisasi di King's College London.

Dia mengatakan kehadiran Negara Islam pada penyedia layanan internet besar (ISP) sekarang sangat kecil.

Images:
alamy
Powered by Blogger.