Konten ekstremis menyebar online dan penegak hukum tidak bisa mengikuti

Kontra-terorisme perlahan diprivatisasi dan dilakukan oleh pekerja bergaji rendah di perusahaan teknologi seperti Facebook, Google dan Twitter.

Meskipun perusahaan-perusahaan ini mempekerjakan penasihat ahli dan mantan agen pemerintah untuk menangani propaganda dan perekrutan ekstremis yang dimungkinkan oleh platform mereka, sebagian besar pekerjaan kasar dilakukan oleh kontraktor yang menghasilkan $ 15 per jam atau, dalam kasus YouTube, sukarelawan.

Hasilnya adalah tenaga kerja kontra-teror swasta dengan sedikit pelatihan semakin banyak digunakan untuk melakukan jenis pekerjaan yang diharapkan dari penegak hukum. Pekerjaan semacam itu dilakukan secara diam-diam, tidak akurat, dan dengan sedikit pertanggungjawaban.

Pada hari Senin, Facebook, YouTube, Twitter dan Microsoft mengumumkan pembentukan forum bersama untuk melawan terorisme setelah bertahun-tahun dikritik bahwa perusahaan teknologi telah gagal untuk memblokir ekstremis kekerasan di platform mereka.

Namun, keberadaan tim rahasia yang dibentuk untuk memerangi teror di platform media sosial telah menyoroti kelemahan yang kikuk bagi perusahaan teknologi. Di satu sisi mereka ingin terlihat melindungi privasi pengguna mereka dari gangguan pemerintah. Tapi pada saat bersamaan mereka berada di bawah tekanan besar untuk mencegah agar platform mereka tidak digunakan untuk meradikalisasi dan menghasut kekerasan.

Pemimpin termasuk perdana menteri Inggris Theresa May dan presiden Prancis Emmanuel Macron telah memberi label platform ini sebagai tempat berkembang biak bagi terorisme dan telah meminta mereka untuk membangun alat yang lebih baik untuk mengidentifikasi dan menyingkirkan konten ekstremis. Uni Eropa telah menciptakan sebuah rancangan undang-undang untuk membuat perusahaan media sosial menindak ekstrimisme atau menghadapi denda yang curam.

"Ini telah menjadi tanggung jawab raksasa teknologi, melawan kehendak mereka sendiri, karena penegak hukum sama sekali tidak dapat melakukan ini. Ini sebagian merupakan masalah kapasitas penegakan hukum dan sebagian karena raksasa teknologi tidak ingin memberi akses negara ke sejumlah besar data," kata Carl Miller, Direktur Riset Pusat Analisis Media Sosial di think tank Demos.

Twitter, Facebook dan Google telah mengumumkan langkah-langkah untuk mengatasi masalah ini, termasuk menangguhkan akun, menggunakan kecerdasan buatan untuk mengidentifikasi konten yang ekstrem, mempekerjakan lebih banyak moderator konten, mengembangkan dan mendukung sosialisasi "counter-speech", dan membuat database hash bersama industri (unik Sidik jari digital) untuk gambar teroris yang penuh kekerasan.

Facebook telah mengumpulkan satu tim dari puluhan kontraktor dengan bayaran rendah untuk tidak hanya menghapus propaganda teroris namun juga melakukan investigasi mendalam terhadap pengguna yang mencurigakan yang mencakup pelacakan lokasi mereka dan membaca pesan pribadi.

Unit kontra-terorisme memiliki izin khusus untuk melakukan investigasi ke akun pengguna jika mereka diduga memiliki kaitan dengan kelompok teroris yang diidentifikasi oleh departemen luar negeri AS.

Akses akun penuh diberikan ke profil mana pun setelah ditandai oleh algoritme mencari nama, gambar, atau hashtag tertentu yang terkait dengan kelompok teroris - termasuk Negara Islam dan Al-Qaida - atau oleh laporan pengguna.

Moderator kemudian akan mengakses pesan pribadi individu, melihat siapa mereka berbicara dan apa yang mereka katakan, dan melihat di mana mereka berada.

Prioritas tertinggi tim adalah mengidentifikasi "pejuang pejalan kaki" untuk Isis dan Al-Qaida. Seseorang akan dikategorikan seperti itu jika profil mereka memiliki konten yang bersimpati pada ekstremisme dan jika mereka memiliki, misalnya, mengunjungi Raqqa di Suriah sebelum kembali ke Eropa.

Saat pesawat tempur diidentifikasi - yang menurut satu orang dalam terjadi paling sedikit sekali sehari - akun tersebut meningkat ke tim Facebook internal yang memutuskan apakah akan memberikan informasi kepada penegak hukum. Jika akun berbendera membuat ancaman spesifik dalam sebuah pesan, itu juga akan meningkat.

Facebook tidak menanggapi permintaan komentar tentang penyelidikan ini.

Twitter menghadapi tantangan yang berbeda. Perusahaan ini memiliki sejarah yang sangat membela kebebasan berbicara dan anonimitas secara online, di mana Facebook dan Google telah mendorong untuk mendapatkan nama asli. Studi telah menunjukkan bahwa Twitter telah menjadi salah satu alat pilihan Isis untuk menyebarkan propaganda dan menyalurkan orang ke aplikasi pesan pribadi seperti Telegram.

Seorang mantan karyawan Twitter mengatakan bahwa perusahaan menangani masalah ini dengan sangat serius, sebagian karena alasan hukum. Pada bulan Mei, Twitter, Facebook dan Google digugat oleh keluarga korban serangan San Bernardino karena telah dengan sengaja mendukung Negara Islam dan agenda ekstremisnya.

"Mereka bisa dipukul dengan membantu dan bersekongkol dengan seseorang dalam daftar tontonan teroris," katanya.

"Ini juga bukan bisnis yang baik sehingga orang-orang memecat kepala dan menggunakan perusahaan Anda sebagai bagian dari mekanisme teroris itu."

Account yang jelas terkait Isis diturunkan. Dan ada banyak pencabutan: Twitter menangguhkan 376.890 akun untuk pelanggaran terkait promosi terorisme di paruh kedua tahun 2016 saja.

Di Google, YouTube adalah platform yang disukai oleh para jihadis dan yang membenci pendeta, meskipun Google Documents dan Google Plus juga digunakan. Tidak hanya propaganda hosting YouTube, tapi juga menghasilkan uang darinya: awal tahun ini diketahui bahwa iklan merek utama muncul bersamaan dengan para pengkhotbah yang membenci. Hal ini menyebabkan eksodus massal pengiklan sampai YouTube berjanji untuk memberhentikan masalah ini.

Perusahaan telah bereksperimen dengan "Metode Pengalihan", yang memberikan iklan di samping kueri penelusuran yang biasa digunakan oleh orang-orang yang tertarik ke Isis. Iklan tersebut terhubung ke saluran berbahasa Arab dan Inggris yang menampilkan video yang melawan cuci otak Isis seperti testimonial dari mantan ekstremis dan imam yang mengecam korupsi Isis terhadap Islam.

Bahkan dengan langkah-langkah ini, para ahli mengkritik perusahaan media sosial sebagai tidak efektif.

"Ini semua omong kosong. Ini adalah upaya untuk menghasilkan veneer tanggung jawab perusahaan untuk keuntungan pemegang saham mereka yang terus terang," kata analis terorisme Michael Smith, yang mengatakan bahwa perusahaan teknologi" memahami masalah "namun memiliki" pengetahuan satu inci yang mendalam dari kolam setinggi dua mil dari masalah berabad-abad.

Hany Farid, penasihat senior Proyek Ekstra Ekstrimisme, sependapat.

"Mereka menghabiskan sumber daya yang besar untuk mengembangkan teknologi untuk menemukan data tentang pengguna yang menargetkan iklan. Saya 100% yakin bahwa jika mereka memasukkan sebagian kecil dari usaha itu untuk membangun sistem peringatan dini, mereka bisa memberi dampak," katanya.

Butuh beberapa menit untuk menemukan sejumlah besar konten teroris, termasuk halaman Facebook dengan video rekrutmen yang merayakan kemartiran jihad Kanada (yang dianggap baik oleh Facebook saat dilaporkan). Di YouTube, mudah untuk menemukan video pejuang Isis berbahasa Inggris yang meminta orang-orang radikal Amerika untuk "menusuk seorang kafir dengan pisau, membuangnya dari bangunan atau menjalankannya dengan mobil."

Negara Islam semakin canggih dalam menjajakan propaganda. Setiap komunikasi didistribusikan seperti iklan multimedia, dengan video yang diproduksi dengan baik, acara radio dan hashtag bermerek.

Konten tersebut diperkuat oleh sekelompok kelompok media pro-Isis yang mendorongnya keluar melalui internet, mengupload video ratusan kali di lokasi yang berbeda untuk mempersulit polisi.

"Perusahaan media sosial tidak mengerti bahwa ini adalah masalah sistemik di seluruh dunia online. Itulah mengapa para teroris menang. Mereka perlu menghalangi untaian komunikasi, bukan akun individual," kata Eric Feinberg dari perusahaan intelijen cyber GIPEC.

Kesepakatan untuk bersama-sama mengatasi masalah ini adalah sebuah permulaan. Jika perusahaan teknologi tidak terlihat melakukan lebih banyak, mereka mungkin dipaksa oleh regulator.

Eropa telah mengusulkan tindakan keras tersebut dan Smith yakin bahwa tidak akan lebih dari dua tahun sampai serangan "massal lainnya" membuat AS mengikuti. Regulator mungkin menginginkan perusahaan teknologi untuk memastikan mereka dapat mengidentifikasi dan menemukan pengguna mereka dengan lebih baik (dengan "mengenal pelanggan Anda" untuk media sosial) dan lebih aktif memprotes jaringan mereka untuk propaganda teroris - proposal yang akan diajukan oleh para pejuang kebebasan sipil.

Prospek pembuat kebijakan yang melakukan intervensi mungkin cukup untuk memutar lengan perusahaan teknologi bermarkas AS ke dalam pengaturan sendiri, kata Smith.

Ini tentu saja bukan merupakan obat mujarab bagi terorisme, tapi ini bisa membuat lebih sulit bagi para ekstrimis untuk menemukan anggota baru.

"Jika semuanya lenyap besok, ini akan menjadi kemenangan yang luar biasa bagi keamanan global. Jika Anda mendorong Negara Islam ke tempat yang lebih gelap di web, pengaruh dan kapasitas untuk merekrut dan menghasut kekerasan akan sangat berkurang," katanya.(Sumber; the guardian)

Images:
getty
Powered by Blogger.