Teknologi Facebook yang Baru Mampu Mendeteksi Konten Negatif

Facebook mengumumkan alat baru dengan kecerdasan buatan yang katanya akan membantu jejaring sosial mendeteksi konten - konten negatif yang dibagikan.

Apabila ketika diposting secara online, dapat memiliki konsekuensi yang menghancurkan bagi mereka yang muncul konten yang dibagikan.

Teknologi Facebook ini akan memanfaatkan antara A.I. dan teknik  "machine learning" untuk secara proaktif mendeteksi gambar tidak senonoh atau video yang dibagikan tanpa izin di Facebook dan Instagram.

Cara kerja teknologi Facebook yang baru

Pengumuman ini mengikuti proyek Facebook sebelumnya dari teknologi pencocokan foto, yang membuat orang langsung mengirimkan foto dan video sensitif mereka ke Facebook.

Program yang dijalankan dalam kemitraan dengan organisasi advokasi korban, kemudian akan membuat sidik jari digital dari gambar itu sehingga Facebook dapat menghentikannya agar tidak pernah dibagikan secara online di seluruh platformnya.

teknologi ini mirip dengan bagaimana perusahaan saat ini mencegah gambar yang tidak pantas diposting ke situs mereka.

Teknologi Facebook yang baru ini tidak memerlukan keterlibatan korban. Ini penting, Facebook menjelaskan, karena korban kadang-kadang terlalu takut untuk melaporkan kontennya sendiri.

Hukuman yang akan didapatkan penyebar konten negatif

Setelah sistem menandai gambar atau video, anggota tim Operasi Komunitas Facebook yang terlatih secara khusus akan meninjau gambar lalu menghapusnya jika melanggar Standar Komunitas Facebook.

Dalam kebanyakan kasus, perusahaan juga akan menonaktifkan akun. Proses banding tersedia jika orang tersebut yakin bahwa Facebook telah melakukan kesalahan.

Misalnya, mereka menemukan bahwa para korban menginginkan tanggapan yang lebih cepat mengikuti laporan mereka dan mereka tidak menginginkan balasan robot. Korban lain tidak tahu cara menggunakan alat pelaporan atau bahkan keberadaannya.

Facebook peduli terhadap akibat dari konten negatif

Facebook mencatat bahwa mengatasi konten negatif sangat penting karena dapat menyebabkan konsekuensi kesehatan mental seperti kecemasan, depresi, sampai pada kematian.

Mungkin juga ada konsekuensi dalam hal karir, seperti kehilangan pekerjaan dan hubungan yang rusak dengan rekan kerja.

Selain itu, mereka yang berada di komunitas yang lebih tradisional di dunia mungkin bisa dijauhi atau diasingkan, dianiaya atau bahkan dilukai secara fisik.

Facebook mengakui bahwa tidak menemukan cara untuk "mengakui trauma yang dialami para korban," ketika menanggapi laporan mereka. Dikatakan sekarang mengevaluasi kembali alat pelaporan dan proses untuk memastikan mereka lebih "lugas, jelas dan empati."

Itu juga meluncurkan "Not Without My Consent," sebuah pusat dukungan korban di Pusat Keamanan Facebook yang dikembangkan dalam kemitraan dengan para ahli.

Penurunan jumlah pengguna facebook akibat konten negatif

Sementara facebook melakukan perubahan sesuai dengan apa yang diinginkan publik, banyak yang sudah kehilangan kepercayaan pada Facebook.

Untuk pertama kalinya dalam 10 tahun Edison Research mencatat penurunan penggunaan Facebook di AS, dari 67% menjadi 62% orang Amerika. Namun, Facebook masih merupakan platform besar dengan lebih dari 2 miliar pengguna.

Bahkan jika pengguna sendiri memilih keluar dari Facebook, itu tidak mencegah mereka dari menjadi korban konten negatif atau penyalahgunaan media online lainnya oleh mereka yang terus menggunakan jaringan sosial.

Bagaimana menurut Anda? Apakah teknologi facebook yang baru ini cukup menjanjikan? Atau kurang meyakinkan?