‘Model AI pandai menangkap ketelanjangan, tapi kurang bagus untuk ujaran kebencian’
Tech

‘Model AI pandai menangkap ketelanjangan, tapi kurang bagus untuk ujaran kebencian’

NEW DELHI: Hanya dalam satu tahun keberadaannya, Dewan Pengawas Facebook telah mengakui 23 banding atas keputusan moderasi konten dan membuat lebih dari 50 rekomendasi kebijakan kepada perusahaan.

Dalam sebuah wawancara, Sudhir Krishnaswamy, satu-satunya anggota India di dewan, dan wakil rektor National Law School of India University, membahas kerja dewan sejauh ini, rencana ekspansi dan kebutuhan untuk moderasi algoritmik konten. Kutipan yang diedit:

Sekarang setelah satu tahun, apa pendapat Anda tentang Facebook sebagai platform?

Facebook adalah jenis platform yang berbeda tergantung pada yurisdiksi tempat Anda berada. Misalnya, katakanlah seperti Myanmar atau beberapa negara di Afrika Barat, Facebook adalah sumber media utama. Di wilayah hukum seperti India, ini beragam – Facebook besar, tetapi media lain juga besar; apa yang seolah-olah pesan pribadi, tetapi juga berfungsi sebagai media publik juga besar.

Saya pikir latar belakang dan pemahaman lingkungan media di setiap yurisdiksi penting karena Facebook memainkan peran yang berbeda di setiap yurisdiksi ini.

Tapi saya pikir apa yang Anda tanyakan adalah seperti apa Facebook itu. Saya kira janjinya adalah bahwa hal itu memungkinkan komunitas yang tidak terintermediasi, bahwa komunitas dapat terbentuk terlepas dari geografi, kelas, latar belakang, dll. Pembentukan komunitas yang cepat dan besar semacam itu dapat terjadi, itulah janjinya. Tetapi seperti yang kita ketahui sekarang dengan seluruh jagat media sosial, di mana setiap orang adalah pengguna dan penerbit, hanya format platform itu yang memungkinkan berbagai masalah lain muncul. Gagasan bahwa komunitas organik adalah hasil otomatis dari jaringan media sosial peer-to-peer telah diuji dengan keras. Saya kira itu sudah diuji di semua platform, dan Facebook tidak terkecuali. Tantangan tentang apa yang harus dilakukan seseorang sejauh ini belum terselesaikan di yurisdiksi mana pun.

Kami sering mengatakan bahwa kebijakan Facebook sendiri sedang berkembang, begitu pula hukum global. Sebagai dewan, apakah Anda diperlengkapi untuk membuat rekomendasi?

Dewan adalah badan yang luar biasa dalam hal jenis orang. Kami menganggap pekerjaan kami sangat serius. Jika ada pertanyaan yang kami ragukan, seperti katakanlah, apa sifat konflik Amhara-Tigrayan di Etiopia, kami meminta pendapat tentang itu. Kami akan berkonsultasi dengan grup keamanan yang terkenal di dunia dan ahli di suatu bidang, mendapatkan umpan balik mereka dalam jangka waktu tujuh hingga 12 hari dan mempertimbangkannya. Kami tidak memiliki keangkuhan; siapa yang tahu, kami akan bertanya kepada mereka.

Kami juga mendapatkan kiriman publik. Jika kami mengangkat masalah tentang ujaran kebencian, organisasi masyarakat sipil terkemuka di seluruh dunia akan mengirimkan laporan singkat. Dan itu adalah penelitian yang luar biasa, ringkasan yang diperdebatkan dengan baik, mengatakan bahwa Anda harus pergi ke arah ini untuk masalah ini. Jadi, menurut saya proses kami sangat kuat.

Semua platform besar ingin menggunakan moderasi algoritmik, tetapi masalah tetap ada. Apakah kecerdasan buatan (AI) solusi yang layak?

Ini adalah bidang yang berkembang. Keseimbangan antara pengadilan hukum dan perangkat lunak di berbagai bidang sedang dikerjakan. Pada moderasi konten, kami menemukan model AI cukup mahir dalam menangani beberapa konten. Misalnya, mereka sangat pandai mengambil ketelanjangan, pornografi, zat terlarang, dan senjata dan amunisi, tetapi kurang baik untuk pidato kebencian atau hasutan, karena hasutan memiliki penggunaan bahasa yang halus. Di sinilah letak pertempuran. Bahkan di area ketelanjangan, ada kasus yang sulit – katakanlah, menampilkan payudara wanita tetapi mengenai kanker payudara – algoritme tidak dapat menangkap dengan baik. Di beberapa area algoritme tidak aktif, tetapi sedang dilatih dan dilatih ulang. Namun di beberapa area, ini agak kurang pas, dan menurut saya inilah yang membuat banyak pengguna frustrasi.

Misalnya, ujaran kebencian atau ucapan balasan, di mana seseorang mengatakan sesuatu dan Anda membalasnya, dan postingan Andalah yang dihapus sementara pesan aslinya tetap ada. Ini adalah pertanyaan sulit dan saya pikir orang mencoba untuk mengotomatisasi lebih efektif.

Karena pada skala platform ini, akan ada lapisan otomatisasi. Ada kesalahpahaman tertentu tentang skala ketika orang mengatakan mengapa Anda tidak menggunakan manusia untuk melakukan segalanya. Platform besar harus menggunakan otomatisasi sampai batas tertentu. Berapa banyak, seberapa baik, ini adalah pertanyaan yang relevan. – Layanan Berita Mint, New Delhi/Tribune


Posted By : togel hongkonģ hari ini