Pengawas mutakhir di bidang keamanan siber

Bukan rahasia lagi bahwa penipu digital mengintai Internet dengan nomor rekor, mengekspos orang lain ke bahasa, foto, video, dan aktivitas jahat. Dengan 300 jam konten buatan pengguna yang diunggah ke web setiap menit, melindungi pengguna yang tidak menaruh curiga telah menjadi tugas yang menakutkan. terhubung PerbedaanKonten buatan pengguna menyumbang 39% dari waktu yang dihabiskan pengguna dengan media. Jadi bagaimana perusahaan dapat melindungi ruang online dan menjaga integritas merek ketika begitu banyak konten dibuat secara independen?

Masukkan perantara manusia yang fleksibel (yaitu penanggap pertama digital) yang dengan senang hati menerima tugas yang menantang untuk memastikan keamanan pengalaman digital kami.

Apa sebenarnya yang dilakukan seseorang, seseorang mungkin bertanya, untuk moderator konten? Untuk menjawab pertanyaan ini, mari kita mulai dari awal.

Apa itu modifikasi konten?

Meskipun istilah moderasi Ini sering disalahpahami, dan tujuan utamanya jelas: untuk mengevaluasi konten buatan pengguna dalam hal potensinya untuk merugikan orang lain. Untuk konten, moderasi adalah pencegahan perilaku ekstrem atau berbahaya, seperti B. bahasa yang menyinggung, tampilan grafik atau video, serta penipuan atau eksploitasi oleh pengguna.

Ada enam jenis moderasi konten:

  1. Tanpa pengawasan: Tidak ada pemantauan atau gangguan pada konten di mana penyerang dapat membahayakan orang lain
  2. Pra-moderasi: Konten difilter sesuai dengan pedoman yang ditetapkan sebelum memposting
  3. Moderasi posting: Konten ditinjau setelah publikasi dan dihapus jika tidak pantas
  4. Moderasi interaktif: Konten hanya muncul jika pengguna lain melaporkannya
  5. Moderasi Otomatis: Konten difilter dan dihapus secara proaktif menggunakan otomatisasi bertenaga AI
  6. Moderasi Terdistribusi: Konten yang tidak pantas dihapus berdasarkan pemungutan suara oleh beberapa anggota komunitas

Mengapa moderasi konten penting bagi perusahaan?

Perilaku jahat dan melanggar hukum oleh aktor jahat menghadapkan organisasi pada risiko yang signifikan dengan cara berikut:

  • Kehilangan kredibilitas dan reputasi merek
  • Mengekspos audiens yang rentan seperti anak-anak ke konten berbahaya
  • Kegagalan untuk melindungi pelanggan dari aktivitas penipuan
  • Kehilangan pelanggan karena pesaing yang dapat memberikan pengalaman yang lebih aman
  • Otorisasi akun palsu atau penipuan

Namun, pentingnya pemantauan konten lebih dari sekadar melindungi organisasi. Mengelola dan menghapus konten sensitif dan terbuka penting untuk setiap kelompok usia.

Seperti yang dapat dibuktikan oleh banyak profesional layanan kepercayaan dan keamanan pihak ketiga, pendekatan multi-cabang diperlukan untuk mengurangi berbagai risiko. Moderator konten harus mengambil tindakan preventif dan proaktif untuk meningkatkan keamanan pengguna dan melindungi kepercayaan merek. Dalam lingkungan sosial dan politik yang tinggi saat ini, menunggu dan menunggu tidak lagi menjadi pilihan.

“Keutamaan keadilan adalah kesederhanaan yang dipandu oleh kebijaksanaan.” – Aristoteles

Mengapa moderator begitu kritis terhadap konten manusia?

Banyak jenis moderasi konten melibatkan intervensi manusia di beberapa titik. Namun, moderasi reaktif dan moderasi terdistribusi bukanlah pendekatan yang ideal, karena konten berbahaya hanya diproses setelah diekspos ke pengguna. Pasca-moderasi menawarkan pendekatan alternatif di mana algoritme yang didukung AI memantau konten untuk faktor risiko yang teridentifikasi dan kemudian memperingatkan moderator manusia untuk memverifikasi bahwa postingan, foto, atau video tertentu memang berbahaya dan harus dihapus. Pembelajaran mesin meningkatkan akurasi algoritme ini dari waktu ke waktu.

Meskipun ideal untuk menghilangkan kebutuhan akan moderator konten manusia, mengingat sifat konten yang mereka hadapi (termasuk materi pelecehan seksual anak, kekerasan grafis, dan perilaku online berbahaya lainnya), kecil kemungkinan hal ini akan terjadi. mungkin. Wawasan, pemahaman, interpretasi, dan empati manusia tidak bisa begitu saja direplikasi dengan cara artifisial. Kualitas manusia ini diperlukan untuk menjaga integritas dan keaslian dalam komunikasi. Faktanya, 90% konsumen mengatakan keaslian itu penting ketika memutuskan merek mana yang disukai dan didukung (naik dari 86% pada 2017).

Sementara era digital telah memberi kita alat canggih dan cerdas (seperti otomatisasi dan kecerdasan buatan) yang kita butuhkan untuk mencegah atau mengurangi sebagian besar risiko saat ini, masih ada kebutuhan bagi moderator konten manusia untuk bertindak sebagai enabler dan diri mereka sendiri dengan sengaja. rentan untuk melindungi pengguna dan merek.

Jadikan dunia digital lebih aman

Sementara peran manajer konten membuat dunia digital menjadi tempat yang lebih aman bagi orang lain, itu membuat moderator terpapar konten yang mengganggu. Mereka pada dasarnya adalah responden pertama digital, melindungi pengguna yang tidak bersalah dan tidak curiga dari konten yang mengganggu secara emosional, terutama pengguna yang lebih rentan seperti anak-anak.

Beberapa penyedia layanan kepercayaan dan keamanan percaya bahwa pendekatan moderasi yang lebih berpusat pada pengguna dan bijaksana adalah dengan melihat masalah sementara orang tua mencoba melindungi anak-anak mereka – sesuatu yang dapat (dan seharusnya) menjadi dasar untuk semua merek, dll. Untuk memotivasi paranormal pemberani di seluruh dunia untuk terus berjuang melawan penjahat online hari ini.

Lain kali Anda dengan ceroboh menggulir umpan media sosial Anda, luangkan waktu sejenak untuk memikirkan lebih dari sekadar konten yang Anda tonton – pikirkan juga konten yang tidak diinginkan yang Anda tonton Tidak Lihat, dan diam-diam berterima kasih kepada manajer lini depan atas pengorbanan pribadi yang mereka lakukan setiap hari.

Konten ini telah diproduksi oleh Teleperformance. Itu tidak ditulis oleh editor MIT Technology Review.

Baca Juga!

Gedung Putih baru saja mengambil langkah untuk membuat AI lebih akuntabel

Sementara Biden telah menyerukan lebih banyak privasi dan diakhirinya pengumpulan data oleh perusahaan teknologi di …