Kamu mungkin pernah melihat video animasi atau live-action di algoritma Youtube yang menampilkan karakter hiburan anak-anak dalam berbagai situasi bernada vulgar, kekerasan, atau seksual. Wired misalnya, melaporkan video dari channel bernama Simple Fun TV yang menampilkan karakter Mini Tikus terjepit di dalam mekanisme eskalator. Meskipun video tersebut kini telah dihapus, channel yang mengunggahnya masih dapat diakses.
Tren ini telah menuai kontroversi sejak November 2017, ketika New York Times serta penulis bernama James Bridle melaporkan persebaran video mengandung konten tidak senonoh yang menargetkan anak-anak. Sebelumnya, pada tahun 2013 pernah ada laporan yang mengulas tentang fenomena ini.
[postingan number=3 tag=”hacker”]
Video animasi buatan channel ‘Super Mouse TV’ yang menampilkan karakter kartun Miki Tikus dan Mini Tikus dalam adegan kekerasan fisik. Sumber: New York Times.
Video-video tersebut telah didesain sedemikian rupa untuk mengakali algoritme penyaringan dan rekomendasi yang YouTube gunakan. Dengan kata lain, video tersebut berhasil ‘menipu’ algoritme agar muncul di YouTube Kids.
Sejumlah media seperti Forbes dan The Verge menamai fenomena ini ‘Elsagate’. Sebutan itu merupakan gabungan nama karakter “Elsa” dari film Frozen buatan Disney yang kerap muncul dalam jenis video tersebut, serta kata ‘-gate’ yang populer digunakan dalam menamai suatu skandal.
Video dan rekomendas YouTubei yang menampilkan karakter Elsa dalam situasi cedera fisik. Sumber: Newshub.
Sebenarnya mengapa YouTube bisa “kecolongan”? Siapa para aktor di balik fenomena Elsagate dan apa tujuan mereka? Apa saja rencana YouTube untuk menangani masalah serupa di masa depan? Simak ulasan berikut.
Bagaimana konten Elsagate dapat menembus penyaringan YouTube?
Secara umum, YouTube memiliki dua tahapan dalam memutuskan rekomendasi konten kepada pengguna, yaitu:
- Mengumpulkan kandidat video rekomendasi berdasarkan kategori konten yang sebelumnya pengguna tonton, dan
- Menyaring kandidat video tersebut berdasarkan indikator kuantitatif seperti durasi rata-rata video ditonton dan jumlah view.
Video di channel “HERO & PRINCESS” yang kini sudah dihapus. Video tersebut tampak menampilkan adegan kekerasan dan bernada seksual. Sumber: Newshub.
Ciri paling utama konten yang berhasil mengelabui algoritme YouTube terletak pada judul video. Sebagian besar video Elsagate memiliki judul tanpa struktur atau arti kalimat yang koheren, melainkan hanya rangkaian kata kunci. Nama karakter atau kata populer dalam video anak-anak seperti “superheroes” atau “nursery rhymes” menjadi kata kunci pilihan.
[postingan number=3 tag=”facebook”]
Kata kunci ini tidak hanya disertakan dalam judul, tetapi juga di metadata lainnya seperti deskripsi dan tag video. Semakin banyak kata kunci yang disertakan, video akan makin sering muncul. Akibatnya, algoritme YouTube makin sering menampilkan video tersebut dalam rekomendasi.
Jika video memiliki metadata serupa dengan video anak, maka algoritme YouTube akan menggolongkan video tersebut sebagai video anak. Ini berarti, hanya dengan penggunaan kata kunci tertentu, video dengan konten tidak senonoh dapat dengan mudah ‘menyamar’ sebagai video anak-anak.
Menurut AlgoTransparency, sebuah situs yang meneliti algoritme untuk mencari video hasil rekomendasi YouTube, tren judul serupa juga dapat ditemukan dalam berbagai video anak-anak baik dari channel resmi maupun tidak resmi. Misalnya, akun resmi serial kartun anak seperti Peppa Pig dan Nick Jr. juga menggunakan judul dengan banyak kata kunci dan nama karakter.
Siapa yang mengunggah konten ini ke YouTube?
Saat ini, identitas para pengunggah video ‘Elsagate’ sulit untuk diverifikasi karena kuantitas channel bermasalah yang sangat besar. YouTube mengaku telah menemukan lebih dari 50.000 channel dengan konten tidak senonoh yang masuk dalam kategori layak konsumsi anak per November 2017.
Sebutan video ‘Elsagate’ sendiri merujuk kepada sebuah kategori video dengan ciri tertentu, antara lain:
- Memiliki jalan cerita yang tidak koheren.
- Menggunakan karakter populer dari film Disney, komik superhero, atau kartun anak-anak.
- Menggunakan lagu anak-anak populer.
- Menampilkan pose atau kegiatan bernada seksual.
- Menampilkan tema dan latar tertentu seperti medis atau kehamilan.
- Menampilkan adegan kriminal seperti kekerasan fisik atau penculikan.
Laporan New York Times menyebutkan contoh akun anonim yang mengunggah video dengan ciri tersebut adalah Kids Channel TV dan Super Zeus TV.
Video berbahasa Rusia ini menampilkan karakter Joker menculik seorang anak. Sumber: Buzzfeed.
Sejauh ini, sejumlah channel tersebut dikaitkan dengan berbagai kelompok di negara-negara berbeda. Penyelidikan New York Times misalnya, berhasil menemukan hubungan antara channel Super Zeus TV dengan SuperKidsShop.com, sebuah situs belanja daring yang terdaftar di Vietnam. Selain itu, Mashable menemukan sejumlah channel yang ternyata dikelola oleh perusahaan Mango Kids di India.
Sementara itu, pada bulan Januari 2018 pemerintah Cina menutup perusahaan bernama Guangzhou Yinjun Trading Companykarena memproduksi video serupa. Pihak perusahaan menjelaskan alasan mereka membuat video, yaitu untuk monetisasi melalui traffic daring.
Mengapa menargetkan kategori video anak-anak?
Anak-anak kini termasuk dalam segmen pengguna YouTube dengan trafficyang semakin besar. Menurut penemuan Ofcom, terjadi peningkatan anak-anak sebagai pengguna YouTube dari tahun 2016-2017, yaitu:
- Pengguna berusia 3-4 tahun: meningkat dari 37 persen menjadi 48 persen.
- Pengguna berusia 5-7 tahun: meningkat dari 54 persen menjadi 71 persen.
- Pengguna berusia 8-11 tahun: meningkat dari 73 persen menjadi 81 persen.
Informasi tersebut menunjukkan tren video hiburan anak telah menjadi salah satu kategori populer di YouTube. Channel anak-anak bernama Ryan ToysReview contohnya, per Agustus 2018 menduduki posisi ketiga dalam daftar channel dengan jumlah view terbanyak.
Rangkaian video dari channel Lyra Channel TV yang menampilkan karakter kartun dalam situasi kekerasan fisik dan bernada seksual. Sumber: YouTube.
Hal ini menunjukkan potensi video anak-anak sebagai lahan monetisasi. Namun lewat tindak manipulasi algoritme, prospek tersebut juga dapat dinikmati oleh channel dengan konten yang tak layak dikonsumsi oleh anak-anak seperti Lyra Channel TV. Channel ini berhasil mendapat lebih dari 118 juta view dari seluruh video mereka per 6 Agustus 2018.
Beberapa video tidak layak konsumsi anak juga sempat mengumpulkan jutaan view sebelum ditindak oleh YouTube. Misalnya sebuah video berjudul Mickey Mouse Babies Crying because of Grub in Belly! Finger Family Song Nursery Rhymes. Adegan dalam video ini menampilkan Miki dan Mini Tikus sedang menderita sakit perut akibat berbagai parasit yang ditampilkan secara eksplisit. Video ini telah ditonton lebih dari 20 juta kali sebelum dihapus.
Respons dan kebijakan pencegahan dari YouTube
Pada November 2017, YouTube menyatakan telah menghapus lebih dari 270 akun dan 150 ribu video yang dianggap membahayakan atau mengeksploitasi anak-anak. Mereka kini memberlakukan restriksi umur bagi sejumlah video yang menampilkan karakter kartun dalam adegan yang tidak layak dikonsumsi anak-anak.
Lebih lanjut, pihak YouTube juga memberlakukan aturan tambahan yaitu video yang menampilkan karakter hiburan keluarga dalam adegan kekerasan, seksual, atau situasi tidak senonoh lainnya—meskipun untuk tujuan satir atau komedi—tidak dapat dimonetisasi. Dari Juni hingga November 2017, YouTube telah mencabut monetisasi bagi lima juta videoyang ditemukan melanggar peraturan ini.
Moderator manusia masih diperlukan dalam menghapus konten dan melatih sistem machine learning karena akal manusia berperan penting untuk membuat keputusan kontekstual terhadap konten.
Pada 25 April 2018, YouTube memperkenalkan sejumlah fitur baru untuk aplikasi YouTube Kids yang memungkinkan orang tua mengendalikan konten bagi anak. Aplikasi tersebut kini menawarkan opsi untuk hanya menampilkan konten hasil seleksi moderator manusia dengan kreator konten YouTube yang telah diverifikasi. Di tahun 2018, YouTube juga berencana menawarkan opsi bagi orang tua untuk menyeleksi video secara manual.
Namun, fitur baru bagi YouTube Kids mungkin belum dapat menjadi solusi bagi seluruh pengguna. Pada tahun 2017, regulator komunikasi di Inggris menyatakan YouTube Kids baru digunakan oleh 48 persen pengguna berumur 3-4 tahun dan 25 persen pengguna berumur 5-7 tahun. YouTube Kids saat ini juga belum tersedia di semua negara, termasuk Indonesia.
[postingan number=3 tag=”youtube”]
Selain YouTube Kids, manajemen konten lain yang dapat kamu gunakan adalah Mode Terbatas untuk aplikasi YouTube utama. Jika mode ini diaktifkan, maka algoritme akan menggunakan informasi seperti judul, deskripsi, ulasan moderator, serta restriksi umur untuk menyaring konten. Namun, YouTube menjelaskan hasil saringan video dapat bersifat subjektif berdasarkan perbedaan pandangan dan norma budaya.
Untuk saat ini, cara paling efektif untuk memastikan anak mengonsumsi konten YouTube yang tepat tampaknya adalah dengan melakukan pengawasan secara langsung.
Menurut YouTube, meskipun algoritme machine learning telah membantu efisiensi moderasi konten, moderator manusia saat ini masih diperlukan untuk menunjang dan melatih algoritme tersebut. Mereka berkomitmen untuk memperbesar tim moderasi konten di Google hingga lebih dari sepuluh ribu orang selama tahun 2018. [tia/ap]
