JAKARTA – Perkembangan teknologi kecerdasan buatan (AI) kini semakin memengaruhi cara anak-anak berinteraksi dengan media digital. Konten video yang dibuat oleh AI mulai banyak dikonsumsi oleh anak-anak, yang memicu kekhawatiran dari para ahli terkait dampaknya terhadap perkembangan mental dan emosional mereka.
Fenomena ini dikenal sebagai “AI slop”, yaitu konten AI berkualitas rendah yang dinilai memiliki potensi untuk membingungkan anak dan memengaruhi cara berpikir mereka. Isu ini kian menjadi perhatian luas setelah sejumlah organisasi perlindungan anak dan pakar perkembangan anak menyampaikan desakan kepada YouTube agar segera memperketat kebijakan terkait konten tersebut.
Koalisi yang dipimpin oleh organisasi nirlaba Fairplay menilai bahwa belum ada bukti yang cukup bahwa konten AI aman bagi anak. Mereka khawatir video-video ini dapat membuat anak terlalu lama terpaku pada layar, sehingga mengganggu perkembangan kognitif mereka. Dalam surat terbuka yang ditujukan kepada CEO Sundar Pichai dan Neil Mohan, para ahli menegaskan bahwa konten AI untuk anak masih belum teruji keamanannya dan berisiko memengaruhi kondisi mental serta perilaku jika dikonsumsi secara berlebihan.
“Belum ada bukti bahwa konten ini aman untuk anak, dan justru berpotensi membuat mereka terpaku serta terdampak secara mental,” tulis koalisi dalam surat tersebut. Selain itu, para ahli juga menyoroti potensi dampak serius seperti distorsi persepsi realitas dan beban kognitif yang berlebihan. Paparan konten berlebihan juga dinilai dapat mengurangi aktivitas dunia nyata yang penting bagi tumbuh kembang anak.
Keberadaan konten AI di YouTube semakin memperkuat kekhawatiran ini, terutama setelah platform tersebut menjalin kerja sama dengan studio AI Animaj yang memproduksi konten anak dengan penayangan hingga miliaran kali. Langkah ini dinilai berpotensi memperluas penyebaran konten AI pada audiens usia dini.
Pakar perkembangan anak, Jenny Radesky, menilai bahwa platform digital seharusnya lebih memperhatikan dampak konten terhadap anak. Dia menekankan bahwa anak tidak boleh hanya dipandang sebagai target pasar tanpa mempertimbangkan kesehatan mental mereka. “Sudah saatnya platform menghormati perhatian dan pikiran anak, bukan hanya menjadikannya sebagai sumber keuntungan,” ujarnya.
Selain itu, penulis buku The Anxious Generation, Jonathan Haidt, turut menandatangani surat tersebut sebagai bentuk keprihatinan. Hal ini menunjukkan bahwa isu paparan konten digital pada anak menjadi perhatian luas di kalangan akademisi. Koalisi tersebut kemudian mengusulkan sejumlah langkah kebijakan kepada platform digital agar lebih melindungi anak dari paparan konten AI. Mereka mendorong adanya pembatasan distribusi konten AI, transparansi label, hingga kontrol lebih besar bagi orang tua dalam mengatur konsumsi konten anak.
Menanggapi hal tersebut, pihak YouTube menyatakan telah menerapkan standar ketat untuk konten anak. Platform ini juga mengklaim hanya menampilkan konten AI dari kanal berkualitas tinggi di aplikasi YouTube Kids serta menyediakan fitur pemblokiran bagi orang tua. “Kami memiliki standar tinggi untuk konten anak dan terus memperbarui kebijakan agar tetap relevan,” kata juru bicara YouTube.
Meski begitu, kritik tetap bermunculan karena sistem algoritma dinilai masih mendorong anak-anak untuk terus mengkonsumsi konten serupa. Bahkan laporan The New York Times menemukan ribuan video AI berkualitas rendah yang masih beredar dan sebagian melanggar kebijakan keselamatan anak.
Direktur program Fairplay, Rachel Franz, menilai kondisi ini membuat anak sulit menghindari konten AI. Dia menegaskan platform digital harus segera bertindak sebelum dampaknya semakin meluas pada generasi muda. “Algoritma membuat anak tidak bisa menghindari konten ini,” ujarnya.
Hingga kini, YouTube masih menjadi platform video paling populer di kalangan anak-anak, terutama di keluarga berpenghasilan rendah. Kondisi ini membuat isu keamanan konten digital semakin mendesak untuk segera ditangani secara serius.
