Meredefinisi Playground Digital: Crusade untuk Keselamatan Pemuda di Media Sosial

Sidang dengar pendapat Senat tentang media sosial baru-baru ini sangat kontroversial dan mengharukan. Senator menghadapi CEO dari perusahaan besar seperti Meta, X, TikTok, Snap, dan Discord dengan pertanyaan yang keras dan menuntut pertanggungjawaban atas dampak platform mereka terhadap pengguna muda. Orang tua yang duduk di belakang pemimpin teknologi, yang anak-anaknya telah meninggal karena penggunaan media sosial, menambahkan latar belakang yang sangat pribadi dan tragis pada diskusi tersebut.

Perusahaan media sosial sedang dikecam karena ketidakpedulian mereka terhadap bahaya yang mereka sebabkan. Akibat dari operasi mereka mencakup berbagai masalah serius, termasuk pelecehan, bunuh diri remaja, gangguan makan, perilaku kekerasan, dan radikalisasi, di antara lainnya.

Sebagai tanggapan atas kekhawatiran yang mendesak ini, Senat telah proaktif dalam mengembangkan Undang-Undang Keselamatan Daring Anak (KOSA), sebuah legislasi komprehensif yang bertujuan untuk mengatasi berbagai bahaya yang dihadapi anak-anak secara daring. Undang-undang ini, hasil dari tahun-tahun perdebatan dan revisi yang berulang, mewakili upaya legislatif untuk memaksa perusahaan media sosial untuk mengambil tanggung jawab lebih besar atas keselamatan dan kesejahteraan pengguna termuda mereka.

Tapi apakah ini cukup?

Tidak transformatif, tapi langkah pertama yang kredibel

Tanpa menganalisis KOSA secara mendalam, jelas bahwa undang-undang ini memperkenalkan langkah-langkah inovatif, terutama mendefinisikan “tanggung jawab perawatan” yang mengharuskan platform untuk mengurangi risiko bagi anak-anak. Namun, jangkauan KOSA terbatas.

Jika Kongres mengesahkan KOSA tanpa tindakan lebih lanjut, kekurangannya mungkin memungkinkan dampak buruk media sosial pada pengguna muda untuk terus berlanjut. Secara khusus, KOSA tidak mencegah orang dewasa untuk menargetkan anak-anak melalui platform ini, karena hanya membatasi konten dewasa untuk pengguna yang diidentifikasi sebagai anak-anak, tanpa mengimplementasikan verifikasi usia wajib – sebuah ketentuan yang kemungkinan akan memicu kontroversi yang signifikan.

Meskipun ada keterbatasan ini, KOSA mewakili langkah awal positif menuju perlindungan anak-anak secara daring. Kekurangannya tidak dapat diperbaiki. Yang penting, legislasi ini harus dilihat tidak sebagai solusi akhir, tetapi sebagai awal dari upaya berkelanjutan, multi-tahun untuk mereformasi praktik media sosial dan mengurangi dampak buruknya pada anak-anak. Perjalanan menuju lingkungan daring yang lebih aman untuk anak-anak memerlukan lebih dari upaya legislatif sekali; itu membutuhkan komitmen dan adaptasi yang berkelanjutan.

Perlawanan yang kuat datang dengan wilayahnya

KOSA dimulai di tempat yang tepat, Kongres AS. Namun, mengingat jangkauan global dari platform ini, regulasi yang efektif akan memerlukan dukungan federal dan transnasional, seperti yang dilakukan oleh Uni Eropa, untuk memastikan pengawasan yang komprehensif. Tanpa dukungan legislatif seperti itu, tidak mungkin platform media sosial akan mengimplementasikan perubahan secara sukarela yang dapat mengurangi metrik keterlibatan mereka di kalangan demografi yang lebih muda.

Legislasi federal, bahkan dalam skala yang sederhana, menawarkan pendekatan yang lebih terintegrasi dibandingkan dengan kumpulan hukum negara yang berbeda-beda, yang dapat memungkinkan jaksa agung untuk meneruskan tujuan politis. Kerangka federal memastikan lapangan yang sama untuk semua platform di seluruh negara bagian, mencegah perusahaan yang patuh menghadapi kerugian kompetitif. Namun, mengembangkan legislasi seperti itu adalah proses yang halus, karena harus dapat bertahan dari tantangan hukum dari berbagai pihak, termasuk aktivis hak, perusahaan media sosial besar, dan penyedia konten dewasa, yang semua siap untuk membela kepentingan mereka dengan gigih.

Tantangan untuk mencegah dorongan hukum diperburuk oleh ketidakmauan para pemangku kepentingan untuk berkompromi. Strategi radikal, meskipun potensial efektif, mungkin melibatkan memaksa dialog antara pihak yang beragam, seperti ACLU, aktivis hak, pengacara konstitusional, dan advokat keselamatan anak, dengan direktif bahwa tidak ada yang meninggalkan sampai konsensus tercapai.

Pertanyaan tentang bagaimana legislasi harus mengatur penggunaan teknologi untuk verifikasi usia atau identitas sangat kritis. Membandingkan media sosial dengan utilitas menekankan argumen untuk regulasi yang ketat: sementara mereka menyediakan layanan esensial, mereka juga menimbulkan risiko signifikan. Analogi ini mengundang evaluasi ulang peran dan fungsi media sosial, terutama mengingat bagaimana algoritma dapat mengarahkan pengguna ke konten yang semakin ekstrem, didorong oleh upaya untuk meningkatkan keterlibatan dan pendapatan iklan. Dinamika ini dapat menyebabkan anak-anak mengisolasi diri dalam ruang online yang berbahaya, yang dapat memperburuk kebencian dan ketidakpuasan, serta memisahkan mereka dari perspektif yang lebih sehat.

Namun, perubahan besar dalam media sosial tidak akan terjadi dalam satu peristiwa. KOSA mewakili langkah awal penting, tetapi hanya satu bagian dari puzzle yang kompleks. Ini memiliki potensi untuk membawa perubahan, tetapi akan terjadi dalam tahap-tahap.

Ini adalah maraton, bukan lari sprint.

Kesulitan memastikan keselamatan daring sambil mempertahankan kebebasan konstitusional sangat rumit. Keberhasilan kemungkinan akan dicapai melalui kemajuan bertahap, berpikir, dan berkelanjutan selama beberapa tahun.

Kolaborasi, kompromi, dan pembangunan konsensus akan sangat penting untuk keberhasilan KOSA. Ini adalah tujuan yang mulia, tetapi mencapai konsensus dalam satu langkah tidak mungkin. Harapan yang lebih praktis adalah KOSA akan terus diperbarui dan ditingkatkan melalui pembaruan tahunan. Penyesuaian ini akan dipandu oleh pengalaman tahun sebelumnya, beradaptasi dengan perubahan teknologi, pola penyalahgunaan, dan memungkinkan industri waktu yang cukup untuk menyesuaikan diri dengan regulasi baru.

Idealnya, putaran pertama, KOSA 2024, akan mencakup peringkat konten, verifikasi usia, dan peringatan serta sensor dengan menentukan:

• Apa konten yang tidak dapat diterima dan/atau ilegal;
• Apa konten yang dapat dan harus diblokir oleh platform;
• Bagaimana cara melabeli konten yang beracun tetapi tidak dapat diblokir;
• Bagaimana cara memperingatkan pengguna dan orang tua, dan apa penghalang yang harus ditempatkan di sekitar konten sensitif;
• Pengaturan default untuk keluar dari blokir konten.

Reformasi algoritma: kontroversial tetapi potensial transformatif

Fase berikutnya dari KOSA pada 2025 akan fokus pada meningkatkan akuntabilitas dan mengatur sanksi yang lebih ketat untuk platform dan individu yang terlibat dalam atau memfasilitasi kegiatan ilegal. Ini bertujuan untuk mengurangi tidak hanya penyebaran konten ilegal tetapi juga untuk mengatasi perilaku yang menyumbang pada krisis kesehatan mental di kalangan pemuda, seperti doom-scrolling yang berlebihan dan terjun ke dalam lingkungan online yang berbahaya.

Melihat lebih jauh ke depan, iterasi berikutnya dapat menandai perubahan penting dalam operasi media sosial, potensial berfokus pada “membalik algoritma” yang saat ini mengarahkan pengguna, terutama yang muda, ke ruang online yang berisiko dan negatif. Ambisi di sini adalah tidak hanya mencegah paparan konten berbahaya tetapi juga untuk secara aktif mengarahkan pengguna ke interaksi online yang lebih aman dan positif.

Meskipun potensial kontroversial, membalik algoritma membuka jalan bagi platform untuk mereinventasi diri mereka sendiri. Dengan memprediksi perubahan ini, perusahaan media sosial dapat mempersiapkan diri untuk menyesuaikan model bisnis mereka. Tujuan adalah untuk tetap menguntungkan sambil menciptakan lingkungan yang memprioritaskan kesejahteraan penggunanya, terutama demografi yang lebih muda. Strategi ini menunjukkan skenario win-win: melindungi kesehatan mental pengguna dan memastikan kelangsungan jangka panjang platform media sosial dengan mengembangkan komunitas online yang lebih sehat dan lebih menghibur.

Perubahan sudah lama tertunda

Kesaksian keluarga di sidang dengar pendapat Senat menekankan kebutuhan akan lebih dari perubahan inkremental dalam regulasi media sosial. Perombakan yang kuat, dimulai dengan KOSA 2024, sangat penting untuk melindungi terhadap ancaman yang berkembang dari kecerdasan buatan dan pengaruh eksternal. Proses ini akan memerlukan penyesuaian yang berkelanjutan, serupa dengan yang dilakukan oleh SEC dan FDA.

Tapi, tidak bertindak bukanlah pilihan.

Strategi jangka panjang yang terfokus sangat penting untuk memastikan keselamatan pemuda di platform media sosial. Dengan memulai reformasi komprehensif dan terus-menerus memperbarui langkah-langkah ini, kita dapat mengurangi bahaya dan akhirnya memenuhi janji media sosial asli — untuk meningkatkan kehidupan kita melalui koneksi.