Apple Batasi Aplikasi Kencan dan Pacar AI untuk Anak, Ini Aturan Baru App Store

Aturan tersebut mewajibkan layanan terkait menyediakan pemberitahuan privasi yang jelas, memperoleh persetujuan orang tua yang dapat diverifikasi sebelum mengumpulkan informasi pribadi dalam kondisi yang diatur, serta memberikan mekanisme bagi orang tua untuk mengakses dan meminta penghapusan data anak. Informasi geolokasi yang dapat mengidentifikasi lokasi spesifik juga termasuk dalam kategori data pribadi yang dilindungi.

Contoh lain datang dari Inggris. Melalui Online Safety Act, regulator komunikasi Inggris, Ofcom, mewajibkan layanan daring yang masuk dalam cakupan aturan untuk menilai dan mengurangi risiko bahaya bagi pengguna, terutama anak-anak. 

Ketentuan tersebut juga dapat berlaku bagi chatbot apabila layanan itu memenuhi definisi platform yang diatur. Layanan yang menyediakan konten pornografi, termasuk melalui chatbot, harus menerapkan pemeriksaan usia yang sangat efektif agar anak tidak dapat mengaksesnya.

Pengawasan Aplikasi AI Tidak Cukup Mengandalkan Batas Usia

Langkah Apple memperlihatkan bahwa pengawasan aplikasi digital mulai menghadapi tantangan yang lebih kompleks. Selama ini, perlindungan anak sering dikaitkan dengan penyaringan konten, pembatasan waktu layar, atau larangan mengakses situs tertentu. 

Kehadiran pendamping AI membuat persoalannya meluas hingga hubungan emosional yang dapat terbentuk antara pengguna dan karakter virtual.

Berbeda dari konten statis, chatbot dapat merespons percakapan secara langsung. Karakter virtual bisa menyesuaikan jawaban, mengingat konteks interaksi, dan menciptakan kesan bahwa pengguna sedang berbicara dengan sosok yang memahami dirinya. Karena itu, pengawasan perlu memperhatikan jenis percakapan, mekanisme moderasi, penggunaan data, serta cara aplikasi menangani pengguna di bawah umur.

Meski demikian, peringkat 18+ bukan satu-satunya solusi. Klasifikasi usia perlu didukung mekanisme pemeriksaan usia yang memadai, pengaturan orang tua, kebijakan privasi yang mudah dipahami, dan sistem pelaporan yang dapat digunakan ketika pengguna menemukan interaksi berbahaya.

Orang tua juga perlu memahami aplikasi yang digunakan anak, termasuk izin akses lokasi, kamera, mikrofon, dan informasi pribadi lainnya. Anak perlu diberi pemahaman bahwa karakter AI bukan manusia, sehingga respons yang terasa akrab atau penuh perhatian tidak selalu mencerminkan kepedulian seperti dalam hubungan antarmanusia.