Pemerintah Siapkan Peta Jalan dan Pedoman Etika AI, Wamenkomdigi Nezar Patria: Kita Jangan Jadi Budaknya!

Untuk itu, Komdigi menyiapkan pelatihan dan pengembangan talenta melalui program Digital Talent Scholarship, iCall Center, hingga pendirian AI Talent Factory. Program ini bertujuan melahirkan generasi yang tidak hanya mampu menggunakan AI, tetapi juga merancang dan membangunnya. Saat ini, AI Talent Factory berjalan di Universitas Brawijaya dan akan diperluas ke UGM, ITB, Universitas Indonesia, dan sejumlah kampus lainnya pada 2025.

Nezar juga menyampaikan bahwa literasi teknologi perlu ditanamkan sejak sekolah dasar dan menengah. Menurutnya, sudah waktunya kurikulum pendidikan dievaluasi agar siswa memahami cara kerja AI secara menyeluruh.

“Anak-anak perlu diajarkan cara kerja AI, dibentuk awareness, dan dilatih berpikir kritis. Mereka hidup di masa ketika teknologi ini sangat dominan,” imbuh dia.

Ia mengingatkan bahwa penggunaan AI tanpa kemampuan berpikir kritis dapat menggerus proses belajar, terutama ketika siswa menyerahkan seluruh tahapan pemikiran kepada mesin. Selain manfaatnya, AI juga membawa risiko besar seperti kebocoran data, disinformasi, hingga manipulasi visual.

Nezar menekankan bahwa model AI bekerja berdasarkan data yang diberikan pengguna. Karena itu, masyarakat harus berhati-hati saat mengunggah foto pribadi atau dokumen sensitif. Ia mengingatkan kemungkinan data tersebut muncul kembali dalam bentuk lain, termasuk wajah mirip pengguna pada konten generatif buatan pihak lain.

Risiko terbesar, lanjutnya, berasal dari deepfake, atau konten manipulatif berbasis AI yang semakin sulit dibedakan dari visual asli. Ia menilai teknologi ini berpotensi menimbulkan kerusakan sosial, karena dapat digunakan untuk pornografi, ujaran kebencian, hingga manipulasi politik.

“Deepfake punya dampak sangat besar karena bisa meniru wajah dan suara kita, bahkan menggambarkan seseorang dalam konteks yang tidak pernah dilakukan,” katanya.

Untuk mengatasi ancaman tersebut, pemerintah memperkuat kerja sama dengan platform digital, kepolisian, kejaksaan, dan lembaga lain. Komdigi mendorong platform menyediakan alat pendeteksi konten AI serta mengadopsi standar autentikasi berbasis metadata agar publik dapat membedakan konten asli dari manipulasi digital.

Nezar menegaskan bahwa adopsi AI merupakan perjalanan kolektif menuju masa depan ekonomi digital Indonesia. Melalui pengembangan “Sovereign AI yang Berdaulat”, ia optimistis Indonesia tidak hanya menjadi pasar, tetapi juga pemain yang diperhitungkan dalam persaingan teknologi global—mulai dari pembangunan infrastruktur hingga penciptaan algoritma dan model AI.