Soal Backend Engineer di Indonesia, BaTii Kemenkeu: Migrasi ke AI Workflow Bukan Tentang Pelajari Library Baru

Kedua, beban warisan sistem (legacy systems). Banyak sistem enterprise di Indonesia dibangun di atas platform Java dan teknologi enterprise lain yang telah digunakan selama bertahun-tahun. 

Sistem-sistem tersebut menjadi fondasi berbagai layanan penting, mulai dari transaksi keuangan, layanan kesehatan, administrasi pemerintahan, hingga operasional perusahaan.

Oleh karena itu, integrasi AI tidak cukup dilakukan dengan menambahkan model bahasa atau chatbot. Setiap perubahan harus mempertimbangkan keamanan informasi, kepatuhan terhadap regulasi, auditabilitas, serta kesinambungan layanan. 

Di sektor publik, kebutuhan terhadap tata kelola dan pedoman teknis implementasi AI diperkirakan akan semakin meningkat seiring meluasnya adopsi teknologi tersebut.

Ketiga, infrastruktur yang tidak merata. Menjalankan LLM secara lokal pendekatan yang diperlukan ketika data sensitif tidak boleh keluar dari server internal membutuhkan perangkat keras yang memadai. 

GPU-tier inference tidak murah, dan tidak semua tim engineering perusahaan menengah di Indonesia memiliki akses ke infrastruktur tersebut. 

Solusi berbasis cloud dari penyedia asing seperti OpenAI atau Google pun membawa persoalan tersendiri terkait kedaulatan data.