Singasana – Perkembangan teknologi kecerdasan buatan atau Artificial Intelligence (AI) terus bergerak semakin pesat. Setelah masyarakat mengenal berbagai layanan AI yang mampu menjawab pertanyaan dan menghasilkan informasi berdasarkan perintah pengguna, kini berkembang teknologi Agentic AI, yakni sistem AI yang memiliki kemampuan lebih otonom dalam merencanakan, mengambil keputusan dan menjalankan rangkaian tugas untuk mencapai tujuan tertentu.
Dinas Komunikasi dan Informatika Kabupaten Tabanan memandang perkembangan tersebut perlu dipahami masyarakat secara lebih luas. Agentic AI tidak sekadar berfungsi sebagai chatbot yang memberikan jawaban atas pertanyaan, tetapi dapat bekerja sebagai sistem yang mampu memecah suatu tujuan menjadi sejumlah tugas, menentukan langkah yang diperlukan, menggunakan alat atau sumber daya eksternal, kemudian mengevaluasi hasil dan melakukan penyesuaian berdasarkan umpan balik.
Sekretaris Dinas Komunikasi dan Informatika Kabupaten Tabanan I Gusti Putu Winiantara, S.Sos., seizin Kepala Dinas, pada Jumat (11/9) menjelaskan bahwa perkembangan Agentic AI menunjukkan adanya perubahan dalam cara manusia berinteraksi dengan teknologi kecerdasan buatan.
“Agentic AI merupakan perkembangan kecerdasan buatan yang memungkinkan sistem bekerja lebih otonom dalam mencapai suatu tujuan. Agen dapat memahami instruksi, menyusun rencana, mengambil keputusan, menggunakan berbagai alat yang tersedia dan menjalankan pekerjaan dalam beberapa tahapan dengan intervensi manusia yang lebih minimal,” jelas I Gusti Putu Winiantara.
Menurut I Gusti Putu Winiantara, perbedaan Agentic AI dengan AI reaktif atau chatbot sederhana terletak pada kemampuan agen untuk memiliki agency. Sistem tidak hanya memberikan respons satu per satu, tetapi dapat menguraikan tujuan yang lebih luas menjadi tugas-tugas berurutan, mengambil keputusan berdasarkan kondisi yang dihadapi serta melakukan koreksi berdasarkan hasil yang diperoleh.
Cara kerja tersebut dapat digambarkan melalui sebuah decision loop yang berlangsung secara berulang, mulai dari persepsi untuk mengumpulkan data, penilaian untuk memahami situasi, perencanaan untuk menentukan langkah, eksekusi untuk menjalankan tindakan, hingga pembelajaran untuk memperbaiki keputusan berdasarkan hasil dan umpan balik dari lingkungan.
Dalam pengembangannya, Agentic AI dapat memanfaatkan berbagai teknik kecerdasan buatan. Natural Language Processing (NLP) digunakan untuk memahami instruksi berbasis bahasa, machine learning untuk melakukan prediksi maupun klasifikasi, reinforcement learning untuk mengoptimalkan pengambilan keputusan berdasarkan mekanisme imbalan, serta computer vision untuk memahami dan memproses gambar maupun video.
“Karena memiliki kemampuan menjalankan sejumlah tindakan secara mandiri, masyarakat juga perlu memahami bahwa penggunaan Agentic AI memiliki risiko yang berbeda dengan penggunaan AI biasa. Semakin besar kewenangan yang diberikan kepada sebuah agen, semakin besar pula kebutuhan terhadap pengawasan, keamanan dan tata kelola,” terang Winiantara.
Salah satu perhatian utama adalah perlindungan data dan privasi. Ketika agen diberikan akses untuk memproses data sensitif atau terhubung dengan sejumlah sistem, terdapat risiko informasi digunakan di luar tujuan awal, termasuk kemungkinan terjadinya data exfiltration atau keluarnya data ke sistem, antarmuka maupun pihak yang tidak seharusnya memperoleh informasi tersebut.
Selain itu, risiko hallucination, bias model dan serangan melalui adversarial prompt juga perlu menjadi perhatian. Kesalahan yang dilakukan sistem otonom berpotensi menimbulkan konsekuensi yang lebih besar apabila agen memiliki kewenangan untuk menjalankan suatu transaksi, memberikan rekomendasi atau mengambil keputusan tanpa pemeriksaan manusia yang memadai.
“Isu etika juga menjadi bagian penting dalam perkembangan Agentic AI. Kita perlu menentukan siapa yang bertanggung jawab ketika sebuah agen mengambil keputusan, bagaimana proses pengambilan keputusan dapat ditelusuri dan diaudit, serta bagaimana memastikan penggunaan teknologi tidak menghilangkan peran manusia dalam keputusan-keputusan yang memiliki dampak besar,” ujar Winiantara.
Dari sisi kepatuhan dan tata kelola, penggunaan Agentic AI perlu memperhatikan prinsip perlindungan data, antara lain data minimization, pemenuhan hak subjek data serta auditability. Dokumentasi mengenai desain sistem, kemampuan dan keterbatasan model juga diperlukan agar penggunaan AI dapat dipahami dan dievaluasi secara berkala.
Secara teknis, organisasi yang menggunakan Agentic AI juga perlu menerapkan access control secara ketat, sandboxing, enkripsi, komunikasi yang aman serta pemisahan antara data produksi dan data pengujian. Langkah tersebut penting untuk mencegah agen memperoleh akses yang melebihi kewenangan yang dibutuhkan.
“Governance harus berjalan bersama dengan inovasi. Logging, audit trail yang lengkap, human-in-the-loop untuk keputusan berisiko tinggi, serta prosedur incident response harus dipersiapkan sejak awal. Termasuk adanya kill switch yang memungkinkan agen dihentikan apabila perilakunya menyimpang dari batas yang telah ditetapkan,” tegas Winiantara.
Menurut Winiantara, penerapan Agentic AI sebaiknya dilakukan secara bertahap melalui pengujian yang terkontrol. Organisasi perlu memiliki kriteria yang jelas sebelum sistem digunakan secara penuh atau go-live, termasuk menentukan batas kewenangan agen, tingkat risiko yang dapat diterima dan mekanisme penghentian apabila terjadi masalah.
Di tengah perkembangan teknologi tersebut, masyarakat juga diharapkan tidak hanya menjadi pengguna, tetapi mampu menjadi pengguna teknologi yang kritis, cerdas dan bertanggung jawab. Agentic AI dapat dimanfaatkan untuk berbagai kebutuhan positif, seperti membantu pembelajaran, produktivitas, riset, pengolahan informasi, pengembangan usaha, pelayanan, kreativitas dan berbagai aktivitas lain yang memberikan manfaat bagi masyarakat.
“Kami mengajak masyarakat untuk tidak takut terhadap perkembangan AI, tetapi juga tidak menggunakannya secara sembarangan. Manfaatkan Agentic AI untuk hal-hal yang positif, produktif dan memberikan nilai tambah. Tetap periksa informasi yang dihasilkan, jangan sembarangan memberikan data pribadi atau data sensitif, dan gunakan teknologi dengan mempertimbangkan etika serta tanggung jawab,” ajak I Gusti Putu Winiantara.
Dinas Komunikasi dan Informatika Kabupaten Tabanan mendorong agar perkembangan teknologi AI dapat menjadi peluang untuk meningkatkan literasi digital dan produktivitas masyarakat. Pemanfaatan teknologi diharapkan tetap menempatkan manusia sebagai pengendali utama, terutama dalam keputusan yang menyangkut kepentingan publik, keamanan, privasi dan keselamatan.
Dengan pemahaman yang baik, Agentic AI dapat menjadi “rekan kerja digital” yang membantu manusia menyelesaikan pekerjaan secara lebih efektif, bukan menggantikan pertimbangan manusia secara keseluruhan. Pemanfaatan yang bijak, disertai keamanan, etika dan tata kelola yang kuat, menjadi kunci agar perkembangan AI benar-benar memberikan manfaat bagi masyarakat dan mendukung transformasi digital Kabupaten Tabanan. (*)
