Wamenkominfo Ungkap 7 Tantangan Etika AI: Dari Diskriminasi hingga Senjata Otonom

Wakil Menteri Kominfo, Nezar Patria, mengungkapkan tujuh tantangan etika utama teknologi kecerdasan buatan (AI), mulai dari bias dan diskriminasi hingga pengembangan senjata otonom.

Jakarta, 21 Februari 2024 - Wakil Menteri Komunikasi dan Informatika (Wamenkominfo), Nezar Patria, menyoroti sejumlah tantangan etika yang perlu diantisipasi dalam pengembangan dan penerapan teknologi kecerdasan buatan (AI). Dalam sambutannya di acara Tech & Telco Summit 2025 di Jakarta, Jumat, ia memaparkan tujuh tantangan utama yang memerlukan perhatian serius dari berbagai pihak.

Nezar menjelaskan bahwa tantangan-tantangan ini muncul karena kompleksitas AI dan dampaknya yang luas terhadap kehidupan manusia. Perkembangan pesat AI membawa potensi besar, namun juga risiko yang signifikan jika tidak dikelola dengan bijak dan memperhatikan aspek etika. Oleh karena itu, diperlukan kolaborasi dan regulasi yang tepat untuk memastikan pemanfaatan AI yang bertanggung jawab.

Tujuh tantangan etika AI yang diungkap Wamenkominfo tersebut meliputi berbagai aspek, mulai dari isu bias dan diskriminasi hingga kekhawatiran akan pengembangan senjata otonom. Penjelasan detail mengenai masing-masing tantangan ini akan memberikan gambaran yang lebih komprehensif mengenai kompleksitas etika dalam era AI.

Berikut adalah tujuh tantangan etika dalam teknologi AI yang diuraikan oleh Wamenkominfo Nezar Patria:

Nezar menekankan bahwa AI, yang dilatih berdasarkan data, rentan terhadap bias yang ada dalam data tersebut. "Karena AI menggunakan data, dan pengolahan data ini dilakukan atau disiapkan oleh sebuah foundation model, yang berisi algoritma tertentu dan penyusunan algoritma ini terkadang juga tidak luput dari bias para developernya," ujarnya. Bias ini, yang berasal dari pengembang AI dan data yang digunakan, dapat menyebabkan diskriminasi terhadap kelompok masyarakat tertentu berdasarkan ras, suku, atau agama.

Banyak sistem AI beroperasi seperti 'black box', di mana proses internalnya sulit dipahami. Hal ini membuat sulit untuk melacak dan menilai siapa yang bertanggung jawab atas keputusan yang dihasilkan oleh AI. "Jadi kadang-kadang sulit ditebak dengan model yang ada, dan sudah banyak riset juga bagaimana memecahkan persoalan black box dalam prosesing data yang dilakukan oleh artificial intelligence ini," kata Nezar. Kurangnya transparansi ini menimbulkan masalah dalam akuntabilitas dan pengawasan.

AI membutuhkan data dalam jumlah besar untuk berfungsi efektif, termasuk data sensitif seperti data pribadi. "Hal ini menimbulkan kecemasan dan juga kekhawatiran terkait pengumpulan, penyimpanan, dan penggunaan data yang dapat melanggar privasi individu," tutur Nezar. Oleh karena itu, diperlukan mekanisme keamanan dan pengawasan yang ketat untuk melindungi privasi individu.

Penggunaan AI dalam berbagai sektor industri berpotensi menggantikan tenaga kerja manusia. Meskipun AI juga menciptakan peluang kerja baru, risiko kehilangan pekerjaan di beberapa sektor tetap menjadi perhatian utama. "Karena itu dalam membuat policy dan membuat kebijakan di masa transisi atau di masa transformasi digital ini, dibutuhkan data-data yang cukup valid. Lalu strategi yang tepat juga agar kita bisa memastikan pekerjaan yang terdampak, dapat beradaptasi dengan perubahan," imbuh Nezar. Perencanaan dan strategi yang tepat dibutuhkan untuk membantu transisi tenaga kerja.

Karya seni yang dihasilkan oleh AI menimbulkan pertanyaan mengenai kreativitas dan kepemilikan. Status kepemilikan karya seni AI masih menjadi perdebatan dan menimbulkan banyak komplain terkait hak cipta.

Algoritma AI dapat dimanfaatkan untuk manipulasi sosial melalui media sosial. Rekayasa sosial menggunakan teknologi AI menjadi isu yang perlu diwaspadai dan diantisipasi.

Pengembangan senjata otonom berbasis AI yang dapat beroperasi tanpa kendali manusia menimbulkan kekhawatiran serius. "Senjata itu bisa terbang sendiri dengan sejumlah data-data yang ada di dalamnya ya. Dan dia bisa melakukan reasoning sendiri lalu mengambil keputusan sendiri," ungkap Nezar. Teknologi ini, menurut Nezar, mirip dengan teknologi AI agentik dan berpotensi menjadi tren setelah generatif AI.

Wamenkominfo Nezar Patria menekankan pentingnya antisipasi dan regulasi yang tepat untuk menghadapi tantangan-tantangan etika AI ini. Kerja sama antar berbagai pihak, termasuk pemerintah, akademisi, dan industri, sangat diperlukan untuk memastikan pengembangan dan pemanfaatan AI yang bertanggung jawab dan bermanfaat bagi kemanusiaan.