Wamenkominfo Soroti Pentingnya Pengawasan AI di Sektor Kesehatan: Cegah Risiko dan Pastikan Keamanan Data Nasional
Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar Patria menekankan pentingnya pengawasan ketat terhadap penggunaan kecerdasan buatan (AI) di sektor kesehatan melalui pendekatan sandboxing untuk meminimalisir risiko dan memastikan keamanan dat
Jakarta, 3 Mei 2024 (ANTARA) - Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar Patria menyoroti perlunya pengawasan yang lebih ketat terhadap pemanfaatan teknologi kecerdasan buatan (AI) dalam sektor kesehatan. Beliau menekankan pentingnya pengembangan dan pengawasan AI melalui pendekatan sandboxing untuk memastikan keamanan dan mencegah potensi risiko yang signifikan.
Dalam keterangan resminya di Jakarta, Sabtu, Nezar Patria menyatakan, "Saya kira penting sekali. AI harus lolos dulu dari proses ini. Di situ kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, dan apakah cocok dengan use case yang diajukan, dengan trial yang dibuat."
Pendekatan sandboxing, menurut Wamenkominfo, merupakan langkah krusial sebelum AI diimplementasikan secara luas. Proses ini memungkinkan pengujian sistem AI dalam lingkungan terbatas dan terkontrol, sehingga potensi masalah dapat diidentifikasi dan diatasi sebelum implementasi skala besar. Hal ini penting untuk melindungi masyarakat dari potensi dampak negatif.
Pentingnya Sandboxing dan Belajar dari China
Nezar Patria menjelaskan bahwa proses sandboxing melibatkan berbagai pemangku kepentingan untuk menilai aspek teknis, etis, kesiapan operasional, dan potensi dampak AI terhadap masyarakat. Beliau mencontohkan keberhasilan China dalam pengembangan AI tingkat lanjut.
"China itu sudah sampai pada level advanced AI-nya, lebih banyak robot diciptakan dengan AI di sana untuk melakukan tugas-tugas. Dan sebelum go global, mereka mencoba di pasar domestik dulu, jadi sandboxing-nya sudah berlangsung di negara mereka lebih dulu," ujar Nezar Patria.
Dengan mengadopsi strategi serupa, Indonesia dapat belajar dari pengalaman negara lain dan menghindari potensi masalah yang mungkin timbul. Penerapan sandboxing secara efektif dapat membantu Indonesia dalam mengembangkan AI yang inovatif dan aman.
Proses ini juga akan memastikan kepatuhan terhadap regulasi yang berlaku dan meminimalisir risiko yang terkait dengan penggunaan AI di sektor kesehatan.
Tantangan dan Risiko AI di Sektor Kesehatan
Meskipun menawarkan berbagai manfaat, penerapan AI, khususnya Agentic AI yang mampu membuat keputusan sendiri, juga menghadirkan tantangan. Nezar Patria mengakui adanya risiko yang tidak dapat dihindari dalam pengembangan teknologi mutakhir.
Di sektor kesehatan, risiko AI tidak hanya terbatas pada aspek teknis, tetapi juga mencakup aspek sosial dan etis. "AI di sektor kesehatan tantangannya besar sekali. Disinformasi misalnya, itu sektor kesehatan adalah yang tertinggi kedua setelah politik. Belum lagi ada bias dengan kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis," jelasnya.
Oleh karena itu, pengawasan yang ketat dan proses sandboxing yang komprehensif sangat diperlukan untuk meminimalisir potensi risiko tersebut. Hal ini penting untuk memastikan bahwa AI digunakan secara bertanggung jawab dan bermanfaat bagi masyarakat.
Membangun Sistem AI yang Aman dan Etis
Indonesia, menurut Wamenkominfo, memiliki potensi besar untuk membangun sistem AI yang inovatif, aman, dan etis. Dengan memanfaatkan data nasional yang telah dikurasi dan divalidasi oleh para ahli, Indonesia dapat menciptakan sistem AI yang sesuai dengan nilai-nilai Pancasila.
Pendekatan ini menekankan pentingnya kolaborasi dan keahlian lokal dalam pengembangan dan implementasi AI. Dengan demikian, Indonesia dapat memanfaatkan teknologi AI secara bertanggung jawab dan memastikan bahwa teknologi ini memberikan manfaat yang nyata bagi masyarakat Indonesia.
Kesimpulannya, pengawasan yang ketat dan pendekatan sandboxing merupakan kunci keberhasilan dalam pengembangan dan implementasi AI di sektor kesehatan. Dengan langkah-langkah yang tepat, Indonesia dapat memanfaatkan potensi AI sambil meminimalisir risiko dan memastikan keamanan data nasional.
