Telkom AI Connect Makassar bersama Humannext menggelar webinar bertajuk “Beyond the Black Box: Why Industry Needs Explainable AI (XAI)?” secara daring pada Selasa (21/7). Acara ini diikuti sekitar 30 peserta dari berbagai daerah, mulai dari Tanjung Pinang, Aceh, Bali, hingga Makassar, yang menunjukkan minat cukup tinggi terhadap topik Explainable AI atau XAI.
Diskusi berangkat dari persoalan “black box” dalam kecerdasan buatan, yakni model yang bisa mencapai akurasi tinggi namun proses pengambilan keputusannya sulit ditelusuri. Muhammad Risal, Managing Director Humannext, menegaskan bahwa prinsip human-centered AI menempatkan kecerdasan buatan sebagai alat bantu manusia, bukan pengganti, sehingga kemampuan AI menjelaskan keputusannya menjadi krusial.
Belajar dari Kasus Kegagalan
Fhatiah Adiba, Associate Partner Humannext yang juga dosen Universitas Negeri Makassar dan kandidat doktor Explainable AI, memaparkan tiga contoh kegagalan model black box. Di antaranya sistem penilaian risiko COMPAS di Amerika Serikat yang terbukti bias rasial, model radiologi yang salah mengenali kata “portable” pada citra X-ray sebagai indikasi pneumonia, dan aplikasi BreezoMeter yang sempat menyatakan udara aman saat kebakaran hutan California pada 2018. Menurutnya, ketiganya menunjukkan bahwa minimnya transparansi membuat kesalahan sulit dideteksi sebelum berdampak nyata.
Fhatiah juga membagikan hasil riset doktoralnya berupa model hibrida yang memadukan spiking neural network dan belief rule base untuk mendeteksi malnutrisi dari citra postur tubuh. Pendekatan ini berhasil menyederhanakan 2.916 aturan awal menjadi 279 aturan yang lebih terstruktur tanpa mengorbankan kemampuan interpretasinya. Ia menambahkan, dari tinjauannya terhadap 62 studi XAI di sistem pendukung keputusan klinis, hanya 29 persen yang melibatkan klinisi sejak tahap perancangan.
Tantangan di Lapangan
Tri Mulia Darma, dosen Universitas Jabal Ghafur Sigli yang pernah terlibat dalam sistem informasi manajemen rumah sakit, menilai tantangan penerapan AI di sektor kesehatan lebih banyak berasal dari sisi sumber daya manusia dibanding teknologi, karena tenaga medis kerap harus menjelaskan sistem di tengah kesibukan menangani pasien. Fhatiah menanggapi dengan menekankan pentingnya melibatkan pakar domain sejak awal pengembangan, bukan hanya sebagai validator akhir, karena kepercayaan terhadap AI dibangun lewat kolaborasi dengan ahli, bukan klaim algoritma semata.
Sesi ini menjadi bagian dari rangkaian AI Connect Series yang akan terus digelar Telkom AI Center of Excellence Makassar bersama Humannext di berbagai kota, guna mendorong talenta digital membangun solusi AI yang tidak hanya cerdas tetapi juga dapat dipertanggungjawabkan.
Sumber: Telkom AI Connect Makassar & Humannext.
