Perkembangan teknologi artificial intelligence (AI) atau kecerdasan artifisial masih menimbulkan berbagai tantangan baru di dunia. Bahkan, algoritma AI bisa menghasilkan diskriminasi.
Wakil Menteri Komunikasi dan Informatika (Kominfo) Nezar Patria menyampaikan, kehadiran AI ini juga membawa berbagai macam tantangan, mulai dari bias yang dihasilkan oleh algoritma AI, yang bisa menghasilkan diskriminasi. Ia mencontohkan, satu di antaranya melalui AI generatif, yakni ChatGPT.
“Dan kita tahu di Chat GPT yang kita selama ini pakai, sudah mendapatkan banyak komentar kritis tentang diskriminasi yang dihasilkan, lalu kemudian misinformasi. Diskriminasi ini bisa ras, bisa juga gender, bahkan juga agama, stereotype gitu ya, tergantung dari data yang dimasukkan,” ujar Nezar di Jakarta, Senin (27/11/2023).
Hasil dari ChatGPT itu bisa saja menimbulkan stereotip atau prasangka atau penilaian terhadap seseorang yang didasarkan pada karakteristik tertentu. Selain itu, pernah terjadi diskriminasi soal gender ketika alat perekruan AI Amazon dianggap mendiskriminasi calon karyawan perempuan.
“Jadi yang perempuan tersisihkan karena algoritmanya memang tidak bisa membedakan mana laki, mana perempuan,” imbuh Nezar.
Berkaca dari kasus-kasus tersebut, ucap Nezar, perlu dibuat aturan soal pengembangan AI. Sehingga tata kelola AI semakin diperlukan, pemanfaatannya dapat dilakukan secara aman dan produktif.
Kemenkominfo mengundang pemangku kepentingan untuk membahas pedoman atau panduan etika penggunaan AI di Indonesia. Nezar menyatakan pengaturan dalam bentuk Surat Edaran Menkominfo ini juga akan dibahas dalam dialog publik yang melibatkan masyarakat secara terbuka.
Hasil dari FGD bersama stakeholders pada Senin (27/11/2023) menjadi masukan kepada pemerintah untuk menentukan arah kebijakan dan regulasi mengenai perkembangan AI ke depan. Bahkan dalam waktu dekat, Kementerian Kominfo akan mengadakan seminar terbuka untuk masyarakat yang membahas AI serta Surat Edaran.
