Jadi Kebutuhan Perusahaan, AI Harus Dikelola dengan Transparansi dan Etika

KOMPAS.com - Saat ini, dunia bisnis sedang berlomba-lomba mengadopsi kecerdasan buatan atau artificial intelligence (AI) dalam industri. Hal ini cukup beralasan mengingat AI mampu mengotomatisasi proses, membantu kinerja karyawan, dan mengubah bisnisnya menjadi lebih kompetitif.

Meski demikian, pengguna AI kerap melupakan tata kelola penggunaannya atau governance. Penggunaan AI perlu dikelola dengan etika dan tanggung jawab yang jelas untuk menguntungkan semua pihak terkait, bukan hanya satu perusahaan saja. Tujuannya, supaya penggunaan AI tidak merugikan pihak lain.

Oleh karena itu, pelaku bisnis harus mempertimbangkan potensi risiko dalam penerapan AI pada operasional bisnis operasi

President Director IBM Indonesia Roy Kosasih mengatakan, masyarakat berhak mengajukan pertanyaan mengenai dampak potensial dari teknologi canggih.

Berdasarkan riset Institute for Business Value, kurang dari 25 persen eksekutif telah mengoperasionalkan prinsip-prinsip pengaturan etika. Sementara itu, 79 persen eksekutif menganggap penerapan etika penting untuk pendekatan kecerdasan buatan di perusahaan.

Terkait hal tersebut, Roy menyarankan agar pengguna AI mengadopsi pendekatan yang berpusat pada manusia atau human-centered approach. Tujuannya, untuk menempatkan prinsip etika sebagai inti dari data dan teknologi yang diatur AI.

Selain itu, pengguna AI juga harus menumbuhkan ekosistem yang terbuka dan beragam untuk memastikan teknologi AI dapat memberikan manfaat bagi semua orang, bukan hanya untuk beberapa.

“Organisasi yang ingin menggunakan AI memiliki tanggung jawab mendasar untuk membangun kepercayaan pada teknologi tersebut,” kata Roy dalam siaran tertulis yang diterima Kompas.com, Senin (18/3/2024).

Roy melanjutkan, pengguna AI harus menerapkan prinsip transparansi (trust and transparency) untuk membangun dan memperkuat kepercayaan pada teknologi AI.

Prinsip tersebut harus menjelaskan bahwa tujuan AI adalah untuk meningkatkan kecerdasan manusia. Selain transparan, AI harus bebas dari bias yang berbahaya supaya masyarakat bisa mempercayainya.

Jika perlu, perusahaan dapat mengokohkan prinsip etika AI dengan membentuk Dewan Etika AI. Dewan ini menyediakan tata kelola serta akuntabilitas terpusat.

Mekanismenya, perusahaan dapat meminta pertanggungjawaban karyawan terhadap nilai dan komitmen pengembangan serta penyebaran teknologi secara etis.

“Inisiatif tersebut dapat membantu menciptakan budaya etika dalam teknologi. Karyawan yang terlibat dalam pengembangan dan penyebaran AI harus memastikan bahwa teknologi yang digunakan akan dilakukan dengan teliti,” tuturnya.

Pentingnya pengaturan data dan teknologi AI

Roy melanjutkan, banyak organisasi dan perusahaan top global yang menyadari bahwa penggunaan AI membutuhkan solusi holistik pada life cycle AI.

Melalui pendekatan tersebut, pengembang AI harus membawa data yang aman serta pendekatan teknologi AI yang inovatif, seperti kerangka kerja, layanan, proses, serta fokus pada lima bidnag. Sebut saja, kemampuan menjelaskan, keadilan, ketahanan, transparansi, dan privasi.

Hasilnya, solusi tersebut dapat membantu perusahaan menjalankan strategi AI dengan menanamkan kepercayaan pada sistem yang ada saat ini dan masa mendatang. Perusahaan juga dapat mengoperasionalkan sistem ini di lingkungan hybrid multi-cloud apa pun.

Roy menilai, solusi AI yang tepercaya dapat membantu perkembangan bisnis. Inovasi ini bisa dilakukan dengan audit dan mitigasi risiko, menerapkan kerangka kerja tata kelola, mengoperasionalkan AI, memberikan pendidikan dan bimbingan, serta mengubah organisasi.

"Dengan solusi tersebut, perusahaan besar dan kecil di seluruh dunia bisa mengandalkan AI untuk memajukan perusahaan,” tutur Roy.

Roy percaya, penggunaan AI harus memberikan manfaat bagi bisnis dan banyak orang. Untuk mewujudkan hal itu, AI harus dibangun dengan nilai keragaman, inklusi, serta tanggung jawab bersama.

Selain itu, AI juga harus diperkaya melalui keragaman dalam kumpulan data, praktisi, dan ekosistem mitra yang beragam untuk memungkinkan peningkatan berkelanjutan.

Untuk mewujudkan hal tersebut, pemerintah dapat menetapkan pedoman dan mempromosikan penggunaan AI yang jelas.

Perusahaan inovator global, IBM, juga telah mengeluarkan “Regulasi Presisi untuk AI. Regulasi ini menguraikan kerangka kerja berbasis risiko bagi industri dan pemerintah untuk bekerja sama dalam sistem regulasi bersama.

Inisiatif tersebut sejalan dengan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial.

“Surat edaran tersebut menekankan tiga kebijakan, yaitu nilai etika, pelaksanaan nilai etika, dan tanggung jawab dalam pemanfaatan dan pengembangan kecerdasan artifisial,” paparnya.

Roy menilai, tata kelola AI bukan hambatan yang rumit, melainkan upaya mengadopsi teknologi yang bertanggung jawab.

Jika semua prinsip di atas dijalankan, manfaat AI akan tumbuh secara eksponensial. Bisnis harus memanfaatkan AI sebagai kekuatan untuk perubahan positif.

“Ingat, inisiatif tersebut harus dilakukan secara maraton, bukan sprint. Dalam sejarah kemajuan manusia, AI tidak saja penting bagi perusahaan, tetapi juga untuk pelanggan dan masyarakat dunia secara keseluruhan,” kata Roy.