Kecerdasan buatan (AI) memiliki nilai yang sangat besar, namun untuk mendapatkan manfaat penuh dari AI berarti menghadapi dan menangani potensi jebakannya. Sistem canggih yang sama yang digunakan untuk menemukan obat-obatan baru, menyaring penyakit, mengatasi perubahan iklim, melestarikan satwa liar dan melindungi keanekaragaman hayati juga dapat menghasilkan algoritma bias yang menyebabkan kerusakan dan teknologi yang mengancam keamanan, privasi, dan bahkan keberadaan manusia.
Berikut ini adalah 10 bahaya AI dan strategi manajemen risiko yang dapat ditindaklanjuti. Banyak risiko AI yang disebutkan di sini dapat dikurangi, tetapi para pakar AI, pengembang, perusahaan, dan pemerintah tetap harus berupaya mengatasinya.
1. Bias
Manusia secara alami memiliki bias, dan AI yang kita kembangkan dapat mencerminkan bias tersebut. Sistem ini secara tidak sengaja mempelajari bias yang mungkin ada dalam data pelatihan dan dipamerkan dalam algoritma machine learning (ML) dan model pembelajaran mendalam yang mendukung pengembangan AI. Bias yang dipelajari itu mungkin diabadikan selama penerapan AI, menghasilkan hasil yang miring.
Bias AI dapat menimbulkan konsekuensi yang tidak diinginkan dengan hasil yang berpotensi membahayakan. Contohnya mencakup sistem pelacakan pelamar kerja yang mendiskriminasi berdasarkan gender, sistem diagnostik kesehatan yang memberikan akurasi lebih rendah bagi populasi yang secara historis kurang terlayani, serta alat prediksi kepolisian yang secara tidak proporsional menargetkan komunitas yang terpinggirkan secara sistemik, dan lainnya.
Ambil tindakan:
- Menetapkan strategi tata kelola AI yang mencakup kerangka kerja, kebijakan, dan proses yang memandu teknologi pengembangan dan penggunaan AI yang bertanggung jawab.
- Ciptakan praktik yang mendorong keadilan, seperti memasukkan himpunan data pelatihan yang representatif, membentuk tim pengembang yang beragam, mengintegrasikan metrik keadilan, dan menambahkan pengawasan manusia melalui dewan atau komite peninjau etika AI.
- Menerapkan proses mitigasi bias di seluruh siklus hidup AI. Ini melibatkan memilih model pembelajaran yang benar, melakukan pemrosesan data dengan penuh perhatian dan memantau kinerja dunia nyata.
- Lihatlah alat bantu keadilan AI, seperti perangkat AI Fairness 360 sumber terbuka dari IBM®.
2. Ancaman keamanan siber
Pelaku kejahatan dapat mengeksploitasi AI untuk melancarkan serangan siber. Mereka memanipulasi alat AI untuk mengkloning suara, menghasilkan identitas palsu, dan membuat email phishing yang meyakinkan—semuanya dengan maksud untuk menipu, meretas, mencuri identitas seseorang atau membahayakan privasi dan keamanan mereka.
Dan sementara organisasi memanfaatkan kemajuan teknologi seperti AI generatif, hanya 24% dari inisiatif gen AI yang diamankan. Kurangnya keamanan ini mengancam data dan model AI terhadap pembobolan, dengan biaya rata-rata global mencapai 4,88 juta USD pada tahun 2024.
Ambil tindakan:
Berikut adalah beberapa cara perusahaan dapat mengamankan pipeline AI mereka, seperti yang direkomendasikan oleh IBM® Institute for Business Value (IBM® IBV):
- Buat garis besar strategi keselamatan dan keamanan AI.
- Cari celah keamanan di lingkungan AI melalui penilaian risiko dan pemodelan ancaman.
- Lindungi data pelatihan AI dan adopsi pendekatan yang aman demi desain untuk memungkinkan implementasi dan pengembangan teknologi AI yang aman.
- Menilai kerentanan model menggunakan pengujian adversarial.
- Investasikan dalam pelatihan respons siber untuk meningkatkan kesadaran, kesiapan, dan keamanan di organisasi Anda.
3. Masalah privasi data
Model bahasa besar (LLM ) adalah model AI yang mendasari banyak aplikasi AI generatif, seperti asisten virtual dan chatbot AI percakapan. Sesuai namanya, model bahasa ini membutuhkan volume data pelatihan yang sangat besar.
Tetapi data yang membantu melatih LLM biasanya bersumber oleh perayap web yang mengikis dan mengumpulkan informasi dari situs web. Data ini sering kali diperoleh tanpa persetujuan pengguna dan mungkin mengandung informasi identifikasi pribadi (PII). Sistem AI lain yang memberikan pengalaman pelanggan yang disesuaikan mungkin juga mengumpulkan data pribadi.
Ambil tindakan:
- Informasikan konsumen tentang praktik pengumpulan data untuk sistem AI: kapan data dikumpulkan, apa (jika ada) PII yang disertakan, dan bagaimana data disimpan dan digunakan.
- Beri mereka pilihan untuk memilih keluar dari proses pengumpulan data.
- Pertimbangkan untuk menggunakan data sintetis yang dibuat oleh komputer.
4. Kerugian lingkungan
AI bergantung pada perhitungan intensif energi dengan jejak karbon yang signifikan. Algoritma pelatihan pada kumpulan data besar dan menjalankan model kompleks membutuhkan sejumlah besar energi, berkontribusi pada peningkatan emisi karbon. Satu studi memperkirakan bahwa pelatihan satu model pemrosesan bahasa alami menghasilkan lebih dari 600.000 pon karbon dioksida; hampir 5 kali lipat emisi rata-rata sebuah mobil selama masa pakainya.1
Konsumsi air juga menjadi perhatian lain. Banyak aplikasi AI berjalan di server di pusat data, yang menghasilkan panas yang cukup besar dan membutuhkan volume besar air untuk pendinginan. Sebuah studi menemukan bahwa melatih model GPT-3 di pusat data Microsoft AS mengkonsumsi 5,4 juta liter air, dan menangani 10 hingga 50 prompt menggunakan sekitar 500 mililiter, yang setara dengan botol air standar.
Ambil tindakan:
- Pertimbangkan pusat data dan penyedia AI yang didukung oleh energi terbarukan.
- Pilih model AI atau kerangka kerja hemat energi.
- Melatih pada data yang lebih sedikit dan menyederhanakan arsitektur model.
- Gunakan kembali model yang sudah ada dan manfaatkan pembelajaran transfer, yang menggunakan model yang sudah terlatih untuk meningkatkan kinerja pada tugas atau kumpulan data terkait.
- Pertimbangkan arsitektur nirserver dan perangkat keras yang dioptimalkan untuk beban kerja AI.
5. Risiko eksistensial
Pada Maret 2023, hanya 4 bulan setelah OpenAI memperkenalkan ChatGPT, sebuah surat terbuka dari para pemimpin teknologi menyerukan jeda 6 bulan segera pada “pelatihan sistem AI yang lebih kuat daripada GPT-4.”3 Dua bulan kemudian, Geoffrey Hinton, yang dikenal sebagai salah satu “bapak pendiri AI,” memperingatkan bahwa evolusi cepat AI mungkin segera melampaui kecerdasan manusia.4 Pernyataan lain dari ilmuwan AI, pakar ilmu komputer, dan tokoh penting lainnya diikuti, mendesak langkah-langkah untuk mengurangi risiko kepunahan dari AI, menyamakannya dengan risiko yang ditimbulkan oleh perang nuklir dan pandemi.5
Meskipun bahaya eksistensial ini sering dilihat kurang langsung dibandingkan dengan risiko AI lainnya, mereka tetap signifikan. AI yang kuat atau kecerdasan umum buatan, adalah mesin teoretis dengan kecerdasan mirip manusia, sedangkan superintelligence buatan mengacu pada sistem AI canggih hipotetis yang melampaui kecerdasan manusia.
Ambil tindakan:
Meskipun AI yang kuat dan AI super cerdas mungkin tampak seperti fiksi ilmiah, organisasi dapat bersiap-siap untuk teknologi ini:
- Tetap ikuti perkembangan riset AI.
- Bangun tumpukan teknologi yang solid dan tetap terbuka untuk bereksperimen dengan alat AI terbaru.
- Memperkuat keterampilan tim AI untuk memfasilitasi adopsi teknologi yang muncul.
6. Pelanggaran kekayaan intelektual
AI generatif telah menjadi tiruan kreatif yang cekatan, menghasilkan gambar yang menangkap bentuk artis, musik yang menggemakan suara penyanyi atau esai dan puisi yang mirip dengan gaya penulis. Namun, muncul pertanyaan besar: Siapa yang memiliki hak cipta atas konten buatan AI, apakah sepenuhnya dihasilkan oleh AI atau dibuat dengan bantuannya?
Masalah kekayaan intelektual (IP) yang melibatkan karya buatan AI masih berkembang, dan ambiguitas seputar kepemilikan menghadirkan tantangan bagi bisnis.
Ambil tindakan:
- Menerapkan pemeriksaan untuk mematuhi undang-undang mengenai karya berlisensi yang mungkin digunakan untuk melatih model AI.
- Berhati-hatilah saat memasukkan data ke dalam algoritma untuk menghindari mengekspos IP perusahaan Anda atau informasi yang dilindungi IP dari orang lain.
- Pantau output model AI untuk konten yang mungkin mengekspos IP organisasi Anda atau melanggar hak IP orang lain.
7. Kehilangan pekerjaan
AI diperkirakan akan mengganggu pasar kerja, sehingga memicu kekhawatiran bahwa otomatisasi yang didukung AI akan menggantikan para pekerja. Menurut laporan World Economic Forum, hampir setengah dari organisasi yang disurvei mengharapkan AI untuk menciptakan lapangan kerja baru, sementara hampir seperempat melihatnya sebagai penyebab hilangnya pekerjaan.6
Sementara AI mendorong pertumbuhan peran seperti spesialis machine learning, insinyur robotika, dan spesialis Transformasi digital, itu juga mendorong penurunan posisi di bidang lain. Ini termasuk peran administrasi, kesekretariatan, entri data, dan layanan pelanggan, untuk beberapa nama. Cara terbaik untuk mengurangi kerugian ini adalah dengan mengadopsi pendekatan proaktif yang mempertimbangkan bagaimana karyawan dapat menggunakan alat AI untuk meningkatkan pekerjaan mereka; berfokus pada augmentasi daripada penggantian.
Ambil tindakan:
Melatih ulang dan meningkatkan keterampilan karyawan untuk menggunakan AI secara efektif sangat penting dalam jangka pendek. Namun, IBM® IBV merekomendasikan pendekatan jangka panjang dengan tiga cabang:
- Mengubah model bisnis dan operasi konvensional, peran pekerjaan, struktur organisasi dan proses lainnya untuk mencerminkan sifat pekerjaan yang berkembang.
- Membangun kemitraan manusia-mesin yang meningkatkan pengambilan keputusan, pemecahan masalah, dan penciptaan nilai.
- Investasikan dalam teknologi yang memungkinkan karyawan untuk fokus pada berbagai tugas bernilai lebih tinggi dan mendorong pertumbuhan pendapatan.
8. Kurangnya akuntabilitas
Salah satu risiko AI yang lebih tidak pasti dan berkembang adalah kurangnya akuntabilitas. Siapa yang bertanggung jawab ketika sistem AI salah? Siapa yang bertanggung jawab setelah keputusan merusak alat AI?
Pertanyaan-pertanyaan ini menjadi sorotan utama dalam kasus kecelakaan fatal dan tabrakan berbahaya yang melibatkan mobil tanpa pengemudi serta dalam penangkapan yang keliru akibat sistem pengenalan wajah. Sementara masalah ini masih dikerjakan oleh pembuat kebijakan dan badan pengatur, perusahaan dapat memasukkan akuntabilitas ke dalam strategi tata kelola AI mereka untuk AI yang lebih baik.
Ambil tindakan:
- Simpan jejak audit dan log yang mudah diakses untuk memfasilitasi tinjauan perilaku dan keputusan sistem AI.
- Menjaga catatan terperinci dari keputusan manusia yang dibuat selama proses desain, pengembangan, pengujian, dan penerapan AI sehingga dapat dilacak dan dilacak bila diperlukan.
- Pertimbangkan untuk menggunakan kerangka kerja dan pedoman yang ada yang membangun akuntabilitas ke dalam AI, seperti Pedoman Etika Komisi Eropa untuk AI yang Tepercaya,7 Prinsip AI OECD,8 Kerangka Kerja Manajemen Risiko AI NIST,9 dan kerangka kerja akuntabilitas AI Kantor Akuntabilitas Pemerintah AS.10
9. Kurangnya penjelasan dan transparansi
Algoritma dan model AI sering dianggap sebagai kotak hitam yang mekanisme internal dan proses pengambilan keputusan menjadi misteri, bahkan bagi peneliti AI yang bekerja sama dengan teknologi. Kompleksitas sistem AI menimbulkan tantangan ketika harus memahami mengapa mereka sampai pada kesimpulan tertentu dan menafsirkan bagaimana mereka sampai pada prediksi tertentu.
Keburaman dan tidak dapat dipahami ini mengikis kepercayaan dan mengaburkan potensi bahaya AI, sehingga sulit untuk mengambil tindakan proaktif terhadap mereka.
“Jika kita tidak memiliki kepercayaan pada model-model itu, kita tidak bisa benar-benar mendapatkan manfaat dari AI itu di perusahaan,” kata Kush Varshney, ilmuwan riset terkemuka dan manajer senior di IBM® Research dalam video IBM® Akademi AI tentang kepercayaan, transparansi, dan tata kelola dalam AI.
Ambil tindakan:
- Mengadopsi teknik AI yang dapat dijelaskan. Beberapa contoh termasuk evaluasi model berkelanjutan, Penjelasan Model Interpretasi Lokal-Agnostik (LIME) untuk membantu menjelaskan prediksi pengklasifikasi oleh algoritma machine learning dan Deep Learning Important FeaTures (DeepLIFT) untuk menunjukkan tautan dan dependensi yang dapat dilacak antara neuron dalam neural networks.
- Tata kelola AI sekali lagi berharga di sini, dengan tim audit dan ulasan yang menilai interpretabilitas Hasil AI dan menetapkan standar keterangan.
- Jelajahi alat bantu AI yang dapat dijelaskan, seperti toolkit AI Explainability 360 sumber terbuka dari IBM®.
10. Informasi yang salah dan manipulasi
Seperti halnya serangan siber, aktor jahat mengeksploitasi teknologi AI untuk menyebarkan informasi yang salah dan disinformasi, mempengaruhi dan memanipulasi keputusan dan tindakan orang. Misalnya, panggilan robot buatan AI yang meniru suara Presiden Joe Biden dibuat untuk mencegah banyak pemilih Amerika pergi ke tempat pemungutan suara.11
Selain disinformasi terkait pemilihan, AI dapat menghasilkan deepfake, yaitu gambar atau video yang diubah untuk salah menggambarkan seseorang mengatakan atau melakukan sesuatu yang tidak pernah mereka lakukan. Deepfake ini dapat menyebar melalui media sosial, memperkuat disinformasi, merusak reputasi dan melecehkan atau memeras korban.
Halusinasi AI juga berkontribusi pada informasi yang salah. Output yang tidak akurat namun masuk akal ini berkisar dari ketidakakuratan faktual kecil hingga informasi palsu yang dapat menyebabkan kerusakan.
Ambil tindakan:
- Mendidik pengguna dan karyawan tentang cara menemukan informasi yang salah dan disinformasi.
- Verifikasi keaslian dan kebenaran informasi sebelum menindaklanjutinya.
- Gunakan data pelatihan berkualitas tinggi, uji model AI dengan ketat, dan terus mengevaluasi serta menyempurnakannya.
- Andalkan pengawasan manusia untuk meninjau dan memvalidasi keakuratan output AI.
- Tetap update tentang riset terbaru untuk deteksi dan memerangi deepfake, halusinasi AI, dan bentuk informasi yang salah dan disinformasi lainnya.
Jadikan tata kelola AI sebagai prioritas perusahaan
AI menawarkan banyak potensi, tetapi juga membawa risiko. Memahami potensi risiko AI dan mengambil langkah-langkah proaktif untuk meminimalkannya dapat memberi perusahaan keunggulan kompetitif.
Dengan IBM® watsonx.governance, organisasi dapat mengarahkan, mengelola, dan memantau aktivitas AI dalam satu platform terintegrasi. IBM® watsonx.governance dapat mengatur model AI dari vendor mana pun, mengevaluasi akurasi model dan memantau keadilan, bias, dan metrik lainnya.
Catatan kaki
1 Energy and Policy Considerations for Deep Learning in NLP, arXiv, 5 Juni 2019.
2 Making AI Less “Thirsty”: Uncovering and Addressing the Secret Water Footprint of AI Models, arXiv, 29 Oktober 2023.
3 Pause Giant AI Experiments: An Open Letter, Future of Life Institute, 22 Maret 2023.
4 AI ‘godfather’ Geoffrey Hinton warns of dangers as he quits Google, BBC, 2 Mei 2023.
5 Statement on AI Risk, Center for AI Safety, Diakses 25 Agustus 2024.
6 Future of Jobs Report 2023, World Economic Forum, Mei 2023.
7 Ethics guidelines for trustworthy AI, European Commission, 8 April 2019.
8 OECD AI Principles overview, OECD.AI, Mei 2024.
9 AI Risk Management Framework, NIST, 26 Januari 2023.
10 Kecerdasan Buatan: Kerangka Kerja Akuntabilitas untuk Badan Federal dan Entitas Lain, Kantor Akuntabilitas Pemerintah AS, 30 Juni 2021.
11 New Hampshire investigating fake Biden robocall meant to discourage voters ahead of primary, AP News, 23 Januari 2024.