I] ALARM DARI PARA ILMUWAN
Geoffrey Hinton, penerima penghargaan Nobel Fisika 2024 bersama dengan John Hopfield, mengungkapkan kekhawatirannya: “Saya khawatir bahwa keseluruhan konsekuensi dari ini (teknologi Kecerdasan Buatan) bisa menjadi sistem yang lebih cerdas daripada kita, bahkan akan mengambil kendali […] Kecerdasan Buatan tahu bagaimana memprogram sendiri sehingga akan menemukan cara untuk mengatasi batasan-batasan yang kita tetapkan padanya. Ia akan menemukan cara untuk memanipulasi orang-orang agar melakukan apa yang ia inginkan.”
Dengan nada yang mirip, Denis Hassabis, peraih Nobel Kimia 2024 seakan mengingatkan: “Kita mesti memperhitungkan resiko dari Kecerdasan Buatan (AI) seserius tantangan besar dunia seperti perubahan iklim […] Saya sudah melibatkan diri begitu lama dengan komunitas internasional untuk mengkoordinasikan suatu tanggapan global yang efektif terhadap persoalan ini, dan kita sedang hidup dengan konsekuensi-konsekuensi dari teknologi ini sekarang.”
Sam Altman, pimpinan dari OpenAI dan CEO dari ChatGPT dalam kesempatan menghadiri Kongres Amerika Serikat pada 16 Mei 2023, mengajukan pertanyaan kritis tentang potensi-potensi AI di masa depan: “Apakah AI akan menjadi seperti mesin cetak yang telah menyebarluaskan pengetahuan, kekuasaan, dan pembelajaran secara luas ke segala penjuru wilayah untuk memberdayakan khalayak biasa, untuk membawa setiap orang setiap hari kepada perkembangan diri yang lebih besar, dan di atas itu semua membawa kepada kebebasan yang lebih besar?” Kemudian ia lanjutkan: “Atau AI akan lebih menjadi seperti Bom Atom – terobosan teknologi yang begitu canggih, tetapi dengan konsekuensi-konsekuensinya (rumit dan mengerikan) terus menghantaui kita hari ini?”
Menarik untuk dicermati: mereka yang dengan serius mempertimbangkan kemanfaatan dan kemudaratan AI adalah mereka yang ahli dan bergulat saban hari dengan bidang ilmu pengetahuan terkait teknologi tersebut. Dengan tidak memaparkan faktor-faktor resiko yang menimbulkan keresahan dan ketakutan publik, seharusnya itu akan lebih menguntungkan perusahaan yang mendanai riset dan pengembangan AI. Namun mereka tidak melakukannya. Kemajuan ilmu pengetahuan dan aplikasi teknologinya tidak meluncur tanpa “rem etika”.
II] PROBLEM ETIS DI SEPUTARAN AI
Etika bukan hanya memberikan kerangka acuan bagi tindakan manusia tetapi juga bagi sistem operasi teknologi yang diciptakan. Sebisa mungkin AI tetap bekerja dalam batas-batas etis yang mengena pada manusia. Artinya kerangka etis ditransformasikan menjadi bahasa pemograman dalam sistem operasi teknologi bersangkutan. Persoalan kemudian adalah ada banyak pandangan etis yang manusia hayati; dan pandangan etis mana yang menjadi kerangka acuan bagi para ilmuwan, inovator, dan pengguna dalam pengaplikasikan teknologi.
Pertanyaan etis yang bisa diajukan misalnya: a) Apakah diperbolehkan secara moral menggunakan data-data pribadi tanpa persetujuan demi pengembangan riset dan aplikasi suatu teknologi agar semakin menyerupai atau bahkan melebihi kemampuan manusia? b) Atau, apakah cukup bisa dipertanggungjawabkan secara moral apabila suatu teknologi beroperasi berdasarkan perhitungan kalkulatif ketika berhadapan dengan dilema moral, yakni saat harus memilih kemanfaatan sebagian besar orang dengan konsekuensi kerugian sedikit orang? c) Bertentangan atau tidak secara moral apabila penggunaan masif suatu teknologi menurunkan tingkat kecakapan dan kematangan kepribadian seseorang karena ketergantungan yang sulit dikendalikan?
Pertanyaan di atas persis berkaitan dengan tiga pandangan besar etika normatif. 1) Etika deontologi menekankan pada kewajiban setiap manusia untuk melakukan tindakan berdasarkan kategori-kategori yang bisa diterapkan secara universal bagi setiap orang, setiap tempat, dan setiap latar belakang kebudayaan. Prinsip universal ini menempatkan martabat manusia sebagai tujuan dan bukan sarana dari setiap tindakan kita. 2) Etika konsekuensialis mengukur benar tidaknya suatu tindakan secara moral menurut konsekuensi yang diakibatkan tindakan. Secara khusus dalam utilitarianisme, suatu tindakan dipandang bermoral apabila semakin bermanfaat bagi semakin besar orang. 3) Sedangkan etika keutamaan memandang suatu tindakan itu bermoral sejauh mendorong bertumbuhnya kebajikan setiap orang baik dalam ranah individu maupun sosial.
Di antara ketiga pandangan etis di atas, etika konsekuensialis relatif lebih konkrit dan mudah untuk dijadikan tolok ukur dalam menilai pengembangan dan penggunaan teknologi AI. Prinsip etis yang cenderung utilitaris ini memang “lebih ramah” penerapannya dalam ruang lingkup masyarakat dengan jumlah populasi sangat besar. Namun kelemahannya adalah permisif terhadap mereka yang mengalami kerugian dan menjadi korban dari penggunaan AI, seperti dalam dunia kerja.
Menurut laporan World Economic Forum pada bulan April 2024, hanya dalam waktu lima tahun ke depan sekitar 14 juta jenis lapangan pekerjaan akan hilang karena diambil alih oleh teknologi cerdas. Prediksi McKinsey menunjukkan, 30 % dari total jenis lapangan pekerjaan di Amerika Serikat pada 2030 akan diotomatisasi oleh penggunaan teknologi canggih. Perkiraan Goldman Sachs lebih mengkhawatirkan lagi: Di tahun-tahun mendatang sekitar 300 juta jenis lapangan pekerjaan penuh waktu di seluruh dunia akan diotomatisasikan akibat penerapan AI generatif.
Berikut adalah lapangan pekerjaan yang paling beresiko hilang karena intervensi AI: Penerjemah langsung (oral), desainer web, pelayan, analis grafik, penulis skenario, analis keuangan, akuntan, psikolog, asisten hukum, kasir, operator layanan telpon, pengemudi angkutan umum. Sedangkan lapangan pekerjaan yang sedang mengalami perubahan sangat signifikan dalam tuntutan dan cara kerjanya adalah: penerjemah teks, jurnalistik, programer, tenaga pendidik, pengacara, petani, seniman, ilmuwan.
Selain persoalan hilangnya banyak lapangan pekerjaan, masih banyak problem moral yang lebih mendasar dari perkembangan dan penggunaan teknologi digital. 1) Penggunaan Data Raksasa (Big Data) dalam memetakan profil setiap orang untuk mempengaruhi putusan dalam asuransi, belanja, layanan pinjaman, dan pemilu adalah ancaman terhadap keamanan atas privasi. 2) Akses pengetahuan tentang perkembangan teknologi yang tidak merata di negara-negara dan didominasi oleh sedikit perusahaan besar (Google, Amazon, Facebook, Apple, dan Microsoft) akan memicu ketidakadilan dan kesenjangan di antara umat manusia. 3) Perkembangan pesat bio-teknologi dan neurosains menantang konsep tradisional tentang kebebasan yang diasalkan dari entitas rohaniah; dan sebagai implikasinya konsep tentang tanggung jawab dalam bidang hukum. 4) Meningkatnya ketergantungan terhadap teknologi dibarengi dengan semakin luasnya penyebaran informasi menyesatkan, sikap abai akan dampak destruktifnya terhadap kehidupan yang berkelanjutan, dan semakin menurunnya kemampuan individual dalam mengambil keputusan (auto-determinasi). 5) Penggunaan teknologi canggih dalam perang jarak jauh (drone misalnya) malah memperkuat alasan untuk berperang, meminimanalisir “ruang empati”, dan meningkatkan tingkat kekejaman di antara pihak-pihak yang bertikai. 6) Penggunaan AI dalam pemindaian wajah, registrasi profil secara digital, dan pelacakan posisi warga beresiko melahirkan “masyarakat transparan”, suatu bentuk pengawasan baru, halus, dan total terhadap warga.
III] AI MENGATASI MASALAH KECEROBOHAN MANUSIA (?)
Ada suatu penelitian menarik yang dilakukan Jonathan Levav dari Universitas Stanford dan Shai Danziger, Universitas Ben Gurion. Mereka melakukan penelitian pada 2011 selama 10 bulan terhadap 8 hakim yang mesti melakukan 1.112 keputusan terhadap pengajuan pembebasan bersarat dari para narapidana. Penelitian ini menunjukkan bahwa terdapat sejumlah keputusan yang tidak adil; tetapi tidak ada indikasi para hakim melakukannya secara sengaja karena alasan diskriminasi atau kepentingan pribadi. Keputusan yang tidak adil itu lebih dipengaruhi oleh faktor “keletihan mental”. Berbeda dari keletihan fisik, keletihan jenis ini tidak disadari tetapi membuat kemampuan hakim dalam mempertimbangkan putusan menurun drastis.
Persoalan di atas mengacu pada kecerdasan manusia yang performanya cenderung menurun. Pengembangan penggunaan algoritma dan AI dalam pengadilan dimaksudkan untuk membantu para hakim yang tidak selalu prima dalam tugasnya. Optimisme atas kemanfaatan AI ini bukan tanpa masalah. Kecanggihan teknologi cerdas memang bisa mendaftar, memetakan, intinya mengkalkulasi secara presisi profil dan rekam jejak setiap narapidana. Pertanyaannya: Apakah disposisi setiap narapidana sungguh-sungguh bisa dikalkulasi?
Misalnya, mesin cerdas bisa memindai asal-usul, afiliasi kelompok, catatan aktifitas setiap hari di penjara dari narapidana aksi terorisme; tetapi apakah ia benar-benar mengetahui napi tersebut sudah melepaskan pengaruh ideologi di dalam kepalanya atau belum. Kita masih perlu memikirkan benar-benar apakah penggunaan teknologi dalam pengadilan bisa meningkatkan jumlah keputusan yang semakin adil atau malah sebaliknya.
IV] KETERBATASAN KECERDASAN MANUSIA
Persoalan di atas adalah sedikit contoh dari kondisi kemanusiaan kita hari ini. Kita seperti berada di antara “dua efek penjepit”. Satu sisi Penjepit adalah keterbatasan kognitif manusia; sisi lain penjepit adalah pengkondisian melalui penggunaan AI.
Sebelum mencermati sejauh mana AI mampu mengkondisikan putusan kita, ada baiknya kita mencermati dahulu keterbatasan kemampuan kognitif manusia. Pertama, keputusan manusia cenderung mengikuti pertimbangan kognitif yang mudah terbingkai oleh cara penyajian data (framming effect). Kecenderungan ini terkonfirmasi oleh hasil eksperimen dari dua psikolog dari Israel, Kahneman dan Tversky. Dalam penelitian itu dibentuk dua kelompok. Kepada kedua kelompok diajukan satu kasus yang sama: Pemerintah Amerika Serikat telah mengidentifikasi suatu penyakit baru yang berasal dari Asia. Penyakit ini bisa membahayakan hidup 600 orang. Karena itu setiap kelompok diminta untuk memilih salah satu di antara dua program penanganan.
Untuk kelompok pertama diberikan program A dan B. Memilih program A berarti 200 orang akan selamat. Memilih program B berarti ada 1/3 probabilitas untuk semua orang selamat, tetapi 2/3 probabilitas tidak seorang pun yang selamat. Untuk kelompok kedua diberikan skenario C dan D. Memilih program C berarti 400 orang meninggal. Memilih program D berarti ada 1/3 probabilitas untuk tidak seorang pun meninggal, tetapi 2/3 probabilitas tidak seorang pun diselamatkan.
Jika diamati seksama, program A dengan program C dan program B dengan program D memiliki isi yang sama, tetapi berbeda dalam perumusannya. Namun hasil yang didapat dari dua kelompok tersebut berbeda. Dalam kelompok pertama, ada 72 % dari total anggota memilih program A dan 28 % memilih program B. Sedangkan dalam kelompok kedua, ada 22 % dari total anggota memilih program C, sedangkan 78 % lainnya memilih program D.
Dari perbedaan pilihan kedua kelompok dapat disimpulkan, sebagian besar orang di kelompok pertama memilih program A karena rumusannya yang positif (berkaitan orang selamat). Tetapi pada kelompok kedua lebih sedikit orang memilih C, padahal isinya sama dengan A. Sebabnya adalah rumusan program C lebih negatif (berkaitan orang meninggal).
Bisa juga dikatakan bahwa anggota kelompok pertama cenderung lebih memilih program dengan jumlah yang pasti (bukan probabilistik). Sedangkan dalam kasus kelompok kedua karena rumusan yang negatif pada program C, sebagian besar anggota kelompok kedua beralih memilih program D (sekalipun isinya sama dengan program B). Rumusan D lebih sukar dipahami tetapi lebih positif daripada rumusan C. Penelitian ini menunjukkan bahwa kognisi manusia mudah terbingkai untuk condong pada pilihan yang positif dan pasti daripada yang negatif dan rumit, terlepas dari “mana pilihan yang lebih baik dan lebih tepat”.
Kedua, kita juga mengenal apa yang disebut bias kognitif: suatu kesesatan dalam sistem kecerdasan manusia dalam menilai, sehingga penilaian menjadi tidak logis atau tidak sesuai fakta. Biasanya bias kognitif kelihatan dari pola yang sama dan berulang-ulang dalam menafsir sumber atau informasi yang tersaji. Selain itu, bias ini memiliki dorongan yang kuat untuk mereduksi kompleksitas masalah lantas menggiringnya pada penyederhanaan.
Bias kognitif ini berasal dari area tertentu di otak kita, yakni amigdala. Area ini termasuk bagian otak manusia yang paling awal terbentuk dalam proses evolusi, ketika nenek moyang kita kerap menghadapi ancaman predator dan kemudian ancaman persaingan dari kelompok manusia lainnya. Jadi bias ini sebenarnya berasal dari kepentingan mempertahankan diri. Karena itu, area ini mendorong reaksi cepat terhadap fenomen-fenomen yang berpengaruh kuat pada emosi, seperti simbol-simbol dan tampakan-tampakan yang memiliki asosiasi dengan pengalaman buruk di masa lampau, bahkan sampai di masa nenek moyang kita.
Karena bias kognitif ini manusia beresiko menilai seseorang bukan berdasarkan informasi dan data yang relevan dengan fenomena terkait. Tetapi penilaian dilakukan dengan melekatkan prasangka-prasangka kelompok tertentu yang memiliki asosiasi dengan orang itu, seperti warna kulit, suku, atau agama. Penilai tidak lagi hati-hati dalam menguji prasangka pribadi dan informasi yang ada. Ia terburu-buru mencari penjelasan yang pasti dan mudah dipahami sekalipun beresiko pada simplifikasi.
Ketiga, empati manusia bagaimanapun juga cenderung selektif. Tidak jauh kaitannya dengan asosiasi kelompok, cara penilaian kita juga amat dipengaruhi oleh tempat. Empati manusia mudah tergoda melakukan selektif berdasarkan jarak suatu peristiwa terjadi. Perhatian dan kepedulian kita pada fenomena tertentu seringkali dipengaruhi oleh relevansinya. Semakin penting seseorang atau peristiwa bagi saya, semakin mudah saya peduli.
Dalam sejarah dunia jurnalistik dikenal “hukum McLurg”. Istilah ini disematkan pada nama seorang editor berita British yang sudah lama meninggal. Sederhananya hukum ini mengatakan, “semakin jauh suatu peristiwa terjadi, semakin itu kurang penting”. Dengan gurauan hukum ini memberikan contoh: satu orang meninggal di Briton setara dengan 5 orang Prancis meninggal, 20 orang Mesir, 500 orang India, dan 1000 orang Cina. Maka tidak mengherankan apabila sebuah media cenderung menyajikan berita yang mudah populer dan segera disimak oleh semakin banyak orang.
Sayangnya, kita manusia lebih mudah merasa pintar daripada menyadari kebodohan kita. Teori efek Dunning-Kruger (Dunning-Kruger effect) menyebutnya meta-ignorance: Suatu kebodohan yang tidak menyadari kebodohannya. Karena itu kebodohan orang-orang seringkali tersembunyi bagi mereka. Orang-orang yang bodoh atau kurang paham persoalan biasanya tidak menyadari betapa minimnya keahlian mereka. Mereka cenderung ngeyel dan ngotot dengan argumen tanpa dasar yang bisa dipertanggungjawabkan. Atau mereka melarikan ketidaktahuannya pada jawaban-jawaban ala kadarnya dan misteri. Celakanya itu mereka anggap sebagai sesuatu yang normal dan benar.
Ketidakpakaran menyisakan beban ganda pada “orang-orang sok tahu”. Pengetahuan yang menyesatkan atau tidak lengkap membawa mereka pada putusan yang keliru di satu sisi; di sisi lain, kekurangtahuan itu sekaligus membuat mereka sulit untuk mengakui kesalahan yang mereka perbuat dan keputusan lebih bijak yang orang lain perbuat. Penting untuk dicatat di sini, bahwa efek Dunning-Kruger bukan hanya terjadi pada mereka yang malas belajar tetapi juga bisa mengena pada orang-orang ahli. Sebab efek ini bisa terjadi pada setiap manusia.
V] OPTIMISME ATAU PESIMISME?
AI diproyeksikan untuk menyamai atau bahkan melampaui kecerdasan manusia. Dan kita sudah mendapati, apa yang kita sebut “cerdas” dalam diri kita ternyata rentan terbingkai, mengandung bias, diskriminatif, dan punya kadar “kebodohan yang tersembunyi”. Apa yang AI tiru sebenarnya tidak sama sekali cerdas. Sejauh meniru kecerdasan manusia, bisa jadi sistem kecerdasan buatan mengolah dan memproses data dan informasi tanpa benar-benar lepas dari bias yang diskriminatif. Data dan informasi itu pun berasal dari manusia yang memiliki kecerdasan terbatas dan tidak jarang terlambat menyadari kecerobohannya. Bisakah suatu sistem yang benar-benar cerdas (AI) muncul dari buatan sistem yang tidak benar-benar cerdas (manusia)? Tidak mustahil malah muncul kecerdasan buatan yang lebih ceroboh dan lebih rendah kualitasnya dari kecerdasan alamiah (yang tidak sungguh-sungguh cerdas).
Kalau di masa-masa mendatang AI bukan hanya meniru kecerdasan manusia tetapi juga secara mandiri bisa memetakan kekurangannya dan menyingkirkannya, tentu saja ia akan mampu melampaui manusia. Mesin cerdas ini akan mampu membuat putusan-putusan yang bersih dari bias diskriminatif, simplifikasi, dan “kebodohan tersembunyi”. Ia mampu menyeleksi data dan informasi yang valid dari informasi yang menyesatkan dan setengah benar. Berdasarkan keakuratan mengolah data dan informasi serta kemampuan memperbaiki diri sendiri, AI akan membantu manusia dalam mengupayakan hidup yang semakin baik.
Soalnya adalah hidup yang semakin baik akan sampai pada upaya merumuskan “hidup macam apa yang layak untuk dijalani”. Sederhananya, AI akan mengkategorisasikan faktor-faktor yang mendukung keberlangsungan hidup manusia dan faktor-faktor pengancamnya. Di sini ada resiko yang manusia sebenarnya sudah ketahui. “Kehidupan manusia yang layak” sekarang didefinisikan dengan keberlangsungan hidup di bumi ini. Justru ekosistem bumi faktanya terancam oleh perilaku manusia sendiri. Bagaimana jika manusia adalah ancaman dari “hidup yang layak untuk dijalani”? Apa resiko yang mesti ditanggung manusia ketika AI mengidentifikasikan manusia sebagai ancaman bagi keberlangsungan hidup di bumi? Ciptaan balik melawan penciptanya: mungkinkah? “Api Promoteus” membakar balik pemakainya?
Kita cukup memikirkan resiko dari skenario pertama: AI menyamai kecerdasan manusia. Sebagaimana sejarah kemanusiaan kita merekam, umat manusia sering menghancurkan dirinya dengan teknologi yang mereka gunakan. Semakin canggih alat-alat, semakin besar daya rusaknya. Saat ini kita begitu terobsesi bukan dengan teknologi yang diperalat, tetapi teknologi yang berpikir. Tentu resikonya akan menjadi semakin dahsyat untuk membawa kita pada kepunahan.
Kita bisa mengajukan spekulasi konyol: AI tetap dalam kendali manusia kita. Sebab tangan manusia bisa menghentikan laju pasokan energi bagi AI untuk mengembangkan kemampuannya. Justru di sini soalnya. Hidup manusia modern sudah terbingkai teknologi dan tergantung pada sistem pasokan energi. Adalah semacam dongeng mewujudkan kesepakatan besar seluruh umat manusia untuk menghentikan operasi teknologi beserta pasokan energinya; sementara banyak orang sudah bingung setengah mati saat baterai HP tersisa 16 %.