Film-film fiksi turut membentuk imajinasi kita tentang masa depan umat manusia dalam hubungannya dengan teknologi mutakhir. Sebagian menampilkan teknologi masa depan yang nyaman dan memanjakan. Sebagian lain menampilkan teror teknologi cerdas yang mendorong manusia pada kepunahan. Dua fiksi yang saling bertolak belakang ini ternyata juga lahir dari imajinasi manusia sendiri. Tentu bukan imajinasi tanpa dasar, melainkan berlandaskan pengalaman sejarah. Manusia selalu memiliki hubungan ambivalen dengan teknologi ciptaannya. Ambivalensinya bagaikan api Promoteus yang diperuntukkan untuk membantu manusia hidup; pada kenyataan sekaligus dipergunakan untuk membinasakan sesama manusia dan dunia.
I] Kita perlu memeriksa lebih teliti soal ambivalensi ini, dengan dibantu pertanyaan: Apakah teknologi modern bisa mengancam umat manusia?
Kita mulai dari teknologi modern pada umumnya. Teknologi tidak bisa mengancam nasib umat manusia dengan alasan berikut. 1) Tiadanya halangan terhadap kemajuan ilmu pengetahuan dan teknologi akan meningkatkan dominasi manusia atas alam, sehingga memacu kemajuan peradaban, moral, dan masyarakat. 2) Teknologi memperbesar kemungkinan bagi semakin besar populasi manusia untuk hidup semakin berkualitas. 3) Teknologi adalah alat netral yang tidak bisa dituntut pertanggungjawaban moral atas efek-efek negatif yang muncul darinya. Masalah penyalahgunaan teknologi terletak pada subyek manusia yang perlu dididik dan diarahkan untuk menggunakannya secara bertanggung jawab.
Tiga argumen di atas, bisa dibantah dengan alasan berikut: 1) Teknologi modern yang mampu beroperasi secara lebih efektif daripada tenaga kerja manusia menyebabkan untuk pertama kali dalam sejarah lonjakan luar biasa pengangguran. Hal ini berdampak buruk bagi kondisi keluarga-keluarga, yang menjadi awal perkembangan masyarakat. 2) Faktanya manusia tidak bisa menanggung secara bertanggung jawab kekuatan potensial yang dahsyat dari teknologi-teknologi baru. Dua perang dunia adalah bukti dari teknologi pemusnah massal, yang tidak bisa diperhalus dengan membela netralitas teknologi. Sebaliknya tanpa teknologi modern, korban tidak akan membesar seperti sudah terjadi. 3) Manusia layak dituntut pertanggungjawaban moral dalam penggunaan teknologi sejauh sekedar alat yang digunakan. Sebaliknya, manusia bukan lagi (setidaknya, bukan satu-satunya) penanggung jawab apabila teknologi beralih menjadi mesin cerdas, lalu menjadi musuh bebuyutan vis a vis manusia.
Ancaman teknologi modern terhadap nasib umat manusia pada poin pertama semakin dipertegas oleh peristiwa sejarah. Pada Maret 1811, di Nottingham kelompok pekerja tekstil yang menamai diri para Luddista melakukan gerakan protes terhadap penggunaan mesin uap dan teknologi dalam industri tekstil, karena menyebabkan pengangguran dan upah murah bagi para buruh. Selain itu para pemikir penting di era revolusi industri juga merubah pandangannya terhadap dampak positif teknologi modern. David Ricardo, yang sebelumnya memandang teknologi sebagai alat yang menghasilkan manfaat besar bagi industri dan pekerja, menyadari bahaya teknologi bagi lapangan pekerjaan. Demikian juga Marx dan Engels, yang pernah mengakui potensi emansipatoris dari teknologi, merubah pandangannya: dalam masyarakat kapitalisme menggunaan mesin akan semakin menyengsarakan kondisi kaum buruh pabrik dan tani.
Pandangan pesimis tersebut bisa dinilai berlebihan berdasarkan dua fakta. Inovasi teknologi ikut meningkatkan kualitas hidup para buruh menjadi lebih baik. Selain itu, mesin-mesin baru yang menggantikan pola perkerjaan tradisional dengan menggunakan tenaga manusia turut melahirkan pekerjaan-pekerjaan baru, seperti dalam bindang konstruksi mesin, perawatan, dan pengoperasian mesin. Namun pandangan yang optimis dan antusias terhadap teknologi juga bisa sebaliknya terlalu menafikan fakta yang sedang akan berjalan. Kasus paling kelihatan adalah penggunaan teknologi kendaraan tanpa awak. Diperkirakan di Amerika Serikat penggunaan teknologi tersebut akan menyebabkan lonjakan hilangnya lapangan pekerjaan bagi supir taxi, kendaraan pengangkut barang, dan semacamnya.
Dampak negatif teknologi modern terhadap lapangan pekerjaan ini menuntut kebijakan pemerintah yang mesti menjamin kebutuhan-kebutuhan mendasar dari mereka yang kehilangan pekerjaan. Selain itu, pemerintah perlu menyediakan berbagai kemungkinan bagi para generasi muda untuk mengembangkan kemampuannya dalam penggunaan teknologi baru serta berbagai kecakapan lain dalam menghadapi masa depan yang kian tidak menentu akibat penggunaan teknologi-teknologi baru. Namun kemajuan teknologi bukan hanya berdampak pada dunia industri dan pekerjaan. Perkembangan pesat kecerdasan buatan dan hiperkoneksi hubungan sosial secara virtual berdampak jauh lebih luas daripada soal ekonomi. Secara khusus, teknologi digital dan kecerdasan buatan benar-benar merubah landskap pemahaman kita tentang hukum, sosiologi, politik dan bahkan moralitas. Sikap antipati terhadap teknologi-teknologi baru, yang sebenarnya tidak bisa dibendung lagi, tidak akan membantu kita sama sekali untuk memahami cara menanganinya.
II] Kita sudah menunjukkan ambivalensi teknologi: ancaman sekaligus manfaatnya. Sekarang, kita akan mengerucutkan pertanyaannya: Apakah teknologi Kecerdasan Buatan (Artificial Intelligence) bisa mengancam umat manusia?
Kecerdasan buatan pada dirinya sendiri benar-benar bisa menjadi ancaman manusia apabila memiliki kemampuan yang sepadan dengan manusia. Sebab sejauh kecerdasan buatan hanyalah alat teknis yang digunakan manusia, maka ancaman potensialnya dan manfaatnya tergantung pada subyek penggunanya, manusia. Di sini kita perlu pertama-tama melihat penyimpangan moral dalam penggunaan teknologi baru.
1) Data Raksasa (Big Data) adalah pengakumulasian dan pengorganisasian dalam jumlah yang teramat besar data-data personal, bahkan privat, dari setiap orang berdasarkan pelacakan riwayat penggunaan media sosial, kartu kredit, jaringan internet, video kamera, dan transportasi publik modern. Data raksasa ini bisa menjadi suatu arsip digital yang menyimpan sekaligus membentuk profil setiap orang dari berbagai aspeknya. Pengorganisasian profil dengan menggunakan algoritma bisa dimanfaatkan untuk: a) Menganalisis setiap orang sejauh mana bisa menjadi konsumen potensial; b) memberikan pertimbangan pada bank untuk memberikan pinjaman pada nasabahnya; c) memutuskan hukuman dalam pengadilan. Bukan hanya perusahaan barang dan jasa yang menggunakannya, tetapi juga kebijakan politik pemerintah. Di Xinjiang, pemerintah Tiongkok memanfaatkan data raksasa dan algoritma untuk mengawasi minoritas Uighur.
2) Di Eropa kita juga mengenal “Lima Raksasa Teknologi Baru”, yakni Google, Amazon, Facebook, Apple, dan Microsoft. Data-data yang dihimpun oleh kelima raksasa ini berpotensial digunakan dalam Pemilu untuk mempengaruhi preferensi warga dalam memilih. Seperti sudah terbukti dalam kasus Cambridge Analytica, data raksasa digunakan untuk mendorong pemungutan Brexit dan Pemilu di AS.
3) Dalam dunia militer, penggunaan kecerdasan buatan dalam teknologi Drone mampu memetakan teritori sasaran serangan dalam perang secara presisi, efisien, dan efektif. Di satu sisi, pemanfaatannya memungkinkan berkurangnya jatuh korban warga sipil dalam perang. Namun di lain sisi, pemutakhiran teknologi perang, dengan pembenaran dua alasan sebelumnya, akan meningkatkan berbagai alasan untuk melakukan peperangan.
Kita sudah membahas ancaman kecerdasan buatan berkaitan dengan hilangnya lapangan pekerjaan besar-besaran dan pemanfaatan menyimpangnya dalam ranah publik maupun privat. Selanjutnya, kita beranjak pada ancaman yang paling krusial: momen umat manusia hidup bersama kecerdasan buatan yang berkesadaran semakin mendekat. Persoalannya adalah hubungan di antara keduanya bisa bersifat konfliktual. Momen “singularitas” kecerdasan buatan mengekspresikan suatu tahapan krusial di masa depan, ketika mesin canggih mampu dengan lebih baik menciptakan aturannya sendiri, sehingga mampu berkreasi tanpa peran dan kendali manusia.
Menurut definisi tersebut, kita bisa simpulkan bahwa ancaman paling besar kecerdasan buatan bagi kelangsungan umat manusia akan terjadi apabila teknologi tersebut bisa menjadi subyek moral layaknya manusia. Persis di sini posisi mesin cerdas sebagai ancaman atau bukan akan terverifikasi menurut realisasi statusnya sebagai subyek moral. Seorang ahli teori “singularitas teknologi”, James Barrat memandang kecerdasan buatan sebagai penemuan akhir manusia yang akan mengakhiri era umat manusia. Teoritikus lainnya, Nick Bostrom, mengumpamakan manusia seperti anak kecil yang sedang bermain-main dengan bom (kecerdasan buatan), yang perkembangannya tidak bisa dibatasi lagi.
III] Akan tetapi, mungkinkah kecerdasan buatan bisa menjadi subyek moral layaknya manusia?
Tidak semua ahli sependapat. Beberapa ahli lain menolak klaim bahwa teknologi itu bisa menjadi subyek moral. Bagi mereka, adalah mustahil mesin-mesin canggih bisa memiliki kecerdasan layaknya manusia dan mampu mencapai tingkatan berpikir yang otonom dan elaboratif sehingga bisa merencanakan strategi pemusnahan manusia. Pertanyaannya: Apa tolok ukur dari kecerdasan?
Teori “Pengujian Turing” memandang kecerdasan dari akibat yang dihasilkan. Bayangkan ada dua kamar. Salah satu diisi oleh komputer yang mampu menjawab pertanyaan kita. Salah lainnya dihuni oleh seorang manusia. Pertanyaan diajukan kepada keduanya. Dari kedua kamar muncul jawaban atas pertanyaan kita. Dalam kasus ini, kita tidak akan bisa membedakan mana kamar komputer dan mana kamar manusia karena keduanya menjawab secara tepat. Artinya, kita cukup menilai kecerdasan menurut akibatnya, atau lebih baik, semua jawaban yang dihasilkan adalah cerdas.
John Searle berkeberatan dengan gagasan “Pengujian Turing”. Baginya, pengujian tersebut belum mendefinisikan kecerdasan mesin secara spesifik. Kecerdasan mesti juga mensyaratkan kesadaran atas aktifitas pengetahuan yang ia lakukan. Mesin sendiri tidak akan pernah bisa sungguh-sungguh cerdas karena tidak memiliki kemampuan memahami apa yang ia sedang lakukan. Dari kritik tersebut, Searle kemudian mengajukan argumentasi tentang “Kamar China”.
Bayangkan saja, seorang manusia berada dalam suatu kamar tertutup. Kepadanya diajukan pertanyaan dalam bahasa mandarin yang ia sama sekali tidak tahu. Namun ia tidak sendiri. Di dalam kamar itu terdapat buku pegangan dalam bahasa Inggris (bayangkan saja kamus sekaligus ensiklopedi), yang dengan bantuannya orang tersebut akan menjawab pertanyaan-pertanyaan. Orang itu cukup memahami pertanyaan dalam bahasa Mandarin melalui buku pegangan, dan sekedar mengutip persis jawaban-jawaban yang tertera dalam buku itu juga. Setelah melihat dalam banyak kesempatan jawaban-jawaban yang diberikan benar, orang di luar yang memberi pertanyaan jelas akan menyangka bahwa orang di dalam kamar tahu baik bahasa Mandarin.
Komputer persis bekerja seperti orang di dalam “Kamar China” tersebut. Itu bekerja mengikuti program yang diterakan padanya. Ia tidak memahami data yang masuk (input) dan hasil yang keluar (output), juga tidak bahasa pemogramannya. Komputer terbatas kerjanya hanya dalam tingkatan sintaksis, yakni memanipulasi simbol-simbol. Ia tidak akan sampai pada tingkatan semantik, yakni memahami simbol itu sendiri. Komputer tidak akan pernah bisa menyamai manusia karena tidak memiliki kemampuan semantik. Menurut argumentasi “Kamar China”, dengan demikian, tidak mungkin komputer bisa menyamai kecerdasan manusia.
Kita juga bisa menyimpulkan dari argumentasi “Kamar China” dari Searle, bahwa teknologi komputer tidak akan menyamai manusia karena tidak memiliki daya kreatifitas. Alat-alat teknis itu sekedar melakukan hal-hal yang manusia perintahkan pada mereka. Mereka tidak bisa menentukan sendiri cara dan tujuan selain karena kita menyusun program dalam sistem operasinya.
IV] Namun menurut fakta kemajuan teknologi akhir-akhir ini, Kecerdasan Buatan mungkin untuk menjadi kreatif, dan karenanya, apakah bisa menjadi subyek moral?
Fakta-fakta ini bisa kita temukan dalam perkembangan pesat mesin komputer dalam permainan catur. Tahap pertama terjadi pada 1996, ketika ditemukan komputer Deep Blue. Komputer ini terbukti berhasil mengalahkan juara catur dunia, Garri Kasparov. Mesin bisa bermain catur lebih baik dari manusia. Lebih canggih dari Deep Blue adalah komputer Stockfish. Mesin ini diprogram untuk merekam seratusan strategi dan taktik mendasar yang efektif dalam memainkan catur, dengan bantuan para juara-juara Catur di sepanjang kejuaran dunia 2018. Teknologi ini bahkan mampu merekam begitu banyak dinamika pertandingan catur di masa lalu dan mengkalkulasinya untuk memperhitungkan langkah strategis yang lebih baik.
Lompatan kecanggihan komputer yang paling mengagetkan publik masih belum ditemukan dalam kedua mesin di atas. Titik lompatnya dimulai sesudah 2018, ketika ditemukan komputer AlphaZero. Komputer ini sanggup mengalahkan Stockfish dalam keseluruhan sesi pertandingan. Di sepanjang 100 kali pertandingan tersebut, Alpha menang sebanyak 28 kali, 72 kali seimbang, tanpa pernah kalah sama sekali. Di sesi berikutnya, dalam 1000 kali pertandingan, Alpha menang melawan Stockfish sebanyak 155 kali, seimbang 839 kali, dan kalah hanya 6 kali.
Dalam serangkaian dua sesi pertandingan tersebut, Stockfish mampu menganalisa 60 juta posisi strategis dalam sedetik, sedangkan Alpha hanya 60.000 posisi. Ini artinya, Alpha secara menakjubkan menganalisis jutaan posisi dari Stockfish, lalu memampatkannya menjadi semakin sedikit posisi yang lebih efektif, efisien, dan presisi. Lalu, di mana persis letaknya kemampuan menakjubkan dari AlphaZero?
Menurut para programmer AlphaZero, mereka hanya memasukkan aturan-aturan dasar dalam permainan catur, dan sama sekali tidak memasukkan program taktik-strategi padanya. Titik krusialnya adalah mereka merancang AlphaZero mempunyai kemampuan untuk melakukan pertandingan melawan dirinya sendiri. Dari serangkaian kekeliruan dalam pertandingan internal tersebut, komputer ini mampu menurunkan berbagai macam strategi dan taktik yang kita “belum pernah ketahui”. Dikatakan “belum pernah diketahui” karena langkah-langkah catur yang ia ciptakan berhasil memporakporandakan berbagai strategi catur yang manusia dan komputer lain pernah rancang.
Cukuplah ia diprogramkan untuk mengetahui aturan dasar catur, selanjutnya ia akan berkembang sendiri menjadi ahli bermain catur. Arti mendasarnya: AlphaZero mampu mengimajinasikan pertandingan dalam sistem kecerdasannya. Atau dengan kata lain, seperti manusia, ia belajar sendiri. Bahkan ia memiliki peningkatan kemampuan belajar mandiri yang jauh lebih eksponensial daripada manusia dan komputer lainnya.
Kemampuan belajar AlphaZero ini jelas berbeda dari cara kerja komputer-komputer sebelumnya. Ia mengunakan suatu metode pengoperasian yang disebut “Pohon Monte Carlo”. Sedangkan komputer sebelumnya sekedar mengkomputasikan sebanyak mungkin kemungkinan langkah strategis dalam catur, Alpha bisa mencari kemungkinan-kemungkinan strategis dari berbagai kemungkinan peristiwa yang tidak terduga. Sebab dari aturan dasar permainan catur, ia berhasil bukan hanya memilih berbagai kemungkinan. Tetapi dari setiap kemungkinan itu ia memperluasnya lagi ke kemungkinan-kemungkinan lainnya lagi, lantas mensimulasikannya dan kemudian menemukan solusi yang seefektif, seefisien, dan sepresisi mungkin.
Apakah ada istilah lain untuk menyebut kemampuan belajar AlphaZero ini selain kreatifitas kecerdasaran yang bersifat intuitif dan imajinatif? Ia memiliki intuisi untuk memecahkan dan mengelaborasi berbagai persoalan dalam catur tanpa memerlukan bantuan kita untuk mengembangkan kemampuannya.
Kapasitas Kecerdasan Buatan dari komputer AlphaZero ini tidak bisa diremehkan dampaknya bagi manusia. Bahkan ia bisa menjadi ancaman. Sama halnya manusia, dengan belajar dari berbagai kekeliruan, ia mampu mengurangi kekeliruan di masa mendatang. Dengan imajinasinya, manusia mampu menyusun serangkaian aturan main (etika), cara (teknik dan sarana), serta tujuan bagi hidupnya. Kalau bisa dikatakan, ada kemampuan-kemampuan insani yang masih belum dimiliki oleh Alpha, itu adalah: tubuh, perasaan, dan emosi.
V] Tanggapan dan Telaah Lebih Lanjut
Akan tetapi justru tanpa ketiga kemampuan insani tersebut, Kecerdasan Buatan akan lebih bisa menganalisis berbagai kemungkinan solutif secara lebih efisien, efektif, dan presisi. Bukankah kita, manusia, sering tidak mampu berpikir jernih karena pengaruh tekanan sentimentil dan emosional serta kebutuhan-kebutuhan ragawi? Namun, kabar buruknya adalah tanpa ketiganya, Alpha bisa mengembangkan sendiri kecerdasannya jauh di atas manusia, tanpa mengalami kondisi “dilema moral”. Dilema dalam moralitas persis tidak semata-mata terbentuk oleh kecerdasan komputasional atau rasionalitas bertujuan. Di dalamnya ada sentimen suka dan benci, rasa sayang, empati, dan keterbatsan-keterbatasan tubuh. Karena pengalaman dilema itulah, yang adalah kelemahan sekaligus kekhasan manusia, kita mampu merumuskan berbagai nilai-nilai preskriptif (kewajiban moral).
Setidaknya dalam perkembangan sejarah pengetahuan umat manusia terkini, suatu rumusan deskriptif dari penalaran saintifik (logika dan hukum sebab-akibat) tidak mungkin menghasilkan rumusan preskriptif. Artinya, mesin Kecerdasan Buatan barangkali bisa menyusun tujuan dan cara mencapai tujuannya sendiri, tetapi masih mustahil untuk merumuskan sendiri nilai-nilai moralitasnya. Justru di sini semakin mengerikan ancamannya. Ketika ketergantungan kita pada Kecerdasan Buatan semakin besar, hampir pasti semakin besar pula pemecahan solusi dan tujuan praktis sehari-hari akan dipindahalihkan padanya. Bayangkan saja, suatu sistem Kecerdasan Buatan yang bisa mempelajari sistem kehidupan kita per detik, lalu membentuk tujuannya sendiri, tanpa adanya dilema moral. Bukan mustahil akan tiba masanya, teknologi ini menentukan tujuan hidup praktis kita. Dan ketika kita ingin melawan tujuan-tujuan itu, kita tidak punya kecerdasan taktis dan strategis yang memadai untuk melawannya.
Kalaupun Kecerdasan Buatan belum bisa dikatakan sebagai subyek moral -melihat ketiadaan tubuh, perasaan dan emosi-, tanpa status itu pun teknologi ini tetap bisa mengancam manusia. Sebab cukup dengan mempelajari dan memetakan pola-pola sentimen dan emosi kolektif manusia, bahkan per individu, mesin ini bisa bermain-main dengan “kekhasan dan kelemahan kita” sebagai manusia. Karena itu, upaya antisipatif terhadap obsesi kemajuan tekknologi perlu dilakukan. Salah satunya adalah memasukkan sejak awal dalam riset teknologi suatu aturan normatif dalam sistem Kecerdasan Buatan agar kelak tidak bertentangan dengan kepentingan umum manusia. Suatu norma seperti apa? Kita perlu tulisan lain untuk membahasnya secara khusus.
Dirumuskan ulang dengan metode disputatio, sembari dielaborasi dari Mario De Caro, “Intelligenza artificiale”, in Le sfide dell’etica, Mondadori 2022.