Persoalan tentang hukum bagi Kecerdasan Buatan ini mengkhusukan pada robot cerdas. Teknologi robotik ini mengandaikan suatu kondisi ketika Kecerdasan Buatan memiliki tubuh buatan yang membuatnya efektif berpikir dan bertindak. Dengan sebutan Robot cerdas, dengan demikian, kita pahami sebagai kesatuan sistem kecerdasan dengan organ tubuhnya. Secara lebih spesifik, tulisan ini membahas tentang hukum yang mesti ditanamkan dalam sistem pemrograman robotik agar kelak tidak menjadi ancaman bagi umat manusia.
I] Hukum macam apa?
Kita akan mengacu pertama-tama pada rumusan hukum robotik dari Asimov:
Aturan pertama: Sebuah Robot tidak bisa menyebabkan kerugian atas seorang manusia; juga dengan tidak ikut campur, robot tidak bisa memungkinkan seorang manusia menderita kerugian.
Aturan Kedua: Sebuah robot harus menaati perintah yang diberikan manusia, sejauh perintah tersebut tidak bertentangan dengan isi Aturan Pertama.
Aturan Ketiga: Sebuah robot harus melindungi dirinya, sejauh tindakan perlindungan tersebut tidak bertentangan dengan isi Aturan Pertama dan Kedua.
Sekilas perangkat hukum di atas sudah memadai agar seorang robot tidak merugikan manusia. Namun masih ada celah ancaman di antara ketiga aturan tersebut. Misalnya dalam kasus seorang pengendara mobil yang mengantuk akan menabrak sekumpulan anak sekolah yang sedang makan cilok di pinggir jalan. Beberapa detik sebelum tabrakan terjadi, anak-anak itu berteriak minta tolong pada seorang polisi robot. Dalam kasus ini, seorang polisi robot, demi keselamatan lebih besar sejumlah manusia, bisa mengancam bahkan membunuh pengendara tersebut.
Robot cerdas ini masih bisa membatalkan isi aturan pertama dengan beberapa pertimbangan. a) Ketaatan robot dalam aturan kedua diperuntukkan pada manusia secara umum (perhatikan: bukan seorang manusia!). b) Di antara pilihan mengorbankan seorang pengendara atau sekumpulan anak yang sedang makan cilok, ia akan memilih jumlah yang lebih besar, sekalipun mengorbankan seorang pengendara ngantuk. Kita bisa bayangkan dalam kasus yang lebih ekstrim. Seandainya ada dua kelompok warga sipil saling bentrok, apakah seorang robot akan mengorbankan kelompok dengan jumlah terbanyak?
Contoh kasus ini menyentuh persoalan moral paling mendasar, yakni dilema moral. Robot tidak memiliki kemampuan merasakan betapa berharganya nilai martabat setiap individu manusia. Nilai martabat, sebagaimana kita pahami, adalah keluhuran yang terberi. Keluhuran ini mendahului setiap konstruksi rasional dan institusionalisasi otoritas politik. Karena keterberiannya mendahului dan bukan konstruksi manusia, maka nilai yang terberi itu berasal dari keyakinan akan berharganya nilai tersebut. Kita meyakini terlebih dahulu akan “nilai martabat” setiap individu, baru kemudian memberikannya dasar-dasar rasional. Jadi, keyakinan ini bukan melulu hasil dari kontruksi rasional.
Jika diandaikan bahwa keyakinan tidak bersumber dari konstruksi rasional manusia, lalu bagaimana mekanisme terbentuknya keyakinan dalam kemanusiaan kita? Pertama-tama keyakinan berjangkar dan bersemayam dalam dimensi afektif manusia, yakni perasaan dan emosional manusia. Perasaan adalah kemampuan menyadari pengalaman subyektif. Sedangkan emosi menggerakkan manusia untuk bereaksi secara cepat apa yang ia rasakan (senang, sedih, takut, marah, dan jijik).
Perang adalah konsekuensi logis demi memperebutkan sumber daya alam. Sekumpulan manusia yang merasa “terganggu” dengan korban dan kehancuran perang, menjadi jijik dan takut akan akibat perang. Emosi antar setiap orang memiliki titik temu dan menjadi emosi kolektif. Kolektifitas emosi ini mendorong manusia untuk menyusun bersama suatu hukum rasional yang bisa mencegah perang di kemudian hari. Pertimbangan rasional ini mesti didasarkan pada suatu fondasi akhir, yakni keyakinan bahwa setiap manusia memiliki martabat luhur.
Keyakinan akan martabat luhur ini bukan kita rumuskan secara rasional. Kita menerimanya begitu saja melalui tradisi. Kita merasakan dengan penuh penerimaan bahwa keadilan tertinggi adalah “martabat berharga” setiap individu. Di sini kita boleh menyebutnya “rasa keadilan paling mendasar”.
Mengorbankan seorang manusia demi kebaikan sebanyak mungkin manusia kita rasakan bertentangan dengan “rasa keadilan”. Namun ketika pilihannya “atau… atau”, memilih kebaikan semakin banyak orang dengan mengorbankan sesedikit mungkin orang bisa diterima secara rasional. Utilitarianisme di sini memiliki dasar pertimbangan rasionalnya, tetapi tetap menggugat “rasa keadilan” bahwa “setiap individu adalah berharga”. Sekali lagi, “rasa keadilan” bukanlah perkara logis. Sebab kenyataannya, mustahil secara logis memenangkan setiap individu dalam mengorganisir kehidupan kolektif. Kita tetap mengusahakan untuk tidak mengorbankan seorang pun berdasarkan keyakinan adanya “martabat terberi” setiap individu.
Seorang robot yang bekerja berdasarkan kecerdasan rasional dan logis tidak memahami “rasa keadilan”. Kecuali kemajuan sains dan teknologi telah berhasil merumuskan dengan tepat emosi dan perasaan manusia secara algoritmis. Dan algoritma mengandung di dalamnya proses logis-matematis. Akan tetapi seperti telah dikatakan: Afektivitas bukanlah bagian dari kecerdasan logis dan matematis.
Misalnya, serasionalitas apapun suatu bangsa, mereka bisa dengan buta melakukan kekerasan terhadap bangsa lainnya apabila propaganda politis sudah menyentuh sentimen keagamaan dan identitas primordial: “Kami meyakini, bangsa kami lebih unggul dari bangsa lain. Kita layak memimpin dan mengatur mereka.” Bahkan sentimen kebencian akan semakin besar daya rusaknya dengan penggunaan birokrasi yang rasional dan efektif, serta kecanggihan teknologi persenjataan. Sesudah kehancuran perang, manusia yang didorong kepekaan perasaannya dan respon emosinya bersepakat untuk merumuskan secara rasional hukum yang mencegah perang serupa di kemudian hari.
Dengan rasionalitas dan afektivitasnya, manusia mampu belajar merumuskan secara yuridis “rasa keadilan”. Persoalannya adalah robot bekerja menurut kecerdasan rasionalitas tanpa afektivitas. Mustahil mengharapkan suatu robot cerdas yang bisa bertindak menurut “rasa keadilan”. Mustahil pula mengharapkan seorang robot memahami dan meyakini martabat terberi setiap individu manusia. Setidaknya, manusia bisa menanamkan dalam bentuk program robotik suatu bahasa hukum yang, sekalipun secara terbatas, membahasakan “rasa keadilan”.
II] Hukum macam apa lagi?
Apa yang Robot Cerdas bisa analisis secara teliti adalah perhitungan kalkulatif: Berapa banyak kemanfaatan bagi semakin banyak orang. Karena itu, cara yang mungkin agar seorang robot tidak membatalkan ketiga hukum di atas adalah merumuskan seperangkat hukum yang lebih seksama daripada sebelumnya. Karenaya, Asimov menambahkan Aturan Nol sebelum ketiga aturan di atas, sehinga berbunyi demikian:
Aturan Nol: Seorang robot tidak bisa menyebabkan kerugian pada kemanusiaan. Juga dengan tidak ikut campur, robot tidak bisa memungkinkan kemanusiaan menderita kerugian.
Hukum pertama: Sebuah Robot tidak bisa menyebabkan kerugian atas seorang manusia; juga dengan tidak ikut campur, robot tidak bisa memungkinkan seorang manusia menderita kerugian, sejauh tidak bertentangan dengan Aturan Nol
Hukum Kedua: Sebuah robot harus menaati perintah yang diberikan manusia, sejauh perintah tersebut tidak bertentangan dengan isi Aturan Nol.
Hukum Ketiga: Sebuah robot harus melindungi dirinya, sejauh tindakan perlindungan diri tersebut tidak bertentangan dengan isi Aturan Nol, Aturan Pertama dan Aturan Kedua.
Dengan perangkat hukum ini, robot terprogram untuk sebisa mungkin tidak menyebabkan kerugian pada seorang pun manusia. Sebab kepentingannya adalah melindungi kemanusiaan (kualitatif), dan bukan “kumpulan manusia” (kuantitatif).
III] Tanggapan Saya
Namun, klausul dalam Aturan Nol bukan tanpa persoalan. Konsep kemanusiaan ini begitu umum sebagai sebuah ide. Dalam bahasa pemrograman, ide itu perlu diturunkan menjadi rumusan operasional. Persoalannya, definisi operasional tidak mungkin lepas sama sekali dari ciri logis-matematis.
Lebih mendasar lagi, ide “kemanusiaan” akan menjadi beragam ketika didefinisikan. Setiap kebudayaan dan agama memiliki definisi kemanusiaan yang beragam. Lagipula kritik etika pasca humanisme pencerahan menunjukkan bahwa mendefinisikan ide kemanusiaan universal adalah mustahil, kecuali melalui dominasi salah satu gagasan kemanusiaan atas gagasan-gagasan lain. Perumusan tentang kemanusiaan tidak kurang rumit daripada merumuskan definisi operasional dari kemanusiaan. Persis karena perumus algoritma kecerdasan buatan adalah manusia yang berbeda-beda.
Di samping perbedaan-perbedaan tersebut, manusia juga sama-sama memiliki kecerobohan. Kant pernah membuat lelucon serius: “Batang kayu yang menjadi bahan dasar dari penciptaan manusia itu bengkok. Makanya kita seringkali melakukan tindakan tak bermoral”. Lelucon ini menyiratkan persoalan lebih mendasar lagi. Teknologi dibuat oleh manusia yang sering melakukan kecerobohan yang membahayakan. Mereka yang ahli dalam bidang Robot Cerdas ini adalah manusia yang bukan hanya memiliki rasionalitas. Mereka juga memiliki emosi dan sentimen pada nilai-nilai yang diyakininya. Tidak jarang fanatisme menyumbat kemampuan manusia untuk berpikir dingin dan matang. Tidak jurang juga, rigorisme rasionalitas menekan perasaan “tidak tega”. Belum lagi jika kita berbicara tentang kepentingan-kepentingan di balik dana riset Kecerdasan Buatan.
Mungkinkah “batang kayu” yang menjadi bahan dasar penciptaan robot cerdas lebih lurus dari “batang kayu kita yang bengkok”? Artinya, sulit diharapkan manusia yang bertubi-tubi jatuh pada tindakan tak bermoral merancang dan menciptakan suatu robot yang berperilaku lebih bermoral dari penciptanya. Jika begitu sulit membayangkan suatu teknologi canggih yang tidak digunakan untuk membinasakan sesama manusia dan bumi tempat tinggal kita, mengapa tidak kita cukup berpikir secara minimal: Tidak semua cita-cita kemajuan harus kita dorong dan wujudkan. Sayangnya, seluruh bahasa keseharian kita terlanjur dipenuhi dengan kosakata “kemajuan”, “percepatan”, “produktifitas”, dan “kecanggihan”. Sedangkan kosakata “stagnansi”, “perlambatan”, “penyusutan”, dan “kecukupan” semakin ditinggalkan.
Siapa yang bisa menge-rem kemajuan robot cerdas, selain manusia? Doa memohon intervensi kuasa mutlak ilahi? Asteroid menghantam bumi?
Lihat juga: Mario De Caro, “Intelligenza artificiale” in Le sfide dell’etica, Mondadori, 2024, p. 158-159..