Demokrasi Digital dan Kiamat Informasi (Bagian 2)
Lukas Luwarso
Jurnalis Senior, Kolumnis
berita
Berpikir Merdeka
Ilustrasi Muid Watyutink.com 26 November 2021 10:45
 

Tirani Teknologi, Diktator Digital

Watyutink.com - Musuh demokrasi di era digital beda dengan sinyalemen Karl Popper dalam buku The Open Society and Its Enemy (1945). Bukan lagi ideologi otoriter seperti fasisme, Naziisme atau komunisme. Melainkan dari dalam demokrasi itu sendiri, politik elite yang manipulatif. Donald Trump dengan senjata Twitter adalah contoh demokrasi digital berperilaku buruk. Ia menggunakan twitter untuk membakar sentimen sosial dan memasarkan agenda politiknya. Memakai saluran demokrasi untuk menyuarakan sentimen anti-demokrasi. Demokrasi digital membuyarkan kohesi sosial, menyulitkan untuk menyepakati kepentingan dan tujuan bersama.

Yuval Noah Harari dalam buku “21 Lessons for the 21st Century” menguraikan teknologi artificial intelligence (AI) dapat mengancam demokrasi, merongrong kebebasan dan kesetaran. Teknologi AI bisa dipakai untuk memusatkan kekuasaan pada segelintir elite, jika tidak dipersoalkan.  

Menurut Yuval, relasi antara teknologi dan demokrasi telah berubah. Demokrasi liberal dan ekonomi pasar-bebas, yang didukung teknologi analog, mulai terasa ketinggalan zaman. Demokrasi liberal berhasil mendamaikan kaum proletar dan borjuis, kaum beriman dan ateis, warga asli dan pendatang dengan menjanjikan masing-masing akan mendapat kue ekonomi. Dengan pertumbuhan ekonomi pasca era revolusi industri hal itu mungkin, lapangan kerja yang memerlukan tenaga dan pikiran manusia tersedia. 

Namun dengan adanya teknologi cerdas AI, infotek, biotek dan kecerdasan buatan, membuat banyak lapangan kerja hilang. Tenaga dan pikiran manusia mulai tersingkir. Bukan saja tenaga manusia digantikan robot, juga keahlian kognitif (pikiran) manusia juga digantikan. Banyaknya bidang kerja yang hilang, membuat manusia kehilangan nilai ekonominya. Tinggal soal waktu, manusia akan kehilangan kekuatan politiknya. Teknologi cerdas yang sudah mengambil alih pekerjaan manusia (ekonomi), juga akan menyingkirkan manusia dari politik. Karena kemampuan  AI mengarahkan dan memonitor pikiran. 

Kecerdasan buatan, info-teknologi dan bio-teknologi di abad 21, masih menurut Yuval, berpotensi memunculkan “kelas manusia tak berguna” (useless class). Berkebalikan dengan revolusi industri abad 18 yang melahirkan “kelas pekerja”. Yuval memperkirakan AI akan membuat demokrasi liberal runtuh, karena keberhasilan menggiring manusia menjadi “boneka teknologi”. Contoh paling aktual adalah kemenangan Donald Trump pada 2016. Trump menang, antara lain, dengan dukungan rekayasa tim Cambridge Analytica. Mereka memainkan algoritma untuk mempengaruhi dan memanipulasi preferensi pemilih. Dengan mengakuisisi data 50 juta pemilik akun Facebook. 

Kecerdasan buatan adalah teknologi yang belum pernah ada presedennya. Sebagian ilmuwan mengkhawatirkan perkembangan AI super-cerdas yang sepertinya akan mengontrol banyak aspek hidup manusia. Tokoh seperti Stephen Hawking, Bill Gates dan Elon Musk mengingatkan ancaman AI bagi manusia. Hawking bersama sejumlah saintis menulis artikel di Independent. Menyebut AI sebagai ‘Worst Mistake in History.’ Keberhasilan menciptakan AI merupakan momen terbesar dalam sejarah peradaban manusia. Namun, mungkin juga momen terakhir, kecuali manusia yakin mampu mengontrolnya. 

Kekhawatiran pada teknologi AI sebenarnya cerminan kekhawatiran pada manusia sendiri. AI bisa menjadi teknologi yang berguna atau berbahaya tergantung pada bagaimana manusia memprogramnya sejak awal. Persoalan bukan pada AI itu sendiri, melainkan pada manusia yang merekayasa dan menggunakannya. Di tangan kekuasaan otoriter, AI jelas menjadi teknologi berbahaya.

Misalnya teknologi monitoring (surveillance). Sejumlah negara, termasuk negara demokrasi, telah menerapkan sistem pemantauan untuk memonitor perilaku warganya. China bahkan menerapkan sistem social rating, sebagai cara memonitor dan mengevaluasi perilaku warganya. Ini bukan lagi kisah novel atau film science-fiction, seperti kisah novel George Orwell “1984”, yang menggambarkan ketika negara menjadi Big Brother.

Aktivitas hidup sehari-hari warga China diberi nilai dan dievaluasi melalui program Social Credit. Program “pemurnian masyarakat” ini memberi imbalan (kredit) bagi warga yang patuh dan menghukum yang tidak patuh. Cara kerjanya mirip penilaian kredit dalam dunia finansial, jika kredit seseorang buruk maka ia tidak akan mendapat fasilitas layanan. Program penilaian kredit sosial (rating system) mulai diterapkan pada 2013, dengan uji coba awal di 30 kota. Dan sejak 2020 diterapkan di seluruh wilayah China. 

Pemerintahan Partai Komunis China melacak perilaku warga dari urusan merokok, meludah, melanggar lalu lintas, hingga sikap sopan-santun di tempat umum. Jika nilai (score) ratingnya buruk, maka warga tersebut akan dihukum. Misalnya, dipersulit untuk membeli tiket perjalanan atau membeli apartemen. Seorang jurnalis tidak bisa membeli tiket pesawat secara online, dan justru mendapat peringatan larangan terbang karena nilai score sosialnya rendah (dinilai untrustworthy). Ia diminta ke pengadilan untuk mengajukan permintaan maaf, atas sejumlah postingan kritis terhadap pemerintah di media sosial. Sedikitnya 23 juta warga China masuk daftar “tidak dipercaya”, sehingga dilarang membeli tiket perjalanan.  

Pemerintah Komunis China mengumpulkan data perilaku warga yang terekam di wilayah publik dan privat, seperti aktivitas online dan media sosial. Sebanyak 200 juta kamera pemantau (CCTV) dipasang untuk menjalankan program kredit sosial ini. Upaya memonitor warga melalui program kredit sosial model China ini bakal ditiru oleh banyak negara, karena efektif untuk memaksakan kepatuhan. Kombinasi rejim represif dengan dilengkapi teknologi informasi pintar jelas mengancam demokrasi dan membahayakan masyarakat terbuka.

Jika China memakai teknologi pemantau untuk mengontrol warganya, Israel menggunakannya untuk warga negara lain. Sistem monitoring dipakai di wilayah yang diduduki Israel di Pantai Barat. Warga Palestina yang melakukan panggilan telepon, posting di media sosial, atau melakukan perjalanan lintas kota selalu dimonitor oleh mikrofon, kamera, drones dan aplikasi mata-mata (spy software). Data pantauan itu dianalisis otoritas Israel dengan algoritma untuk mengantisipasi aksi yang mereka kategorikan sebagai “potensi ancaman warga Palestina.”  

Menurut Yuval Noah Harari perbedaan utama kediktatoran dengan demokrasi bukan soal etika kekuasaan, melainkan soal sistem pemrosesan data. Sistem demokrasi mendistribusikan kekuasaan ke berbagai personel dan lembaga untuk memproses informasi dan mengambil keputusan. Sedangkan keditaktoran memusatkan informasi dan kekuasaan pada satu orang atau satu institusi. 

Era informasi abad 20, membuat kediktatoran tidak efisien. Dengan teknologi yang ada saat itu, tidak ada lembaga tunggal atau individu yang mampu memproses banjir informasi, Berakibat salahnya pengambilan keputusan. Salah satu penyebab tumbangnya kediktatoran Uni Sovyet adalah sering salah mengambil keputusan, akibat gagal mengolah timbunan data dan informasi. Teknologi analog saat itu belum mampu memproses data dengan cepat dan akurat.

Namun AI akan mengubah situasi itu. Bukan mustahil rejim kediktatoran masif ala Uni Sovyet bisa muncul. Dengan AI, problem memproses akumulasi data yang begitu besar mudah ditangani, dan bisa disentralisasi. Dengan sentralisasi pemrosesan data, pemusatan pengambilan keputusan bisa lebih efisien. Pendistribusian wewenang untuk mengolah informasi dan pendelegasian pengambilan keputusan, sebagai karakter sistem demokrasi, tidak lagi diperlukan. Teknologi AI bisa melakukan kedua hal itu dengan baik. Pemusatan kekuasaan dan sentralisasi pengolahan data informasi akan menjadi kecenderungan kekuasaan abad 21.

Deepfake, Kiamat Informasi?

Mesin cerdas AI yang berjejaring, tak pelak, akan menjadi fitur utama pemrosesan informasi dan pengambilan keputusan dan kerja birokrasi di abad 21. Sama seperti robot menggantikan tenaga manusia di pabrik pada abad 20 (mesin mampu bekerja lebih cepat, akurat dan tanpa tuntutan). Otoritas pengambilan keputusan, berangsur-angsur, juga akan didelegasikan ke mesin. Karena mesin bekerja tanpa mood emosi perasaan, sehingga lebih bisa dipercaya dan diandalkan. 

Dengan melimpahkan pengambilan keputusan pada mesin, berakibat manusia sedikit demi sedikit akan kehilangan kemampuan untuk mengambil keputusan. Ketergantungan pada mesin menjadi niscaya, karena mesin memang jauh lebih kompeten ketimbang manusia. Situasi ini sudah mulai terjadi lima tahun terakhir. Kita mempercayakan pencarian informasi, lokasi, dan jawaban atas berbagai pertanyaan pada Google. 

Kita mulai meminta atau mengikuti arahan AI untuk urusan asuransi, kasus hukum, dan pertanyaan soal kesehatan. Kita mempercayakan pada Netflix, Spotify atau Goodreads untuk memutuskan film apa yang akan kita tonton, musik apa yang ingin kita dengar, serta buku apa yang sebaiknya dibaca. Ketergantungan manusia pada AI akan terus berlanjut, dari soal elementer sampai hal penting (sebagaimana ketergantungan kita pada kalkulator dan komputer saat ini)

Yang paling mengkhawatirkan dan perlu diwaspadai, mesin AI kini sudah sedemikian rupa pintar memanipulasi. Melalui teknologi deepfakes, kita tidak lagi bisa membedakan antara yang yang nyata atau tidak, fakta atau palsu. Deepfakes bukan cuma akan mengancam demokrasi, karena kemampuannya memanipulasi pemilih, memodifikasi data, dan menyesatkan informasi. Dalam istilah wartawan investigasi Nina Schick, deepfakes akan membawa situasi mengarah ke “kiamat informasi” (infocalypse). 

Dalam buku Deep Fakes: The Coming Infocalypse (2020) Nina Schick menguraikan konsekuensi politik dari kiamat informasi pada dua aspek: keamanan nasional dan kepercayaan publik pada politik. Bagaimana deepfakes akan digunakan untuk mengintimidasi, membungkam, atau menekan, dengan cara memalsukan informasi. Dan siapkah kita menghadapi situasi yang benar-benar baru ini? 

Misinformasi, disinformasi, hoax, fakenews dalam teks dan visual sudah cukup buruk lima tahun terakhir, namun deepfakes mampu memanipulasi audio dan video sedemikian rupa sehingga sulit dilacak keasliannya. Dan ketika produk deepfakes terakumulasi maka yang terjadi adalah “kiamat informasi”. Maraknya informasi palsu yang dibuat untuk membelah atau mengadu domba pemilih menjelang pemilu, untuk mempertajam politik partisan. 

Bahaya nyata deepfakes adalah teknologi yang pintar untuk memutarbalikkan kebenaran, mencuri data, menghancurkan reputasi, serta menjebak untuk menipu. Kiamat informasi terjadi ketika deepfakes semakin memperdalam polarisasi akibat sulitnya memilah informasi dengan disinformasi dan misinformasi, fakta dengan fiksi. Deepfakes bakal merajalela bersamaan dengan matinya ekspertise, melemahnya media tradisional serta distrus pada sumber informasi resmi. Deepfake akan menjadi medium utama alat propaganda dan perang informasi untuk penaklukan politik.

Menyelamatkan Demokrasi

Demokrasi, dengan segala kontradiksi dan kekuarangannya, tetap merupakan sistem politik terbaik untuk mengatur politik. Prinsip kebebasan, kontrol publik, kolegialitas dan non-hirarkis membuat demokrasi selalu bisa melakukan swa-koreksi. Demokrasi juga sarana efektif untuk membangun masyarakat madani (civil society). Untuk memastikan tidak adanya kekuatan hegemonik dalam bentuk apapun. Termasuk kekuatan teknologi.    

Transformasi teknologi informasi, pada dua dekade awal abad 21, belum ada presedennya dalam sejarah demokrasi. Berkembangnya korporasi teknologi raksasa (seperti Amazon, Apple, Facebook, Google dan Twitter), makin mendominasi dunia informasi. Bisnis utama mereka bukan menjual iklan, namun menjerat atensi kita, untuk tujuan mengakumulasi data. Kita bukannya konsumen, melainkan produk mereka. Mereka bahkan mulai merambah bisnis baru, bio-teknologi, menggabungkannya dengan teknologi informasi.

Penggabungan info-tek dengan bio-tek akan melipatgandakan kekuasaan mereka. Bukan cuma sebagai kekuatan ekonomi, melainkan juga kekuatan politik. Mereka bukan hanya mampu mengontrol informasi dan komunikasi, melainkan juga manusianya. Mereka mendominasi penyebaran informasi, menguasai data ratusan juta hingga miliaran manusia, dengan platform yang berpotensi bisa dipakai untuk mobilisasi politik. Kekuasaan yang berpotensi mengancam demokrasi.

Potensi penyalahgunaan platform internet musti diwaspadai. Pemerintah perlu menerapkan aturan anti-trust dan anti-monopoli untuk mengontrol kekuatan korporasi teknologi agar tidak menguasai akses komunikasi dan informasi publik, dan memakainya menjadi kekuatan politik. Korporasi Teknologi dan aplikasi platformnya perlu segera diatur agar tidak disalahgunakan untuk merongrong demokrasi. 

Di Eropa dan Amerika wacana untuk membatasi ekspansi platform seperti Facebook atau Google sudah dimulai. Sejumlah investigasi terhadap kemungkinan penyalahgunaan telah diinisiasi, misalnya terkait skandal Cambridge Analytica (Facebook). Termasuk sejumlah gugatan anti-trust pada Google. Dua raksasa teknologi ini, ada yang mengusulkan, perlu dipecah entitasnya agar tidak semakin mendominasi dan memonopoli dalam mengeksploitasi data. 

Selain itu, pengelola platform media sosial juga perlu diatur untuk menerapkan swa-regulasi, dalam menjaga gawang informasi. Agar lebih peka dan ketat dalam mengkurasi informasi, khususnya materi berbahaya. Prinsip demokrasi marketplace of ideas yang memastikan kompetisi bebas tapi terukur perlu ditegakkan. Memastikan tidak terjadinya monopoli akses dan saluran informasi di tangan segelintir korporasi. Sembari tetap mempertahankan kebebasan berekspresi, agar tidak menjadi medium ekpresi kebencian dan ekstremisme. Sosial media perlu moderasi dan kurasi informasi oleh manusia, bukan hanya sepenuhnya diserahkan pada otomatisasi mesin cerdas AI. 

Teknologi secara inheren “bebas nilai”, tidak bersifat baik atau buruk. Yang perlu dikhawatirkan bukan teknologi itu sendiri, melainkan manusia yang memiliki kekuatan, kekuasaan dan niat buruk. Memastikan dan mencegah mereka tidak menguasai akses untuk menyalahgunakan teknologi. 

Perlu upaya bersama untuk mencegah konsentrasi kekuatan dan kekuasaan di tangan segelintir elite. Perlu dibuat aturan tentang kepemilikan data. Di era monarki kuno, tanah dan wilayah merupakan aset terpenting, politik adalah urusan soal kontrol tanah. Di era demokrasi liberal mesin dan industri menggantikan tanah, politik adalah soal kontrol sarana produksi. Pada abad 21, data akan lebih penting dari tanah dan industri. Politik adalah urusan soal mengontrol data. Masa depan demokrasi ada di pengolahan data.

Setahun terakhir negara sedunia berperang melawan Pandemi Covid-19. “Perang dunia melawan virus” bisa menyatukan manusia. Manusia dari berbagai bangsa bisa bekerjasama bahu-membahu untuk melawan virus. Mustinya semangat yang sama bisa dilakukan untuk memerangi hasrat manusia menyalahgunakan teknologi untuk tujuan kekuasaan dan ketamakan. 

Memperjuangkan dan menjaga demokrasi tetap terkonsolidasi. Sebagai cara manusia mengorganisasi diri, untuk menegakkan kedaulatan dan martabat kemanusiaan, serta memastikan, kiamat informasi tidak terjadi. 

(Baca Juga Bagian Pertamanya: Demokrasi Digital dan Kiamat Informasi (Bagian 1))

SHARE ON
close

PENALAR

PENALAR TERPRODUKTIF