HARGA YANG HARUS DIBAYAR

_

Terlalu mengandalkan teknologi baru dapat menyebabkan kita mengorbankan individualitas dan otonomi kita kepada algoritma cerdas.

_

Masa depan kita yang berteknologi maju tentu mengandung beberapa kemungkinan menarik. Namun, itu juga memegang risiko serius. Salah satu yang paling penting adalah bahwa kita akan semakin menyerahkan kendali hidup kita kepada algoritma dan program komputer yang tahu lebih banyak tentang kehidupan kita daripada yang kita sendiri ketahui.

Menggunakan teknologi untuk meng-upgrade kehidupan kita dan meng-upgrade pikiran dan tubuh kita membutuhkan penyerahan tanggung jawab yang lebih banyak kepada algoritma. Ini memiliki potensi untuk meninggalkan kita sesuai dengan program yang kita rancang untuk membantu kita. Pertimbangkan teknologi yang mungkin kita gunakan untuk meningkatkan kesehatan kita atau “menipu malaikat maut”: perangkat pemantauan biometrik yang merekam detak jantung kita, gula darah, dan detail lainnya semakin populer di pasar terbuka, dan Google sudah mengusulkan untuk mengembangkan basis data tentang informasi real-time kesehatan yang dapat memberikan peringatan dini terhadap kondisi yang mematikan.

Di luar ini, para ilmuwan di University of Virginia telah berhasil mengujicoba pankreas buatan yang dioperasikan dengan smartphone yang dapat memantau dan mengatur kadar insulin dalam darah. Sementara perkembangan semacam itu memiliki potensi fantastis, mereka membawa risiko bahwa kita akan menyerahkan semua keputusan sulit tentang kesehatan kita kepada algoritma cerdas yang memahami tubuh kita lebih baik daripada yang kita sendiri pahami. Ini bisa menyelamatkan kehidupan kita, tetapi bisa juga memberi mereka otonomi dan kebebasan untuk membuat pilihan tentang kehidupan kita sendiri.

Dan hilangnya kontrol yang sama juga dapat terjadi pada teknologi yang digunakan untuk meng-upgrade kebahagiaan. Misalnya, meski mungkin aman mengandalkan algoritma untuk merekomendasikan buku atau film kepada kita, berapa lama sebelum kita mengizinkan pemahaman superior mereka tentang kita untuk memilihkan pasangan romantis buat kita, atau memutuskan bagaimana kita “benar-benar” ingin memberikan hak suara berdasarkan pengetahuan ensiklopedis tentang pandangan politik kita?

Teknologi untuk melakukan hal-hal seperti itu tidak jauh: misalnya, meliputi kesehatan dan kebahagiaan, sebuah studi oleh para peneliti dari University of Cambridge dan Stanford Business School menemukan bahwa algoritma Facebook sudah begitu canggih sehingga mereka dapat mendeteksi kondisi kesehatan mental yang bahkan tidak kita sadari. Kemampuan tersebut dapat memiliki aplikasi positif, tetapi mereka juga dapat mengambil keputusan penting dari kita dan meninggalkan informasi sensitif di tangan perusahaan swasta, serta di tangan siapa saja yang dapat membelinya dari perusahaan-perusahaan ini atau yang dapat mencurinya dari mereka.

Membiarkan algoritma membentuk hidup kita dengan cara yang semakin akrab dan signifikan dapat membawa banyak manfaat, tetapi itu juga dapat secara mendasar melemahkan gagasan bahwa kita adalah individu otonom yang mampu mengetahui diri kita sendiri dan membuat pilihan kita sendiri. Pada akhirnya, dorongan untuk meningkatkan kehidupan manusia dan kebahagiaan manusia ini juga bisa merugikan kita.

#

KARENA LEBIH BANYAK PEKERJAAN DILAKUKAN OLEH KOMPUTER DAN ROBOT, MANUSIA YANG TIDAK DISEMPURNAKAN SECARA TEKNOLOGI MUNGKIN MENJADI USANG

Ketika teknologi menjadi lebih canggih, robot dan kecerdasan artifisial akan menyelesaikan proporsi tugas yang saat ini dilakukan oleh manusia. Ini dapat mencapai tahap di mana manusia tidak lagi mampu memberikan kontribusi kepada masyarakat tanpa di-upgrade secara teknologi.

Meskipun inovasi sering membawa kemakmuran, itu juga menyebabkan pengangguran sementara dan jangka panjang ketika otomatisasi menggantikan tenaga kerja buruh. Ini mungkin mendekati puncak baru saat teknologi robot dan teknologi kecerdasan artifisial semakin maju. Misalnya, pada tahun 2016, Foxconn, pemasok ke Samsung dan Apple, menggantikan 60.000 pekerja pabrik dengan robot. Dan para ahli menyarankan ini mungkin menjadi bagian dari tren yang berbeda: sebuah studi oleh Boston Consulting Group bahkan menunjukkan bahwa robot akan melakukan sebanyak 25 persen dari semua tugas di industri manufaktur pada tahun 2025.

Pekerjaan kerah putih semakin terancam juga. Lagi pula, banyak tugas yang dilakukan oleh pekerja kantor, bankir, pengacara, dan bahkan dokter dapat dicapai lebih cepat dan dengan akurasi yang lebih besar dengan algoritma pemrosesan data yang tidak membutuhkan liburan, cuti sakit, atau istirahat makan — dan mereka juga tidak mengharapkan gaji setiap bulan. Bahkan pengejaran artistik seperti menyusun simfoni atau menulis puisi telah diselesaikan oleh program komputer dengan kualitas tinggi sehingga mereka tidak dapat dibedakan dari karya manusia. Bahkan, penelitian terbaru dari Universitas Oxford memprediksi bahwa 35 persen pekerjaan di Inggris akan terancam oleh “robotisasi” pada 2035.

Semua ini menimbulkan prospek yang memprihatinkan bahwa hanya manusia yang disempurnakan dengan teknologi yang akan mampu bersaing dengan sistem komputer kita yang semakin efisien. Dan karena hanya segelintir orang yang mampu membeli perangkat tambahan seperti itu, ini dapat secara drastis meningkatkan kesenjangan sosial antara kaya dan miskin, bahkan, menciptakan “kesenjangan biologis” baru yang terdiri dari elit baru kelas atas “manusia super” dengan kemampuan dan kekuatan seperti tuhan dan massa kelas bawah yang tidak berguna secara ekonomi (Homo useless).

Jika ini terjadi, akankah sistem sosial kita benar-benar menemukan tujuan bagi umat manusia lainnya? Atau, karena semakin banyaknya pekerjaan dilakukan oleh kecerdasan artifisial, yang diawasi oleh elit kecil yang berteknologi maju, akankah kita hanya dilihat sebagai sesuatu yang mubazir: kelas bawah yang ketinggalan zaman yang diperlakukan oleh kelas atas yang sudah dimodifikasi dan ditingkatkan – seperti yang saat ini kita lakukan pada hewan lainnya yang lebih rendah dan “kurang berkembang”?

Kemajuan ilmiah dan kemampuan teknologi memberi kita banyak peluang besar, tetapi itu juga bisa menyebabkan kesulitan besar bagi umat manusia. Kemampuan kita yang semakin besar untuk meningkatkan tubuh kita, memperpanjang hidup kita, dan menambah pikiran kita membuka kemungkinan bahwa, di masa depan, siapa saja yang tidak mampu “meng-upgrade” diri mereka sendiri akan berhenti menjadi relevan dengan masyarakat.