Bagaimana AI dapat mengancam manusia?

Bagaimana AI dapat mengancam manusia?

Ahli ilmu saraf dan filsuf Sam Harris menggambarkan sebuah skenario yang mengerikan dan mungkin akan terjadi. Disini akan dijelaskan bagaimana keuntungan yang dibuat dalam kecerdasan buatan, pada akhirnya bisa menghancurkan umat manusia. Dan yang sebenarnya, ini masih sangat sulit untuk melihat bagaimana mereka tidak akan menghancurkan atau mengilhami manusia untuk menghancurkan diri kita sendiri.

Namun, menurut mereka hal ini sangat menyenangkan untuk dipikirkan. Dan respon ini adalah bagian dari masalah.

Seolah berdiri di depan dua pintu

Salah satu hal yang paling mengkhawatirkan perkembangan AI pada saat ini adalah bahwa kita tampaknya tidak mampu mengumpulkan respons emosional yang tepat terhadap bahaya yang terbentang di depan.

Mengingat betapa berharganya kecerdasan dan otomasi, mereka akan terus memperbaiki teknologinya selagi masih bisa. Apa yang bisa menghentikan kita melakukan hal ini? Perang nuklir skala penuh? Sebuah pandemi global? Dampak asteroid? Justin Bieber menjadi presiden Amerika Serikat? Intinya adalah sesuatu harus menghancurkan peradaban seperti yang kita ketahui.

Anda harus membayangkan betapa buruknya hal itu untuk mencegah kita membuat perbaikan dalam teknologi kita secara permanen, generasi demi generasi.

Satu-satunya alternatif adalah kami terus memperbaiki mesin cerdas ini dari tahun ke tahun. Pada titik tertentu, mereka akan membangun mesin yang lebih pintar dari manusia dan begitu memiliki mesin yang lebih pintar dari kita, mereka akan mulai memperbaiki diri.

Dan kemudian mereka mempertaruhkan matematikawan IJ Good yang disebut “ledakan intelijen”, bahwa prosesnya bisa mereka loloskan. Bukannya mesin ini akan menjadi spontan jahat. Perhatiannya benar-benar, bahwa ini akan membangun mesin yang jauh lebih kompeten dari kita, sehingga perbedaan menjadi lebih sedikit antara tujuan mereka dan tujuan kita sendiri yang dapat menghancurkan manusia.

Serangga abad ke-21

Pikirkan saja bagaimana kita berhubungan dengan semut. Ini tidak membenci mereka. Ini juga tidak menyimpang dari cara tersebut untuk menyakiti mereka. Sebenarnya, terkadang mereka berusaha keras untuk tidak menyakitinya. Kita menginjak mereka di trotoar.

Tapi kapan pun kehadiran mereka, benar-benar bertentangan dengan salah satu tujuan mereka, katakanlah saat membangun sebuah bangunan, kita memusnahkannya tanpa keraguan. Perhatiannya adalah suatu hari nanti kita akan membangun mesin yang entah itu sadar atau tidak, ini bisa memperlakukan kita dengan hal yang sama.

Intelijen adalah masalah pengolahan informasi dalam sistem fisik. Mereka telah membangun kecerdasan yang sempit ke dalam mesin dan banyak dari mesin ini tampil pada tingkat kecerdasan super. Intelijen adalah sumber dari segala sesuatu yang dapat dihargai atau diperlukan untuk melindungi semua hal yang sangat penting. Ini adalah sumber yang paling berharga. Makanya mereka ingin melakukan ini. Mereka memiliki masalah yang sangat perlu untuk segera diselesaikan.

Mereka melakukan ini, karena ingin menyembuhkan penyakit seperti Alzheimer dan kanker. Mereka ingin memahami sistem ekonomi dan ingin memperbaiki sains iklim kita. Jika ini bisa, maka mereka akan melakukannya. Mereka tidak berdiri di atas puncak kecerdasan, atau di manapun yang berdekatan dengan itu. Ini benar-benar wawasan yang sangat penting. Inilah yang membuat situasi kita jadi penting dan inilah yang membuat intuisi tentang risiko jadi tidak bisa diandalkan.

Tampaknya sangat mungkin, spektrum kecerdasan meluas jauh lebih jauh daripada yang kita bayangkan untuk sekarang ini dan jika membangun mesin yang lebih cerdas daripada manusia, mereka kemungkinan besar akan mengeksplorasi spektrum ini dengan cara yang tidak dapat dibayangkan dan melampaui kita dengan cara yang tidak bisa dibayangkan.

Warp speed intelligence

Bayangkan jika kita membangun AI superintelligent yang tidak lebih pintar dari tim peneliti rata-ratanya di Stanford atau MIT. Nah, sirkuit elektronik berfungsi sekitar satu juta kali lebih cepat dari pada yang biokimia, jadi mesin ini harus berpikir sejuta kali lebih cepat dari pada pikiran yang telah menciptakannya.

Jadi Anda akan melatih dan mengaturnya untuk berjalan selama seminggu dan itu akan melakukan 20.000 tahun kerja intelektual tingkat manusia, setiap minggunya. Bagaimana kita bisa mengerti, apalagi membatasi, pemikiran yang membuat kemajuan seperti ini?

  • Skenario kasus terbaik

Hal lain yang mengkhawatirkan yaitu skenario kasus terbaik. Mereka menemukan sebuah desain superintelligent AI yang tidak memiliki masalah keamanan. Mereka memiliki desain yang sempurna untuk pertama kalinya. Seolah-olah mereka telah diberi nubuat yang berperilaku persis seperti yang diinginkan. Nah, mesin ini akan menjadi alat penghemat tenaga kerja yang sempurna.

Jadi, kita berbicara tentang akhir dari kesibukan manusia. Kita juga berbicara tentang akhir dari sebagian besar karya intelektual. Nah, itu mungkin terdengar bagus, tapi tanyakan pada diri Anda apa yang akan terjadi di bawah tatanan ekonomi dan politik kita saat ini? Tampaknya kita akan menyaksikan tingkat ketidaksetaraan kekayaan dan pengangguran yang belum pernah kita lihat sebelumnya.

Tidak ada kemauan untuk segera menyerahkan kekayaan baru ini ke pelayanan semua umat manusia, beberapa triliunaris bisa menghiasi sampul majalah bisnis anda, untuk sementara seluruh dunia bebas untuk kelaparan.

Perlombaan senjata besar berikutnya

Apa yang akan dilakukan orang-orang Rusia atau China jika mereka mendengar bahwa beberapa perusahaan di Silicon Valley hendak menyebarkan AI pengawas? Mesin ini mampu berperang, baik terestrial atau cyber, dengan kekuatan yang belum pernah ada sebelumnya. Ini adalah skenario semua pemenang. Enam bulan kedepan kompetisi di sini adalah 500.000 untuk tahun  depannya. Jadi nampaknya hanya rumor semacam terobosan ini yang bisa menyebabkan spesies kita mengamuk.

Pada saat ini, salah satu hal yang paling menakutkan adalah hal-hal yang menurut peneliti AI ketika mereka ingin meyakinkannya. Dan alasan paling umum diberitahu untuk tidak khawatir dengan waktu. Ini semua sudah lama sekali, tidakkah kamu tahu? Ini mungkin 50 atau 100 tahun lagi. Sepertinya tidak ada yang memperhatikan bahwa referensi horison waktu adalah total non sequitur.

Jika kecerdasan hanya masalah pengolahan informasi dan mereka akan terus memperbaiki mesin tersebut, ini akan menghasilkan beberapa bentuk superinteligen. Dan kita tidak tahu berapa lama waktu yang dibutuhkan untuk menciptakan kondisi supaya melakukannya dengan aman. Dan jika Anda tidak menyadarinya, bahwa 50 tahun kedepan tidak akan seperti dulu lagi.

Namun, 50 tahun bukanlah waktu yang tepat untuk memenuhi salah satu tantangan terbesar yang akan dihadapi spesies seperti kita.

Teknologi direct-to-brain

Alasan lain mengapa kita diberitahu untuk tidak khawatir adalah bahwa mesin-mesin ini tidak dapat membantu, namun berbagi orang menganggap mereka hanya memanfaatkan kita saja. Mereka akan dicangkokkan ke otak kita dan pada dasarnya kita akan menjadi sistem limbik mereka. Luangkan waktu untuk mempertimbangkan bahwa jalan yang paling aman dan paling bijaksana, yang disarankan adalah menanamkan teknologi ini secara langsung ke otak kita.

Sekarang, ini mungkin merupakan jalur teraman dan paling bijaksana, tapi biasanya kekhawatiran keamanan seseorang tentang teknologi harus cukup banyak yang harus dikerjakan sebelum Anda memasukkannya ke dalam kepala Anda.

Namun, tidak memiliki solusi untuk masalah ini, selain merekomendasikan agar lebih banyak dari anda semua untuk ikut memikirkannya. Mereka berpikir ini butuh sesuatu seperti Proyek Manhattan tentang topik kecerdasan buatan. Bukan untuk membangunnya. Tapi untuk memahami bagaimana menghindari perlombaan senjata dan membangunnya dengan cara yang selaras dengan kepentingan kita.

Ketika Anda berbicara tentang AI pengawas yang bisa membuat perubahan pada dirinya sendiri, nampaknya kita hanya memiliki satu kesempatan untuk mendapatkan kondisi awal dengan benar dan bahkan saat itu kita perlu menyerap konsekuensi ekonomi dan politik untuk mewujudkannya. Mereka harus mengakui bahwa ini sedang dalam proses untu membangunnya. Sekarang untuk memastikan itu semua dengan tepat adalah hanya Tuhan, karena hanya dialah yang bisa untuk menjalankan semuanya.