Takutnya Kami Akan Kemajuan Teknologi Kecerdasan Buatan

Lingkarannews.com Teknologi- Tahun yang lalu saya minum kopi bersama seorang teman yang menjalankan startup. Dia baru saja berusia 40 tahun. Ayahnya sakit, punggungnya sakit, dan dia merasa terbebani oleh kehidupan. “Jangan menertawakan saya,” katanya,

“tapi saya mengandalkan singularitasnya.”

Teman saya bekerja di bidang teknologi; Dia telah melihat perubahan yang dilakukan oleh mikroprosesor dan jaringan yang lebih cepat. Bukan suatu langkah baginya untuk percaya bahwa sebelum dia diliputi oleh umur yang semakin tua, kecerdasan mesin akan melebihi kemampuan manusia-momen yang futuris sebut sebagai singularitas. Superintelligence yang bagus bisa menganalisis kode genetik manusia dengan kecepatan tinggi dan membuka rahasia itu untuk mendapatkan gen pemuda abadi.

Paling tidak, mungkin tahu bagaimana memperbaiki punggung Anda.

Tapi bagaimana kalau tidak begitu baik? Nick Bostrom, seorang filsuf yang mengajar Future of Humanity Institute di University of Oxford, menggambarkan skenario berikut dalam bukunya Superintelligence, yang telah mendorong banyak perdebatan tentang masa depan kecerdasan buatan.

Bayangkan sebuah mesin yang bisa kita sebut “maximizer klip kertas” -yaitu, sebuah mesin yang diprogram untuk membuat sebanyak mungkin klip kertas. Sekarang bayangkan mesin ini entah bagaimana menjadi sangat cerdas. Dengan tujuannya, barangkali kemudian memutuskan untuk membuat mesin pembuatan kertas-klip baru yang lebih efisien-sampai, gaya King Midas, semuanya telah mengubah segalanya menjadi klip kertas.

Jangan khawatir, Anda bisa mengatakan: Anda bisa memprogramnya untuk menghasilkan sejuta klip kertas dan berhenti. Tapi bagaimana jika itu membuat klip kertas dan kemudian memutuskan untuk memeriksa pekerjaannya? Apakah itu dihitung dengan benar? Perlu menjadi lebih pintar untuk memastikannya.

Mesin pengawas memegang beberapa bahan baku mentah yang belum pernah ditemukan (menyebutnya “computronium”) dan menggunakannya untuk memeriksa setiap keraguan. Tapi setiap keraguan baru menghasilkan keraguan digital lebih lanjut, dan seterusnya, sampai seluruh bumi diubah menjadi computronium. Kecuali untuk jutaan klip kertas.

Bostrom tidak percaya bahwa maximizer klip kertas akan menjadi tepat; Ini adalah eksperimen pemikiran, yang dirancang untuk menunjukkan bagaimana desain sistem yang hati-hati bisa gagal mengendalikan kecerdasan mesin yang ekstrem.

Tapi dia yakin superinteligen bisa muncul, dan meski bisa menjadi hebat, dia pikir itu juga bisa memutuskan bahwa dia tidak membutuhkan manusia. Atau melakukan sejumlah hal lain yang menghancurkan dunia. Judul bab 8 adalah: “Apakah kehancuran hasil standar?”

Jika ini terdengar tidak masuk akal bagi Anda, Anda tidak sendiri. Kritikus seperti perintis robotika Rodney Brooks mengatakan bahwa orang yang takut pada AI yang melarikan diri salah paham tentang apa yang komputer lakukan saat kita mengatakan bahwa mereka berpikir atau menjadi pintar.

Dari perspektif ini, dugaan superinteligen Bostrom menggambarkan jauh di masa depan dan mungkin tidak mungkin.

Namun banyak orang yang pintar dan bijaksana setuju dengan Bostrom dan khawatir sekarang. Mengapa?

Pertanyaan “Bisakah sebuah mesin berpikir?” Telah membayangi ilmu komputer dari permulaannya. Alan Turing mengusulkan pada tahun 1950 bahwa sebuah mesin bisa diajarkan seperti anak kecil; John McCarthy, penemu bahasa pemrograman LISP, menciptakan istilah “kecerdasan buatan” pada tahun 1955.

Saat para peneliti AI pada tahun 1960an dan 1970 mulai menggunakan komputer untuk mengenali gambar, menerjemahkan antara bahasa, dan memahami instruksi dalam bahasa normal dan bukan hanya kode, Gagasan bahwa komputer pada akhirnya akan mengembangkan kemampuan untuk berbicara dan berpikir – dan dengan demikian melakukan kejahatan-menggelegak ke dalam budaya mainstream.

Bahkan di luar hal yang dirujuk dari tahun 2001: A Space Odyssey, film 1970 Colossus: The Forbin Project menampilkan komputer mainframe berkedip besar yang membawa dunia ke ambang kehancuran nuklir; Tema serupa dieksplorasi 13 tahun kemudian di WarGames. The androids of 1973’s Westworld menjadi gila dan mulai membunuh.

Ketika penelitian AI jatuh dan jauh dari sasarannya yang tinggi, dana mengering menjadi tetesan, memulai “musim dingin flu” yang panjang. Meski begitu, obor mesin cerdas itu dibawa pada tahun 1980an dan 90-an oleh penulis fiksi ilmiah seperti Vernor, yang mempopulerkan konsep singularitas; Peneliti seperti ahli robot Hans Moravec, ahli dalam penglihatan komputer; Dan insinyur / pengusaha Ray Kurzweil, penulis buku The Age of Spiritual Machines tahun 1999.

Sedangkan Turing telah mengemukakan kecerdasan mirip manusiawi, Vinge, Moravec, dan Kurzweil berpikir lebih besar: ketika sebuah komputer menjadi mampu secara mandiri merancang cara untuk mencapai tujuan, kemungkinan besar akan mampu melakukan introspeksi – dan dengan demikian dapat memodifikasi perangkat lunaknya dan membuat dirinya sendiri. Lebih cerdas Singkatnya, komputer seperti itu bisa mendesain perangkat kerasnya sendiri.

Seperti yang digambarkan Kurzweil, ini akan memulai era baru yang indah. Mesin seperti itu akan memiliki wawasan dan kesabaran (diukur dalam picoseconds) untuk memecahkan masalah nanoteknologi dan spaceflight yang luar biasa; Mereka akan memperbaiki kondisi manusia dan membiarkan kita mengunggah kesadaran kita ke dalam bentuk digital abadi. Kecerdasan akan menyebar ke seluruh kosmos.

Anda juga bisa menemukan kebalikan dari optimisme cerah tersebut. Stephen Hawking telah memperingatkan bahwa karena orang tidak dapat bersaing dengan AI yang maju, ia “bisa mengeja akhir dari umat manusia.” Setelah membaca Superintelligence, pengusaha Elon Musk men-tweet: “Semoga kita bukan hanya boot loader biologis. Untuk superinteligen digital. Sayangnya, itu semakin mungkin”

Musk kemudian diikuti dengan hibah senilai $ 10 juta ke Future of Life Institute. Tidak perlu bingung dengan pusat Bostrom, ini adalah sebuah organisasi yang mengatakan bahwa pihaknya “berupaya mengurangi risiko eksistensial yang dihadapi umat manusia,” yang dapat timbul “dari perkembangan kecerdasan buatan manusia.”

Tidak ada yang mengatakan bahwa ada sesuatu seperti superinteligen yang ada sekarang. Sebenarnya, kita masih tidak memiliki pendekatan yang mendekati kecerdasan buatan umum atau bahkan jalan yang jelas untuk bagaimana hal itu bisa dicapai. Kemajuan terbaru di AI, dari asisten otomatis seperti Apple Siri ke mobil tanpa driver Google, juga mengungkapkan keterbatasan teknologi yang parah; Keduanya bisa terlempar dari situasi yang belum pernah mereka hadapi sebelumnya.

Jaringan syaraf tiruan dapat belajar mengenali kucing dalam foto. Tapi mereka harus ditunjukkan ratusan ribu contoh dan masih jauh kurang akurat dalam menemukan kucing daripada anak kecil.

Di sinilah orang-orang skeptis seperti Brooks, pendiri iRobot dan Rethink Robotics, masuk bahkan jika itu mengesankan – relatif terhadap apa yang komputer terdahulu bisa kelola – agar komputer mengenali gambar kucing, mesin tidak memiliki kemauan, tidak ada Rasa apa itu kucing atau apa lagi yang terjadi dalam gambar, dan tidak ada wawasan lain yang tak terhitung jumlahnya yang dimiliki manusia.

Dalam pandangan ini, AI mungkin bisa menghasilkan mesin cerdas, tapi butuh lebih banyak pekerjaan daripada yang dibayangkan Bostrom. Dan bahkan jika itu bisa terjadi, kecerdasan tidak akan selalu mengarah pada perasaan. Ekstrapolasi dari keadaan AI hari ini untuk menyarankan agar superintelligence menjulang adalah “sebanding dengan melihat mesin pembakaran internal yang lebih efisien muncul dan melompat ke kesimpulan bahwa drive warp hanya ada di tikungan,” tulis Brooks baru-baru ini di Edge.org. “AI yang malang” tidak perlu dikhawatirkan, setidaknya, setidaknya untuk beberapa ratus tahun.

Bahkan jika kemungkinan timbulnya supervisi sangat lama, mungkin tidak bertanggung jawab untuk mengambil kesempatan itu. Satu orang yang menjadi perhatian Bostrom adalah Stuart J. Russell, seorang profesor ilmu komputer di University of California, Berkeley. Russell adalah penulisnya, dengan Peter Norvig (rekan sejawat Kurzweil di Google), Artificial Intelligence: Pendekatan Modern, yang merupakan buku teks AI standar selama dua dekade.

“Ada banyak intelektual publik yang cerdik yang tidak memiliki petunjuk,” kata Russell padaku. Dia menunjukkan bahwa AI telah berkembang pesat dalam dekade terakhir, dan sementara masyarakat umum mungkin mengerti kemajuan dalam hal Hukum Moore (komputer yang lebih cepat melakukan lebih banyak), sebenarnya pekerjaan AI baru-baru ini sangat mendasar, dengan teknik seperti pembelajaran yang mendalam meletakkan Dasar untuk komputer yang secara otomatis dapat meningkatkan pemahaman mereka tentang dunia di sekitar mereka.

Karena Google, Facebook, dan perusahaan lain secara aktif mencari untuk menciptakan mesin “belajar” yang cerdas, dia beralasan, “Saya akan mengatakan bahwa salah satu hal yang seharusnya tidak kita lakukan adalah menekan uap penuh ke depan untuk membangun superinteligen tanpa memikirkan Untuk potensi risiko.

Sepertinya sedikit gila. “Russell membuat analogi:” Ini seperti penelitian fusi. Jika Anda bertanya kepada peneliti fusi apa yang mereka lakukan, mereka mengatakan bahwa mereka mengerjakan penahanan. Jika Anda menginginkan energi tak terbatas, sebaiknya Anda menambahkan reaksi fusi. “Demikian pula, dia mengatakan, jika Anda menginginkan kecerdasan tak terbatas, Anda sebaiknya mencari cara untuk menyelaraskan komputer dengan kebutuhan manusia.

Buku Bostrom adalah proposal penelitian untuk melakukannya. Superintelligence akan menjadi seperti dewa, tapi apakah itu akan animasi dengan murka atau cinta? Terserah kita (yaitu para insinyur). Seperti orang tua, kita harus memberi anak kita seperangkat nilai. Dan bukan hanya nilai, tapi juga kepentingan terbaik umat manusia. Kami pada dasarnya memberi tahu tuhan bagaimana kami ingin diperlakukan. Bagaimana cara melanjutkan?

Bostrom sangat memikirkan gagasan dari seorang pemikir bernama Eliezer Yudkowsky, yang berbicara tentang “kemauan ekstrapolasi yang koheren” – konsensus yang berasal “diri terbaik” dari semua orang. AI akan, kami berharap, ingin memberi kami kehidupan yang kaya, bahagia, dan memuaskan: perbaiki punggung kami yang sakit dan tunjukkan cara untuk pergi ke Mars.

Dan karena manusia tidak akan pernah sepenuhnya menyetujui apa pun, terkadang kita membutuhkannya untuk memutuskannya-untuk membuat keputusan terbaik untuk kemanusiaan secara keseluruhan. Lalu, bagaimana kita memprogram nilai-nilai itu ke dalam superinteligen kita (potensial)? Matematika macam apa yang bisa mendefinisikannya? Ini adalah masalah, Bostrom percaya, bahwa peneliti harus bisa menyelesaikannya sekarang. Bostrom mengatakan itu adalah “tugas penting zaman kita.”

Bagi warga sipil, tidak ada alasan untuk kehilangan tidur karena robot yang menyeramkan. Kami tidak memiliki teknologi yang jarak dekat dengan superinteligen. Kemudian lagi, banyak perusahaan terbesar di dunia sangat diinvestasikan untuk membuat komputer mereka lebih cerdas; AI sejati akan memberi salah satu dari perusahaan ini keuntungan yang luar biasa. Mereka juga harus selaras dengan potensi kerugiannya dan mencari tahu bagaimana cara menghindarinya.

Saran yang agak lebih bernuansa ini – tanpa klaim tentang mageddon AI yang menjulang – adalah dasar sebuah surat terbuka di situs Future of Life Institute, kelompok yang mendapat sumbangan dari Musk. Alih-alih peringatan bencana eksistensial, surat tersebut meminta lebih banyak penelitian untuk memetik manfaat AI “sambil menghindari potensi jebakan.” Surat ini ditandatangani tidak hanya oleh orang luar AI seperti Hawking, Musk, dan Bostrom tetapi juga oleh ilmuwan komputer terkemuka ( Termasuk Demis Hassabis, seorang peneliti AI atas). Anda bisa melihat dari mana asalnya. Bagaimanapun, jika mereka mengembangkan kecerdasan buatan yang tidak memiliki nilai kemanusiaan terbaik, itu berarti mereka tidak cukup pintar untuk mengendalikan ciptaan mereka sendiri.(technologyreview.com)

Adityawarman @aditnamasaya

 



from Lingkaran News http://lingkarannews.com/takutnya-kami-akan-kemajuan-teknologi-kecerdasan-buatan/
via IFTTT

0 Response to "Takutnya Kami Akan Kemajuan Teknologi Kecerdasan Buatan"

Post a Comment

Komentarlah dengan kata yang baik, bijak dan jelas

close