Garry kasparov berkata AI boleh menjadikan kita 'lebih manusia'

Garry Kasparov adalah salah satu mangsa pertama revolusi automasi AI. Kehilangannya kepada Deep Blue IBM menjadikannya juara catur manusia yang pertama untuk kehilangan satu perlawanan ke komputer. Tetapi Kasparov tidak janggal; bukunya, Deep Thinking , meneroka bagaimana AI sebenarnya dapat membantu kita menjadi lebih manusia.

Cabaran sebenar, Kasparov memberitahu saya di SXSW di Austin bulan ini, adalah menjaga alat ini dari manusia yang ingin menggunakannya untuk melakukan bahaya. Dan dalam hal ini, kita mungkin sudah terlambat.

Dan Costa: Selepas kerjaya bermain catur dan bertarung Deep Blue, sejak itu anda menjadi ahli catur AI macam-macam. Bagaimanakah anda mahu orang memahami kecerdasan buatan?

Garry Kasparov: Saya harus mengakui bahawa saya tahu batas-batas ketidaktahuan saya. Itulah sebabnya saya gembira untuk membincangkan perkara-perkara di mana saya yakin tentang keahlian saya sendiri, dan saya fikir saya mempunyai pengetahuan tertentu mengenai hubungan manusia-mesin, dan saya boleh bercakap dengan beberapa pihak mengenai keputusan masa depan.

Juga, saya percaya bahawa kita masih berusia awal AI, dan kita harus membahaskan walaupun beberapa istilah. Ini mengenai semantik, ini mengenai falsafah, dan saya selalu mengatakan bahawa orang berfikir kita berada di era Windows 10, sementara kita masih lagi berada di MS-DOS.

Pada masa ini, sangat penting untuk benar-benar memahami, "Apa itu AI? Apabila kita mengatakan AI, apa maksud kita?" Kerana jika anda meminta 10 pakar mengenai AI, saya yakin anda akan mendapat 11 atau 12 jawapan. Masih ada perselisihan.

Masih ada perincian, tetapi saya fikir secara umum, kita menyedari okay, ada sekumpulan orang yang kita panggil optimis, menghadapi ramai orang ramai. Entah bagaimana, orang ramai lebih bersedia untuk menerima senario doomsayer, saya fikir ia adalah naluri kita untuk takut masa depan, yang juga menarik kerana apabila anda kembali ke 50-an dan 60-an, sci-fi sangat optimistik. Itu semua tentang kami, hanya bekerja dengan mesin.

Sekarang, apabila anda melihat 70-an, 80-an, 90-an, ia beralih kepada penglihatan dystopian. Ini mengenai terminators. Ini mengenai Matrix, dan kini genre sci-fi hampir mati kerana ia lebih banyak tentang fantasi, ini tentang sihir. Orang benar-benar takut bercakap tentang masa depan kerana kita tidak pasti apa yang akan berlaku di sana. Saya fikir kita harus sedar bahawa AI bukan sihir sihir, tetapi bukan terminator. Ia bukan merupakan utopia atau dystopia. Ia alat. Ia adalah sesuatu yang kita harus mencari jalan untuk menangani.

Ia tidak membuka pintu neraka, tetapi ia bukan syurga. Ia bukan satu penyelesaian untuk segala-galanya. Ia bukan keselamatan. Mari kita lihat isu-isu Bumi dan kebimbangan terbesar saya hari ini bukanlah tentang robot pembunuh atau beberapa jenis realiti maya yang boleh merosakkan rasa realiti kita, tetapi ia adalah mengenai pelakon yang tidak baik. Ini mengenai pengganas. Ia mengenai ruang rock menggunakan teknologi ini untuk mencederakan kami. Saya selalu mengatakan bahawa orang… mempunyai monopoli kejahatan. Itulah di mana kita perlu, saya rasa tumpuan, tetapi ia juga perlu mengenali AI boleh melakukan begitu banyak perkara hebat untuk kita kerana apa yang orang akan berkata, "Oh, AI mencipta cabaran baru. AI boleh mengambil banyak pekerjaan." Betul. Itulah yang berlaku dengan pekerjaan dalam bidang pertanian, pekerjaan dalam pembuatan. Teknologi yang mengganggu sentiasa menghancurkan industri tetapi pada masa yang sama, mewujudkan pekerjaan baru.

Saya mengatakan bahawa teknologi adalah sebab utama mengapa begitu ramai orang masih hidup untuk mengeluh tentang teknologi kerana kita tidak menyedari jangka hayat purata meningkat, saya fikir 45, 47 awal abad ke-20 hingga sekarang 75, terima kasih kepada teknologi. Kami mahukan faedah, kami mahu kemudahan, dan kami tidak melihat harga. Orang ramai membeli Alexa, atau memuat turun aplikasi pengiktirafan muka, dan kemudian mengadu mengenai privasi. Sudah tiba masanya untuk kita memahami apa yang kita harapkan dari teknologi ini, jadi bagaimana kita mahu berurusan dengan mereka? Bagaimana mereka boleh memperbaiki kehidupan kita dan pada masa yang sama menyedari bahawa kita tidak perlu membahaskan susu tumpah. Ia akan berlaku.

Kita tidak boleh bertanya sama ada kita mahu atau tidak, ia berlaku. Apa-apa percubaan untuk menangguhkan kesengsaraan, dan untuk melambatkan proses, saya rasa hanya produktif kerana pekerjaan yang ditakdirkan tidak dapat diselamatkan. Tetapi kita perlu berfikir tentang industri baru. Bagaimana kita boleh membuat beberapa pekerjaan baru yang akan membantu kita membuat… kusam kewangan untuk menjaga mereka yang tertinggal?

Dan Costa: Itulah salah satu perkara yang anda buat dalam Deep Thinking . AI memberi peluang kepada kita untuk menjadi lebih manusia. Saya fikir kita perlu daging yang keluar dan membuat orang merasa dan difahami.

Garry Kasparov: Laporan McKinsey mengenai pasaran kerja AS pada tahun 2016 adalah demonstrasi yang jelas. Seberapa sedikit kreativiti telah digunakan?

Banyak pekerjaan yang kita lakukan pekerjaan berulang, pekerjaan mentah. Pekerjaan intelek boleh juga berulang. Mereka juga boleh dengan mudah dilaksanakan oleh mesin jauh lebih berkesan. Di sini, anda sampai ke titik seperti apa yang telah kami pelajari dari permainan… catur, dari golf, dari mana-mana permainan lain, selagi kita mempunyai kerangka yang dicipta oleh manusia, dan kita tahu apa yang kita lakukan, mesin akan lebih baik.

Kita harus sedar bahawa dalam setiap sistem tertutup, mesin akan menjadi lebih unggul. Dengan cara ini, kita tidak perlu memahami bagaimana mereka melakukannya. Itulah satu lagi kesilapan. Kami mahu dijelaskan. Mesin boleh melakukannya dengan cara yang sangat canggung daripada piawaian kami. Pesawat terbang terbang cepat, dan burung itu mengepakkan sayap mereka. Itulah sebabnya memikirkan bahawa mesin akan mengatasi kita walaupun dalam kesilapan akal, dengan melakukan sesuatu yang anda fahami adalah salah. Kita perlu mencari keputusan, dan itulah masalah lain untuk perniagaan kerana terdapat banyak peraturan yang memerlukan mereka untuk menerangkan apa yang mereka lakukan, tetapi penjelasan mungkin tidak ada jika anda ingin mencari kecekapan dan produktiviti.

Dan Costa: Anda membangkitkan kes itu di atas panggung tentang Go, dan perkara yang menjadikan Go AI jauh lebih berkesan adalah apabila ia mengajar sendiri cara bermain permainan. Ia tidak mempunyai peraturan yang dikenakan manusia.

Garry Kasparov: Ia sama dengan catur sekarang. Sekali lagi, masa depan hubungan misi manusia akan menjadi sangat penting pada manusia sendiri yang bertindak seperti gembala kerana kita perlu mencari jalan untuk mewujudkan sistem yang sejuk ini, bidang kecerdasan sempit, di mana mesin akan melakukan pekerjaan yang lebih baik daripada mana-mana manusia. Kemudian, untuk melihat bagaimana mereka menyambung. Bidang kecerdasan sempit ini kepada bidang umum, untuk sistem terbuka. Sekali lagi, ia kelihatan mudah, tetapi saya fikir itu adalah satu cabaran besar kerana ruang untuk manusia dan hubungan mereka dengan mesin boleh mengecil lebih kecil dan lebih kecil. Walaupun mungkin terdapat beberapa tempat perpuluhan, tetapi tidak penting. Ia boleh jauh lebih berkesan kerana terdapat banyak kuasa. Penyalurannya atau menukar arah untuk 0.1 peratus darjah sudut ini boleh mempunyai perbezaan besar-besaran, sasaran satu batu jauhnya.

Dan Costa: Salah satu perkara yang membimbangkan saya mengenai AI ialah sistem AI yang baik didorong oleh banyak dan banyak data dan algoritma yang sangat baik. Jika anda melihat yang mendapat kebanyakan data dalam ruang ini sekarang, ia adalah teknologi yang besar, ia adalah kerajaan negeri. Bagaimana anda melihat peranan individu dalam revolusi AI ini? Kerana sepertinya ada beberapa asimetri akses kepada teknologi baru ini, dan motivasi yang berlainan.

Garry Kasparov: Ya. Saya tidak boleh bersetuju lagi. Kami mempunyai masalah ini dan saya fikir orang ramai mengiktiraf masalah ini tetapi ia masih tidak cukup tekanan kerajaan untuk benar-benar mengenakan peraturan yang sangat ketat dan langkah-langkah yang sangat menghukum terhadap syarikat yang melanggar privasi.

Salah satu keprihatinan saya sebagai pengerusi Yayasan Hak Asasi Manusia ialah peraturan yang berbeza dari dunia demokratik menjadi dunia yang tidak adil. Saya merasa sangat menyusahkan bahawa gergasi multinasional ini seperti Google, Apple, Microsoft, Facebook-mereka memohon peraturan yang sangat berbeza kepada pelanggan mereka di Amerika atau Eropah, dan kepada mereka yang tidak bernasib baik dilahirkan di dunia bebas dan tinggal di China, Rusia, Turki-di mana melepaskan data dari aktiviti sosial secara harfiah boleh menjadi masalah kehidupan dan kematian. Saya fikir itu langkah nombor satu, tetapi juga kita harus mengiktiraf jika data dihasilkan, ia akan dikumpulkan.

Saya yakin terdapat banyak cara yang membolehkan kerajaan membataskan penggunaan data ini. Juga, saya fikir ia adalah bonus pihak awam kerana selepas keterangan Mark Zuckerberg di Senat AS, yang saya dapati… adalah satu gambaran yang menakjubkan tentang undang-undang oleh penggubal undang-undang AS. Mereka tidak boleh bertanya soalan selama lima jam; mereka mempunyai dia di kerusi panas dan ia adalah satu pembaziran. Saya tidak melihat kemarahan orang ramai. Peluang besar seperti itu telah terlepas.

Nasihat ringkas, "Mari kita berpecah mereka." Ia bukan Minyak Standard. Jika anda baru mula membahagi-dan saya benci monopoli-tetapi kemudian anda akan mempunyai banyak, banyak Googles dengan data tersebar. Kita perlu mencari jalan untuk memperkasakan individu. Saya tidak tahu teknologi blockchain, tapi mungkin ini sebenarnya membantu orang untuk mengawal data mereka sendiri dan masa depan mereka sendiri. Saya fikir masih ada saat di mana ia adalah konsep asal internet, rangkaian sosial. Sekarang, tiba-tiba, ia adalah media sosial. Orang ramai tidak mengenali. Ia bukan perbezaan semantik.

Dan Costa: Ia dimonetisasi dengan cara yang sama sekali berbeza.

Garry Kasparov: Ini mengenai penyambungan orang. Ini mengenai keseluruhan idea adalah cara untuk membawa kita bersama. Bagaimana untuk menarik diri individu, mendapatkan akses kepada data dan menghasilkan sesuatu yang boleh memberi manfaat kepadanya dan hanya menjadi sebahagian daripada sistem global ini. Media sosial adalah berbeza, anda adalah sasaran. Anda kini… sasaran syarikat besar. Bagaimana kita kembali kepada konsep rangkaian sosial ini? Saya tidak mempunyai penyelesaian, saya mengakui kejahilan saya di sini mengenai penyelesaian teknikal, tetapi saya tahu bahawa ini adalah falsafah yang menjadi soalan yang tepat untuk ditanya. Saya fikir orang ramai tidak memahami keseriusan cabaran ini.

Dan Costa: Anda seorang warganegara Rusia...

Garry Kasparov: Juga rakyat Croatia, saya mempunyai paspor E, begitulah perjalanan saya.

Dan Costa:… tinggal di Amerika Syarikat, tetapi anda telah banyak menulis tentang propaganda, dan kesannya dan kuasanya, dan bagaimana ia digunakan oleh kerajaan Rusia. Di sini di AS, kami kini mempunyai Facebook, Twitter, Google media universe yang hampir seperti mesin propaganda swasta yang dapat diakses oleh pemerintah, oleh syarikat-syarikat individu. Sekali lagi, sebagai seseorang yang telah menangani dan memahami isu-isu ini, nasihat apa yang anda miliki untuk Amerika Syarikat? Seperti yang kita bergerak ke dalam sistem ini di mana kita tidak boleh percaya apa yang kita lihat dalam talian lagi.

Garry Kasparov: Lihat, saya telah menghadapi peningkatan industri berita palsu dan kilang troll di Rusia Putin dari awal abad ini. Secara kasar kira-kira 2004-2005, ahli propaganda Putin, orang KGB, mereka membuat keputusan yang setia tidak mengikuti China oleh firewall. Tetapi sebaliknya, mewujudkan laman web internet palsu yang membawa banyak maklumat sebenar kepingan beracun ini. Daripada mempunyai halaman depan akhbar yang betul, kisah yang mesti diikuti oleh semua pihak, barisan parti, anda boleh menyebarkannya dalam banyak bahagian, dalam berpuluh-puluh potongan. Letakkannya dalam pakej yang dibalut dengan banyak kisah nyata.

Ia tidak semudah mengatakan, Garry Kasparov adalah musuh negara. Tidak, seseorang mengatakan Garry Kasparov adalah musuh negara, tetapi kemudian orang lain datang dengan mengatakan tidak, tetapi dia adalah pemain catur yang hebat, tapi mungkin sekarang dia disusupi oleh suara dan propaganda. Seseorang akan berkata, tidak, tidak, tidak, dia seorang lelaki yang baik. Jadi keseluruhan halaman komen boleh menjadi palsu.

Dan Costa: Bot bergaduh dengan bot.

Garry Kasparov: Bots dan mereka sangat baik dalam hal ini, jadi itulah sebabnya pada suatu hari ketika Putin menyerang pemilihan Amerika Syarikat Amerika, dia benar-benar mempunyai lebih dari 10 tahun pengalaman industri-industri ini. Bekerja di Rusia, di negara-negara jiran dengan komuniti besar Rusia di Eropah Timur, di Eropah barat.

Dalam buku saya, Winter Is Coming: Mengapa Vladimir Putin dan Musuh Dunia Percuma Harus Berhenti , 2015, saya berkata bahawa itu hanya masa. Ia bukan jika, tetapi bila dan di mana dia akan menyerang. Kerana sekali lagi, mereka sudah membina mesin ini dan ia agak murah. Ia masih berbilion ringgit pelaburan, tetapi berbanding campur tangan ketenteraan terbuka, konfrontasi… ia agak murah. Dan juga, ia sesuai dengan mentalitas KGB, latar belakang KGBnya, latar belakang pengintipan. Jadi bukannya konfrontasi terbuka, dia sentiasa mencari peluang untuk menyusup. Itulah kaedah Judo klasik, anda menggunakan kekuatan lawan anda terhadapnya. Bagi Putin, ia adalah cemerlang kerana ia adalah teknologi barat dan dunia bebas, dan anda boleh menggunakannya untuk menjejaskan asas dunia bebas.

Dan Costa: Adakah anda mempunyai nasihat untuk keluar dari keadaan ini? Kerana ia kelihatan seperti itu berlaku, ia tidak benar-benar berhenti.

Garry Kasparov: Tidak, dan ia tidak akan berhenti. Bagi sesiapa yang mempunyai kepakaran yang tidak terhad, jawapannya jelas. Pertahanan adalah cadangan yang kalah. Dalam keselamatan siber, anda boleh membina pertahanan, tetapi pada penghujung hari jawapannya adalah pencegahan. Ia seperti Perang Dingin, suka atau tidak suka, ia adalah Perang Dingin siber. Kami berada di bawah serangan berterusan oleh Putin atau musuh-musuh dunia bebas. Sama ada negara seperti Iran, atau Korea Utara, atau China, atau organisasi quasi-negeri yang juga menggunakan kaedah yang sama.

Hanya pencegahan sebenarnya boleh menghentikan serangan ini, atau membatasinya. Kerana mereka akan memahami akibat yang terlalu agresif. Cuba melindungi tempat-tempat yang lemah di sini dan di sana, penting bagi kita membina beberapa pertahanan. Adalah penting untuk kita meningkatkan kesedaran orang ramai mengenai ancaman, tetapi ia tidak akan berfungsi. Bagi industri berita palsu, terdapat banyak cabaran dalam masyarakat bebas kami, yang membolehkan industri berita palsu. Ini mengenai ketakutan tentang pemisahan, mengenai ketiadaan dialog antara orang dengan pandangan ideologi yang berbeza yang membantu Putin, dan musuh-musuh dunia bebas, untuk menggunakan berita palsu untuk merapatkan jurang ini.

Dan Costa: Jadi, anda bekerja dengan Avast sekarang, sebuah syarikat yang pembaca PCMag sangat akrab dengannya. Nasihat apa yang anda berikan kepada pengguna untuk meningkatkan tahap pertahanan mereka?

Garry Kasparov: Bagi tahap pertahanan individu, itu sangat mudah. Mesej pertama adalah untuk pemilik rumah pintar. Saya agak terkejut kerana walaupun di Selatan ini oleh Barat Daya, saya bercakap dengan banyak orang, orang yang mempunyai kepakaran yang baik tidak memahami betapa lemahnya rumah pintar hari ini.

Rumah tangga Amerika, 39 juta mempunyai sekurang-kurangnya satu peranti rentan. Orang tidak faham bahawa satu peranti rentan menjadikan seluruh rumah pintar terdedah. Kerana kekuatan piramid pertahanan anda bergantung pada pautan yang paling lemah. Satu epal yang tidak baik menjadikan seluruh pek bocor.

Kebanyakan masalah dicipta oleh pengeluar peralatan rumah tradisional-mesin basuh, mesin kopi-kerana tidak ada kepakaran dalam membina sistem digital. Tetapi mereka perlu melakukannya sekarang. Pada kos yang sangat rendah, kerana itu persaingan harga, tetapi mereka mahu menjadi sebahagian daripada sistem. Kebanyakan sistem hanya tidak mempunyai pertahanan yang mencukupi. Saya fikir kita perlu… pengawasan kerajaan, kita perlu memberi tekanan untuk memaksa untuk memenuhi piawaian tertentu.

Tetapi juga perlu memberikan manual berasingan, kerana tiada siapa yang membaca manual 100 halaman. Di halaman 85, anda membaca sesuatu tentang barangan digital ini, orang tidak membacanya. Kebanyakan mereka menggunakan mod lalai, yang semestinya jemputan terbuka untuk penggodam. Saya fikir ia sangat penting orang akan mula melakukan apa yang saya sebut kebersihan digital, kerana kita mencuci tangan kita, kita menyikat gigi, kita lakukan secara automatik. Ia tidak menyelamatkan kita dari beberapa penyakit serius tetapi 90 peratus masalah boleh dielakkan. Sama dengan peranti bersambung mudah alih kami, kami masih harus melindungi diri kita daripada virus, tetapi banyak perkara boleh dilakukan dengan menunjukkan bahawa kita peduli mengenainya kerana ia sama pentingnya dengan kesihatan kita.

Dan Costa: Jadi saya ingin bertanya kepada anda tiga soalan yang saya tanya kepada semua orang yang hadir di acara itu. Adakah terdapat trend teknologi yang membimbangkan anda dan yang membuat anda bangun pada waktu malam?

Garry Kasparov: Tidak, saya seorang optimis yang tidak dapat dikalahkan. Saya bimbang tentang orang jahat, bukan tentang teknologi buruk kerana setiap teknologi mempunyai penggunaan ganda. Anda boleh membina reaktor nuklear tetapi sebelum malangnya anda membina bom nuklear. Ia agak malang bahawa kemusnahan lebih mudah daripada pembinaan. Itulah sebabnya dalam sejarah kita selalu tahu, teknologi baru yang mengganggu telah diuji untuk beberapa jenis kerosakan.

Dan Costa: Adakah anda tidak bimbang bahawa perkara yang sama akan berlaku kepada AI? Saya akan digunakan untuk memusnahkan sebelum ia digunakan untuk membuat?

Garry Kasparov: Sekali lagi, ia bukan tentang robot pembunuh. Ini mengenai orang jahat, pelakon jahat di belakangnya. Orang akan berkata oh, kita harus berfikir tentang AI beretika. AI tidak boleh lebih etika daripada penciptanya. Saya tidak faham apa maksudnya, seperti elektrik etika. Jika kita mempunyai kecenderungan dalam masyarakat kita, AI mengikutinya. Ia melihat perbezaan, sama ada perkauman, jantina, atau perbezaan pendapatan. Ia mengambil kira; AI adalah algoritma berdasarkan kemungkinan. Jadi entah bagaimana, mengadu tentang etika AI seperti mengadu tentang cermin kerana kita tidak suka apa yang kita lihat di sana.

Dan Costa: Adakah teknologi yang anda gunakan setiap hari yang masih menginspirasi keajaiban?

Garry Kasparov: Tidak. Bagi saya, keajaiban sebenar dunia adalah akses kepada maklumat. Oleh kerana saya dapat mengumpul data, ia memudahkannya. Saya dibesarkan di Kesatuan Soviet, dan maklumat itu sukar didapati, tidak banyak buku. Kini, hakikatnya saya boleh Kindle… ia hanya membuat saya berasa baik. Terdapat begitu banyak teknologi yang mengelilingi kita sekarang yang membantu kita untuk menjadi lebih baik. Juga, apa yang luar biasa, orang tetap mengeluh, oh apa yang boleh kita lakukan? Tidak ada yang baru yang boleh dicipta… dan saya katakan tunggu sebentar. Anda melihat peranti ini di dalam poket anda, mari kita pergi ke belakang pada tahun 1976 atau 1977, superkomputer Cray seperti keajaiban. Peranti ini adalah apa? Sepuluh ribu kali lebih berkuasa?

• AI Adakah (Juga) Pasukan untuk Baik AI Adakah (Juga) Pasukan untuk Baik
• AI ini terlalu kuat untuk melepaskan diri kepada orang ramai Ini adalah sangat kuat untuk dilepaskan kepada orang awam
• AI ini Ramalan Trolling Online Sebelum Ia Berlaku Ini AI Ramalan Trolling Online Sebelum Ia Terjadi

Dan Costa: Lebih kuat daripada ruang angkasa.

Garry Kasparov: Tepat. Kami mempunyai banyak kuasa, dan… Saya mahu kita mula bermimpi besar lagi. Kerana kita mempunyai peluang ini sekarang. Saya rasa sangat menyesal tentang Race Space, kami menghentikan penerokaan ruang, penerokaan laut dalam. Mari kembali, mari kita cuba melakukan perkara-perkara besar. Empat tahun yang lalu, saya melakukan ucapan permulaan di Saint Louis University di Missouri. Bercakap kepada pelajar siswazah yang saya katakan, anda perlu menghidupkan semangat penerokaan, terutama kerana St. Louis adalah pintu masuk ke barat, dan hari ini lebih selamat untuk terbang ke Marikh daripada Columbus untuk menyeberangi Atlantik. Sebab, sekurang-kurangnya kita tahu jarak dan kita mempunyai peta. Saya harap anak-anak kita, cucu-cucu kita… akan lebih agresif dalam impian mereka, dengan menggunakan teknologi fenomena ini untuk mendorong kita ke hadapan kerana saya fikir, kita mengaku, mari kita mengakui fakta penting ini; generasi kita telah melambatkan usaha kita untuk menemui keajaiban dunia, atau ruang, atau lautan.