Ellen ullman pada kod, hati nurani, dan muzium saya

Untuk episod Fast Forward ini, saya bercakap dengan Ellen Ullman, pengarang Life in Code, satu siri esei yang bermula pada tahun 1994 apabila dia seorang programmer di Silicon Valley. Dia kini membuat tulisan hidupnya kebanyakannya fiksyen, tetapi Ullman tetap menjadi pemerhati tajam rantau ini, industri teknologi, dan bagaimana alat yang kita buat berubah setiap hari.

Dan Costa: akar pengaturcaraan anda kembali agak cara. Pada tahun 1978, anda adalah majoriti bahasa Inggeris yang memutuskan untuk menjadikan suis menjadi pengaturcaraan. Mengapa anda melakukan sesuatu seperti itu?

Ellen Ullman: Nah, saya terlibat dengan kumpulan yang melakukan video, Sony Portapak adalah salah satu mesin seperti PC. Perkara-perkara ini yang telah dikawal oleh syarikat behemoth tiba-tiba berada di tangan anda sendiri. Anda boleh membuat video anda sendiri, cerita anda sendiri. Anda boleh pergi dan menunjukkannya. Tidak ada sekatan. Anda boleh melakukan pornografi, dan sebagainya, dan itu adalah masa yang sangat menarik. Saya belajar bahawa saya suka bekerja dengan mesin. Kemungkinan bekerja dengan mesin-mesin ini untuk melakukan perubahan dan seni sosial sangat menarik. Akhirnya, saya meninggalkan Ithaca untuk pergi ke San Francisco.

Seseorang mesti meninggalkan bandar kolej atau menjadi menyedihkan. Dan pada suatu hari, saya berjalan di Market Street dan ada di tingkap Radio Shack yang tersembunyi adalah TRS-80 yang dikenali sebagai Trash-80-dan saya fikir, "Oh, apakah ini seperti Portapak? anda lakukan dengan perkara ini? Bolehkah anda membuat seni, aktivisme sosial?

Oleh itu, saya ingin membelinya. Dan kemudian ada isu pengaturcaraan. Ia agak sukar daripada memulakan dengan Portapak, tekan butang. Saya mendapati sukar, tetapi yang sukar. Saya fikir sesiapa yang mahu masuk ke dalam kejuruteraan perisian terpaksa merasa, "Ya, ini sukar, tetapi juga keseronokan memburu." Sekiranya tidak ada perasaan menggoda tentang menyelesaikan masalah, ia akan menjadi pengalaman yang sangat tidak menyenangkan.

Dan orang hari ini tidak faham bahawa ketika itu, apabila anda membeli TRS-80 di Radio Shack, ia tidak banyak. Anda perlu membuat perkara itu. Anda perlu belajar cara menggunakannya, dan jenis jemputan yang anda ambil itu?

Ya, terdapat skrin kosong. Ia sudah menjadi televisyen usang pada masa itu. Ia mempunyai papan kekunci, dan anda mencatatkan program pada kaset reel-to-reel. Dan saya fikir ia mungkin diadakan 4K. Itulah saiz program maksimum. Dan ia mempunyai bahasa BASIC. Dan saya tidak tahu sama ada orang tahu perbezaan antara bahasa ditafsirkan dan dikompilasi. Diterjemahkan bermakna ia hanya melaksanakannya di hadapan anda. Jadi anda, anda tahu, masukkan dua titik, anda tahu, dua plus dua dan ia menunjukkan kepada anda empat. Itu mudah, mendapatkan perkara-perkara kecil yang pertama berlaku. Melakukan sesuatu yang penting adalah sangat sukar, terutamanya sejak awal BASIC mempunyai banyak perangkap. Seperti yang anda boleh katakan "Pergi Ke" tetapi ia tidak secara automatik Kembali. Jadi, anda boleh kehilangan jalan anda dalam kusut, dan ia dikenali sebagai kod Geddy. Sekali lagi, ia adalah mengecewakan dan menarik.

Apabila saya melihat melalui buku dan anda bercakap tentang tahun-tahun awal, apa yang menyerang saya adalah orang yang anda bekerja dengan. Ia seolah-olah lebih seperti koleksi ragtag artis daripada jurutera dan pengatur tegar. Bolehkah anda bercakap sedikit tentang esprit de corp, atau orang yang anda bekerjasama?

Ya. Jika anda melihat ke belakang dan-anda tahu siapa Stewart Brand, Katalog Lectronic Seluruh Bumi, The Well-yang merupakan salah satu komuniti dalam talian yang pertama. Dan rakyat tertarik kepadanya. Anda tahu buku John Markoff, Apa yang Dormouse Said ?

Pasti.

Anda tahu, stoners dan dropouts dan orang-orang yang hanya gila, dan ingin bersenang-senang. Itu suasana yang menarik saya, seperti Portapak. Ini adalah orang yang berseronok, meneroka. Dan orang-orang pertama yang bekerja dengan saya ketika saya terpaksa mengambil kerja dan mendapat pendapatan adalah seperti itu juga. Seorang bekas penari Sufi, seorang wanita yang melakukan disertasi dan sejarah seni, seorang lelaki dari Perancis yang menyapu Gauloises, walaupun merokok tidak dibenarkan. Dan dia berkata, "Komputer tidak pernah memberitahu saya untuk berhenti merokok." Dan ini adalah jenis orang yang kita bekerjasama.

Sekitar '83 hingga '86, ia berubah. Sains Komputer menjadi ijazah biasa, Kejuruteraan Perisian. Dan kami disertai oleh kumpulan lelaki yang terpilih, yang telah belajar Sains Komputer sebagai ijazah sarjana muda. Dan suasana berubah sepenuhnya. Orang lebih sukar untuk bercakap dengannya. Dalam pengalaman saya, tidak begitu bulat. Itulah penyebaran yang sangat luas.

Saya bekerja dengan lelaki yang sangat bulat. Anda boleh memetik Shakespeare dengan yang terbaik daripada mereka. Tetapi suasana itu berubah. Saya rasa ia kerana profesion itu terpaksa kehilangan tidak bersalah.

Bagaimana anda terinspirasi untuk melakukan pengkodan?

Nah, sekali lagi, "Wow, apa ini?" Anda tahu, apabila saya mendapat program pertama yang saya jalankan, terdapat keseronokan. "Wow, ia berfungsi, saya melakukannya." Ia pergi dari apa-apa kepada sesuatu. Dan ia seperti kali pertama saya menetapkan karburetor. Awak tahu, awak ambil benda. Anda meletakkan mereka bersama dan kereta bermula, kan? Jadi ini adalah keseronokan yang jarang berlaku, dan sukar untuk sampai ke. Sebaik sahaja saya mempunyai perasaan itu, itu sedikit seperti ubat, anda tahu. Anda mendapat yang tinggi dan kemudian anda kehilangannya, dan kemudian anda mendapatkannya kembali, atau anda cuba.

Anda banyak bercakap mengenai buku ini. Anda berkata, semua orang harus belajar bagaimana untuk kod kerana sukar. Dan kesukaran itu akhirnya akan menjadi rasa kepuasan yang anda dapat dari itu.

Saya tidak memberitahu semua orang untuk mempelajari kod. Seperti yang saya katakan, orang perlu didedahkan kepadanya. Intinya adalah untuk demystify kod. Kami dikelilingi oleh algoritma yang mengendalikan kami, dan ini bukan berita kepada sesiapa yang baru saja digodam oleh Equifax, misalnya. Satu pertiga daripada populasi dewasa di Amerika Syarikat. Jadi, intinya adalah untuk mengetahui cukup bahawa ia ditulis oleh orang dan ia boleh diubah oleh orang.

Terdapat ahli majlis di Bronx yang mencadangkan rang undang-undang di sana bahawa wilayah itu melihat semua algoritma yang mereka gunakan, dan mereka pergi dari tugas polis ke jadual pengambilan sampah ke sekolah mana yang anak-anak pergi, dan mencari bias di dalamnya. Ini adalah proses yang saya harapkan, bahawa orang dalam masyarakat umum mula melihat bahawa perkara-perkara ini boleh diubah. Mereka mempunyai berat sebelah dan bias boleh ditangani.

Jadi ini membawa kami ke salah satu mata utama anda, iaitu kod itu sendiri mengandungi bias dalam kandungan. Dan saya fikir, dengan algoritma, ia mengambilnya ke tahap yang berbeza. Tetapi bergantung kepada siapa yang menulis kod itu, ia akan mencerminkan bias politik tertentu, bias budaya. Bolehkah anda hanya bercakap sedikit tentang bagaimana ia akan dimasukkan ke dalam kod itu sendiri?

Nah, jurutera perisian tidak menentukan kod yang akan ditulis. Ini datang dari atas. Dan orang-orang di bahagian atas adalah orang yang sangat kaya, sangat putih, dan keinginan mereka adalah apa yang mereka fikir hebat untuk masyarakat atau apa tugasnya.

Sebagai contoh, aplikasi penghantaran mudah dipilih kod ZIP. Apa maksudnya? Bahawa kita tidak dapat menghasilkan wang dengan orang-orang yang pendapatan marginal? Atau kita tidak mahu menghantar kereta di sana? Contohnya mudah. Ia masuk ke dalam, adakah semuanya berbelanja? Adakah itu yang diperlukan oleh orang? Apakah jenis pandangan sosial yang menyatakannya?

Ini semua jalan ke algoritma, dan bahkan lebih dalam daripada itu. Saya baru sahaja membaca kertas karya Phillip Rogaway. Dia menyampaikannya pada tahun 2015, dan ini mengenai implikasi moral kriptografi. Dan dia bercakap mengenai kriptografi sebagai kuasa. Untuk siapa anda menulis? Untuk apa yang mereka gunakan? Dan supaya anda dapat melihat dari aplikasi yang paling sederhana, hingga ke bahagian bawah apa yang dianggap matematik, bias dibina.

Saya fikir anda telah meletakkan jari anda apabila anda bercakap tentang, "Adakah semuanya berbelanja?" kerana ia sememangnya semua termotivasi oleh perdagangan sekarang, dan sebab anda menargetkan kod ZIP tertentu adalah kerana anda boleh membuat wang dalam kod ZIP tersebut. Dan itu membentuk produk dan kemudian ia menjadi kitaran pengukuhan. Perkara yang sama berlaku dengan setiap institut. Itu sebabnya Amazon membeli Whole Foods dan bukan Stop & Shop. Ia disebabkan oleh kecenderungan demografi, dan itu hanya pasaran di tempat kerja. Tetapi angkatan-angkatan itu cukup menentukan perkembangan teknologi sekarang juga.

Saya mempunyai contoh sesuatu yang saya fikir hanya indah. Terdapat satu kumpulan bercakap tentang, "Ini adalah pengekodan dari bawah ke atas." Tidak, orang tidak duduk di ruang kosong kaca mereka yang kami kerjakan, memutuskan, "Saya bukan keuntungan dan ini akan memberi manfaat kepada masyarakat dan mengubah dunia." Ini adalah kumpulan yang bekerja di atas tanah dengan pekerja tanpa dokumen.

Sekarang, orang-orang ini berdiri di sudut jalan, dan mereka mendapat dari seseorang dalam trak pikap atau van, dan kemudian mereka jatuh kemudian, dan sebahagian dari mereka tidak dibayar. Jadi mereka bertanya, "Bagaimanakah kita dapat memberi isyarat antara satu sama lain? Jangan masuk ke dalam ini. Ia adalah sesuatu seperti era kemurungan. Hobos yang pernah menulis tanda-tanda ini dan berkata, "Seorang lelaki jahat tinggal di sini, seorang wanita yang baik tinggal di sini."

Oleh itu, mereka mendekati sebuah kumpulan. Sekali lagi, ia datang kepada para coder dari tanah. Dan mereka berkata, "Bolehkah anda membina sesuatu?" Kebanyakan orang ini mempunyai aplikasi mudah alih-aplikasinya tidak mahu namanya disiarkan, sudah tentu-dan, mereka boleh memasukkan plat lesen ini. "Anda mencari dan tidak mengambil kerja." Anda boleh bertanya, adakah sesiapa yang membuat wang? Akhirnya, ya, kerana orang-orang yang agak terdesak untuk kerja tidak ditipu banyak.

Ia seperti sistem reputasi. Jenis reputasi yang sama, yang sama yang dibina ke Uber, di mana para penunggang mendapat nilai dan pemandu mendapat penilaian, dan idealnya pemandu terbaik dan pelumba terbaik mendapat ganjaran dalam beberapa cara. Ia adalah contoh yang menarik. Adakah anda mempunyai apa-apa nasihat untuk orang yang baru coding atau mencari untuk meneroka sebagai pilihan kerjaya?

Nasihat orang yang ingin meneroka? Pertama sekali, terdapat pertemuan di mana-mana. Tidak, saya tidak boleh mengatakan mana-mana. Mereka berada dalam kod ZIP yang dipilih juga. Terdapat ribuan dan ribuan di Bay Area, di mana anda boleh mendaftar dan berjumpa dengan orang lain yang akan mengajar anda kod. Terdapat beberapa wanita terutamanya. Itu sangat membantu.

Saya mencari tempat lain di negara ini. Buffalo, New York, Utica, New York. Dan tidak ada apa-apa. Jadi, apa yang kita lakukan dengannya? Jadi secara besar-besaran kursus dalam talian kelihatannya kemungkinan. Dan salah satu daripada perkara yang saya tulis tentang, dan apa yang saya lakukan adalah, baik, mendaftar untuk mengauditnya. Dan saya melihat semua kecenderungan yang sama di dalam guru.

Mereka membuat andaian tentang budaya Amerika. Dan dengan baik, anda mahu memperoleh satu bilion dolar. Satu juta tidak akan mencukupi untuk anda. Semuanya sama. Saya fikir orang boleh memuat turun video ini, mendapatkan kumpulan bersama, anda tahu. Anda melekat pada orang yang memberitahu anda omong kosong sosial. Dan bantu satu sama lain dan pelajari kod.

Terdapat juga akademi kod yang menelan belanja ribuan dolar, dan sebenarnya mereka tutup. Mereka menjamin orang, anda akan mendapat tiga angka dalam tempoh lapan bulan. Saya tidak fikir itu laluan yang baik. Idealnya sekolah akan mengajarnya. Dan saya tidak bermaksud pengekodan menyertai kemanusiaan sebagai literasi asas. Saya fikir orang yang mempunyai kemanusiaan perlu melihat pengkodan untuk membawa pengetahuan orang-orang yang mempelajari Sejarah dan Sosiologi dan Bahasa Asing, bagaimana orang lain hidup di dunia. Bawa ke arena pengekodan.

Saya mahu bercakap dengan anda sedikit mengenai media sosial. Kembali pada tahun 1998, anda menulis sebuah esei yang dipanggil The Museum of Me, dan saya mendengar frasa ini bertembung seolah-olah ia baru. Tetapi pertama kali anda menulis pada tahun 1998 dan anda mengatakan bahawa internet akan membolehkan kita membina, "Gelembung pemikiran peribadi, " hanya membaca laman-laman web yang menguatkan kepercayaan yang diinginkannya, yang tepat di mana kita kelihatan seperti hari ini.

Anda memanggilnya, anda menggambarkan internet pada umumnya, tetapi media sosial sepertinya telah mengambil ini ke tahap yang baru. Saya minta maaf untuk menjadi betul tentang perkara itu. Ada perkara yang saya lihat berlaku, saya rasa di hati saya berharap akan menjadi peringatan. Tetapi, anda tahu, saya hanya menulis untuk penerbitan kecil kemudian-

Saya rasa ini mungkin dalam Harper . Jadi entah bagaimana, generasi selfie merindui artikel Harper , malangnya.

Nah, apa yang mereka baca? Mereka membaca suapan, anda tahu. Jadi suapan memberitahu mereka apa yang berlaku hari ini. Sangat sukar dengan cara duduk dan bercakap dengan anda hari ini mengenai teknologi, sehari selepas kami mempunyai penyembelihan yang dahsyat di Las Vegas. Dan lebih daripada 50 orang terbunuh, dan beratus-ratus orang cedera. Kami benar-benar tidak tahu tahapnya.

Dan anda tahu, senjata adalah teknologi. Reka bentuk perindustrian adalah teknologi. Anda tahu, kami cenderung memikirkannya sebagai telefon bimbit dan komputer riba dan AI, pelayan, dan algoritma. Tetapi orang merancang alat-alat ini yang membolehkan senjata untuk menembak ratusan peluru dengan satu pecah. Dan itu benar-benar berhenti saya. Anda tahu, pada hari-hari seperti ini, sukar untuk mendapatkan ceria. Maksud saya, saya mewakili kegelapan secara amnya, tetapi ini terutama menghalang saya.

Sukar bagi semua orang untuk melewati hari hari seperti ini. Tetapi salah satu perkara yang terus dikemukakan ialah semua teknologi mempunyai kesan tersirat dan mereka tidak neutral, dan banyak perbualan etika yang mengelilingi segala macam perdebatan lain mengenai dasar, tentang politik, isu sosial, cenderung tidak berlaku dalam ruang teknologi, kerana jurutera membinanya, pasaran meminta ia. Para pereka membinanya, mereka menghantarnya, dan kemudian kita hidup dengan akibatnya.

Tetapi seolah-olah pada setiap masa, sama ada teknologi senjata api, kod perisian, akses kepada perkhidmatan, kita perlu mempunyai perbualan tentang akibatnya.

Itulah harapan saya. Itulah sebabnya saya menulis buku ini, dengan harapan untuk memulakan perbualan pada tahap yang berbeza, anda tahu. Bukan apa tujuan masa depan. Masa depan adalah apa yang anda buat sekarang, dengan perbualan. Keinginan manusia mendorong masa depan. Itulah hak prerogatif kami. Juga, untuk melihat ke masa lalu. Satu lagi sebab saya ingin kembali ke pertengahan 90an ialah kita belajar dari masa lalu.

Hanya melihat ke hadapan mengajar anda sangat sedikit kerana itulah semua fantasi. Tetapi jika kita kembali dan kita melihat bagaimana kita sampai di mana kita berada, dan trend yang membawa kita ke sini, kejayaan orang pada masa lalu, perkara yang kita pelajari. Ada orang yang tinggal di hadapan kami yang anda tahu, dan mereka telah bekerja pada teknologi pengkomputeran lebih daripada kami. Kami akan pergi ke 100 tahun, saya rasa anda tahu, pada satu ketika bermula dengan idea-idea mengenainya. Jadi saya harap orang akan berhenti dan mendidik diri sendiri. Untuk melihat ke belakang, dan cuba melihat bagaimana mereka dapat berada di mana mereka berada.

Apakah pendapat anda mengenai sifat industri teknologi dari segi saiz pemimpin? Dengan Google dan Amazon dan Apple dan Microsoft, anda bercakap tentang empat syarikat yang benar-benar menguasai keseluruhan industri. Industri web, industri runcit, industri hiburan. Adakah syarikat-syarikat ini, adakah sesuatu yang terlalu besar yang mencetuskan masalahnya sendiri?

Itulah soalan yang baik. Ya, mereka terlalu besar. Kita semua harus hidup dengan mereka untuk masa yang lama. Dan syarikat seperti Apple menggambarkan dirinya sebagai progresif secara sosial. Walau bagaimanapun, syarikat-syarikat ini sangat libertarian. Mereka tidak mahu kerajaan mengawal mereka kecuali apabila mereka mahu kerajaan menaikkan mereka.

Lihatlah apa yang berlaku dengan semua bandar-bandar ini yang meminta Amazon masuk ke tengah-tengah mereka. "Oh, anda tidak perlu membayar cukai selama 20 tahun." Oleh itu, kerajaan membantu mereka. Itulah yang dikehendaki syarikat-syarikat ini. Mereka tidak mahu peraturan. Saya tidak melihat dalam suasana politik ini, bagaimana kita akan melakukannya. Kami tidak mempunyai Mahkamah Agung yang akan berkata, "Ini adalah monopoli, kita akan memecahkannya."

Inilah soalan yang betul. Ya, mereka terlalu besar. Ramai orang perlu menangani apa yang kita lakukan dari sini.

Apakah masalahnya dengan mereka? Kerana ada syarikat, saya tidak pernah melihat syarikat swasta yang telah meminta lebih banyak peraturan. Apakah risiko syarikat gergasi besar ini? Adakah mereka akan menggunakan kuasa pasaran mereka untuk mengeksploitasi pengguna? Adakah mereka tidak akan berinovasi kerana mereka mempunyai monopoli pada dasarnya semua industri yang berbeza?

Nah, mereka akan mengeksploitasi pengguna. Kami akan mempunyai lebih banyak pengawasan. Ada persaingan yang lebih. Saya fikir mereka tidak boleh duduk dan berkata, "Saya tidak melakukan R & D. Saya tidak menjangkau." Tetapi, saya takut banyak yang datang dari membeli syarikat lain. Pemula mempunyai idea ini, dan kemudiannya dibeli. Dan kemudian mereka membubarkan kuasa-kuasa mereka yang menarik, jika mereka mempunyai apa-apa, dalam syarikat-syarikat besar ini.

Tetapi syarikat-syarikat ini tidak boleh duduk dan tidak melakukan apa-apa. Lihat apa yang berlaku kepada Microsoft. Ia benar-benar tertinggal. Lihat Intel. Intel pernah menjadi salah satu gergasi. Kini ada di belakang. Orang ramai tidak lagi menggunakan komputer besar dan komputer riba mempunyai cip yang berbeza, dan mereka tidak menyumbang sama sekali kepada mudah alih. Jadi mereka perlu berinovasi. Saya harap mereka tidak melakukannya dengan hanya membeli syarikat orang lain dan kemudian mencairkan kesan syarikat-syarikat itu, yang sepertinya berlaku.

Anda mempunyai esei tentang Bug Millennium, yang mana kebanyakan orang akan perlu Google untuk mengetahui apa itu. Tetapi saya memberitahu anda sebelum kami pergi ke udara bahawa saya sebenarnya di bilik berita pada Malam Tahun Baru pada tahun 1999 dan tiada siapa yang benar-benar tahu apa yang akan berlaku. W tahu komputer peribadi mungkin akan baik-baik saja, tetapi semua orang agak bimbang tentang apa yang berlaku di loji kuasa dengan komputer itu di bilik belakang yang tiada siapa yang diperiksa dalam masa 10 tahun. Tetapi bolehkah anda bercakap sedikit tentang apa yang berlaku kemudian, dan kemudian apa pelajaran yang mungkin berlaku untuk kita hari ini.

Salah satu perkara yang menarik tentang itu adalah mengapa saya berjumpa pengaturcara yang menulis kod ini pada tahun 60-an yang berkata, "Saya tidak pernah menjangka kod ini akan hidup lama ini." Syarikat Texaco adalah satu-satunya perbadanan besar yang sanggup menyiarkan orang ramai untuk mengatakan, "Ini bukan tipuan, inilah yang kita lakukan, inilah masalah yang kita hadapi."

Dan usaha mereka adalah heroik. Dan terdapat perkara-perkara tempatan kecil yang tidak dipublikasikan. Tetapi saya tahu di dalam hati saya, bercakap dengan pengaturcara yang berdedikasi dan pemimpin projek, bahawa ia akan menjadi baik kerana mereka benar-benar merancang. Pelajaran untuk kita sekarang ialah kita masih menggunakan semua kod lama ini. Kami mempunyai hujung depan yang mewah ini dan kemudian anda mendapat internet, yang benar-benar mengalami tekanan. Dan itu kod yang sangat lama.

Sebab kami mempunyai semua hacks ini adalah bahawa internet tidak pernah direka untuk privasi dan tanpa nama. Ia direka bentuk untuk menjadi berkumpul dan terbuka. Tiada siapa yang membina idea bahawa akan ada hoary gemuruh ini. Jadi kita mempunyai kelemahan di sana. Kami kembali ke pelayan yang melakukan algoritma, iaitu pada sistem operasi yang disebut Linux. Linux berjalan kembali.

Sekiranya anda lebih mendalam dan lebih dalam apa yang ada di belakang barang-barang cantik, anda akan mendapati kod lama, kod lama, kod lama. Dan pengaturcara menulis perkara yang menunggang di atas kod lain, dan tidak selalu-sering tidak memahami butir-butir perkara yang mereka saling berinteraksi. Jadi pelajaran hidup.

Cemerlang. Saya mahu bercakap dengan anda sedikit mengenai AI. Ia seolah-olah kita berada dalam kedudukan ini dengan internet, yang mempunyai semua akibat yang tidak diingini yang kita masih cuba untuk menyelesaikan-dan sekarang kita melahirkan teknologi ini sepenuhnya baru, yang mempunyai semua implikasi ini. Anda pergi ke banyak syarikat dan mereka mempunyai sistem AI yang sedang berjalan, yang membuat keputusan perniagaan dan membuat cadangan, dan mereka secara literal tidak dapat memikirkan bagaimana mereka sampai di sana. Mereka tidak dapat mengenal pasti proses yang mencapai kesimpulan. Mereka hanya tahu ia berfungsi. Bolehkah anda bercakap sedikit tentang apa yang mungkin bermakna?

Mereka fikir ia berfungsi. Trend sekarang dalam AI, keseluruhan gagasan robot humanoid yang tidak dapat kita sampaikan dari manusia telah benar-benar hilang di tepi jalan. Ia membuktikan bahawa sangat, sangat, sukar untuk memahami bagaimana manusia berfungsi seperti yang mereka lakukan. Ia kini pembelajaran mesin. Ideanya ialah anda menulis algoritma. Ia melihat hasilnya dan ia berubah sendiri, dan kemudian melihat hasilnya, dan ia belajar.

Sekarang apa yang berlaku adalah, orang-orang yang menulis algoritma asal benar-benar tidak tahu apa yang berlaku selepas beberapa lelaran. Dan kod itu bergerak lebih jauh dan lebih jauh dari orang-orang yang memahaminya. Jadi ia adalah jenis raksasa, anda tahu, dalam erti kata ia beroperasi sendiri. Dan ya ia berfungsi, tetapi apa yang hilang?

Ia berfungsi pada data yang mempunyai berat sebelah. Ia mempunyai berat sebelah pertama sekali, sejak dahulu. Terdapat ralat. Jadi apa yang ia belajar dari juga berat sebelah dan rawan kesalahan. Saya bimbang tentang AI dalam hal ini terutamanya idea kereta memandu sendiri. Dan kita bercakap tentang bahaya manusia yang sebenarnya. Dan saya boleh bercakap terlalu lama tentang perkara itu, jadi saya lebih baik berhenti.

Kebanyakan ramalan mengatakan bahawa kereta memandu sendiri akan menjadi lebih selamat berbanding pemandu manusia, yang saya rasa pemandu manusia adalah sebahagian besar masalah di jalan raya hari ini.

Pemandu manusia mempunyai sejarah 100 tahun memandu kereta. Jadi inilah yang boleh dilakukan manusia - mereka tidak hanya melihat jarak di sekitar mereka. Anda tahu ketika memandu, walaupun anda tidak peduli, jika anda mempunyai pengalaman, anda dapat melihat lebih awal daripada anda, seperempat batu, setengah batu di atas bukit yang semuanya sesak, dan anda perlu bersedia untuk berhenti.

Anda boleh membaca keperibadian kereta. Seseorang datang ke lorong jauh di sana. Anda melihat pembuatan, model, agresif pemandu. Apabila kereta itu bergerak, anda tahu ia akan memotong anda. Anda tidak menunggu penggera jarak dekat. Manusia tahu dengan cara yang, dalam seketika itu, sama ada saya akan mengalami kemalangan atau saya akan masuk ke dalam kemarahan jalan raya dengan kereta ini. Atau saya akan berkata, "Baiklah, teruskan."

Sekarang, mari kita pergi ke cara yang boleh memandu kereta sendiri. Sekali lagi, mereka bergantung pada antara muka mesin ke mesin. Dan akan ada bug dalam kod itu, tempoh. Jadi mereka akan berkomunikasi melalui internet atau melalui rangkaian wayarles. Kelemahan besar di sana. Kami telah melihat bahawa kereta yang beroperasi tanpa wayar telah digodam oleh penggodam putih untuk menunjukkan, "Lihat, saya boleh membuat kereta anda memandu dari jalan raya."

Jadi bagaimana ia dilindungi? Dan kemudian ada antara muka antara model yang berbeza dan model. Sekarang adakah anda berfikir bahawa semua orang akan memandu Prius? Tidak, manusia mahukan jenis prestasi yang berbeza. Maka akan ada persaingan lagi bagaimana kereta beroperasi, bagaimana pemandu atau penghuni ingin merasakan ketika mereka berada di jalan.

Akan ada semacam API piawai, Antara Muka Aplikasi, yang rawan kesilapan terkenal. Tetapi, terdapat banyak kegagalan titik yang boleh berlaku di sana. Juga, mereka tidak boleh memandu di salji.

Ada itu.

Ada itu. Maksud saya, anda lihat, anda akan menjadi sia-sia?

Adakah anda berfikir bahawa kita akan mempunyai kereta memandu sendiri yang hanya akan menjadi sangat rawan dan risiko keselamatan? Atau anda tidak fikir kita sebenarnya dapat membina sebuah kereta memandu yang selamat dan teknologi itu akan mengambil masa yang lebih lama daripada orang berfikir?

Saya fikir ia akan berlaku. Saya fikir jalan raya akses yang terhad seperti jalan raya, ia akan berfungsi dengan baik. Kecuali salji atau hujan lebat. Ia perlu melihat garis. Dan kemudian ia perlu melihat lampu pecah dan lampu kereta di sekelilingnya. Oleh itu, dengan sudut pandangan yang terhad, mereka menambah LIDAR lain dan sebagainya.

Akhirnya, ia akan berfungsi. Ia akan mengambil sedikit masa lagi. Sekarang saya fikir terdapat beberapa bandar yang sedang membina infrastruktur di pusat bandar untuk kereta. Tetapi, kami berada di sini di Manhattan dan kami menghadapi masalah untuk menjaga laluan bawah tanah kami. Adakah anda fikir kita akan mengambil berbilion ringgit untuk menjadikan Manhattan menjadi tempat yang mempunyai sensor untuk memandu kereta sendiri? Saya tidak tahu, beratus-ratus tahun dari sekarang, jika Manhattan tidak dibanjiri dari laut yang semakin meningkat?

Ia akan berada di sana. Tetapi ia berfikir bahawa keghairahan-dan seperti biasa saya adalah wakil suram-saya rasa saya berada di pantai, dan ada orang lain yang benar-benar tahu apa yang mereka lakukan, dan saya seperti lari melantun di pihak yang lain akhir, cuba untuk menolak sedikit dan menilai sudut pandangan. Kurangkan harapan. Semua orang perlu tahu kerja keras yang perlu kita lakukan sebelum jangkaan yang luar biasa itu dapat dipenuhi.

Saya akan bertanya kepada anda beberapa soalan yang saya tanya kepada semua orang yang hadir di acara itu. Dan ini yang menjadi mudah bagi anda. Apa trend teknologi yang paling membimbangkan anda? Adakah terdapat apa-apa yang membuatkan anda bangun pada waktu malam? Kita boleh melakukan keseluruhan rancangan lain.

Semua di atas. Ia tidak menyimpan saya pada waktu malam. Maksud saya, saya menghabiskan cukup banyak masa memikirkannya pada siang hari. Saya tahu, salah satu soalan yang saya fikir anda ingin bertanya ialah, anda tahu, sekiranya orang mengambil jeda daripada semua ini? Ya.

Hari ini, saya hampir dilemparkan ke jalan oleh seseorang yang datang dengan skuter.

Dan telefon?

Dengan earbud dan telefon. Jadi ini sangat merisaukan saya. Orang benar-benar boleh terluka.

Orang ramai terluka setiap hari di New York City kerana semua orang melihat telefon mereka dan mereka berjalan.

Ya, saya tinggal di kawasan South Market. Saya berpusat di San Francisco di Alus Startup, Second Street. Sekarang, ini satu perkara yang mengatakan semua orang melihat telefon mereka, tetapi apabila anda cuba untuk berjalan di jalan menuju Utara apabila semua orang menuju Selatan, dan 100 orang melihat ke dalam telefon mereka, ia benar-benar seperti, m tinggal di dunia asing.