Tahun pengiraan etika industri ai

Sejak rangkaian neural yang mendalam memenangi persaingan pengiktirafan imej yang paling penting di dunia pada tahun 2012, semua orang telah teruja tentang apa yang boleh dilakukan perisikan buatan. Tetapi dalam perlumbaan untuk membangunkan teknik dan aplikasi baru AI, kesan negatif mungkin mengambil tempat duduk belakang.

Kami kini melihat peralihan menuju kesedaran tentang etika AI. Pada tahun 2018, pemaju AI menjadi lebih sedar akan kesan yang mungkin timbul dari ciptaan mereka. Banyak jurutera, penyelidik, dan pemaju menjelaskan bahawa mereka tidak akan membina teknologi yang merosakkan atau menyebabkan kerosakan kepada kehidupan orang yang tidak bersalah, dan mereka memegang syarikat mereka.

Pengiktirafan Muka dalam Penguatkuasaan Undang-undang

Pada masa lalu, mencipta aplikasi pengiktirafan muka adalah sukar dilakukan, berintensifkan sumber dan rawan ralat. Tetapi dengan kemajuan dalam penglihatan komputer-subset AI yang membolehkan komputer mengiktiraf kandungan imej dan aplikasi video pengenalan wajah yang dihasilkan menjadi lebih mudah dan dalam jangkauan semua orang.

Syarikat teknologi tinggi seperti Microsoft, Amazon, dan IBM mula menyediakan perkhidmatan berasaskan awan yang membolehkan mana-mana pemaju untuk mengintegrasikan teknologi pengenalan wajah ke dalam perisian mereka. Ini membuka banyak kes penggunaan baru dan aplikasi dalam domain yang berbeza, seperti perlindungan identiti dan pengesahan, keselamatan rumah pintar, dan runcit. Tetapi aktivis hak privasi menyuarakan keprihatinan mengenai kemungkinan untuk salah guna.

Pada Mei 2018, Kesatuan Kebebasan Sivil Amerika mendedahkan bahawa Amazon adalah Pengiktirafan pemasaran, teknologi analisis video masa nyata, kepada penguatkuasa undang-undang dan agensi kerajaan. Menurut ACLU, polis dalam sekurang-kurangnya tiga negara menggunakan Pengiktirafan untuk pengiktirafan muka terhadap suapan video pengawasan.

"Dengan Pengiktirafan, kerajaan kini dapat membina sistem untuk mengotomatisasi pengenalpastian dan pengesanan siapa saja. Jika kamera badan polis, contohnya, dilengkapi dengan pengenalan wajah, alat yang dimaksudkan untuk ketelusan dan akuntabilitas pegawai akan terus diubah menjadi mesin pengawasan yang ditujukan kepada orang awam, "kata ACLU. "Dengan mengotomatisasi pengawasan besar-besaran, sistem pengenalan wajah seperti Pengakuan mengancam kebebasan ini, menimbulkan ancaman tertentu kepada komuniti yang sudah tidak disengajakan secara tidak adil dalam iklim politik semasa. Sekali sistem pengawasan yang kuat seperti ini dibina dan digunakan, bahaya akan sangat sukar untuk dibatalkan."

Keprihatinan ACLU disuarakan oleh karyawan Amazon, yang pada bulan Juni menulis surat kepada Jeff Bezos, CEO perusahaan, dan menuntut agar dia berhenti menjual Pengakuan kepada penguatkuasaan hukum. "Syarikat kami tidak sepatutnya berada dalam perniagaan pengawasan, kita tidak seharusnya berada dalam perniagaan polis, kita tidak seharusnya berada dalam perniagaan menyokong mereka yang memantau dan menindas penduduk yang terpinggir, " surat itu dibacakan.

Pada bulan Oktober, seorang pelaku Amazon yang tidak dikenali mendedahkan bahawa sekurang-kurangnya 450 pekerja telah menandatangani satu lagi surat yang memanggil Bezos dan eksekutif lain untuk berhenti menjual Pengakuan kepada polis. "Kami tidak boleh mendapat keuntungan dari subset pelanggan yang berkuasa dengan mengorbankan komuniti kami, kami tidak dapat menjauhkan diri daripada kos manusia perniagaan kami. Kami tidak akan membina teknologi untuk menindas dan membunuh orang, sama ada di negara kita atau orang lain, "katanya.

Kejatuhan Projek AI Ketenteraan Google

Walaupun Amazon berhadapan dengan tindak balas dalaman ini, Google mengalami perjuangan yang sama dengan kontrak untuk membangunkan AI untuk tentera Amerika Syarikat, yang digelar Project Maven.

Google dilaporkan membantu Jabatan Pertahanan mengembangkan teknologi penglihatan komputer yang akan memproses rekaman video drone. Jumlah rakaman video yang direkodkan oleh dron setiap hari adalah terlalu banyak untuk penganalisis manusia untuk dikaji semula, dan Pentagon mahu mengautomasikan sebahagian daripada proses itu.

Mengakui sifat kontroversial tugas itu, jurucakap Google menyatakan bahawa ia hanya menyediakan API untuk TensorFlow, platform mesin pembelajarannya, untuk mengesan objek dalam suapan video. Google juga menegaskan ia sedang membangunkan dasar dan perlindungan untuk menangani aspek etika teknologinya.

Tetapi Project Maven tidak duduk dengan baik dengan pekerja Google-3, 000 daripada mereka, termasuk berpuluh-puluh jurutera, tidak lama lagi menandatangani surat terbuka kepada CEO Sundar Pichai yang meminta penamatan program itu.

"Kami percaya bahawa Google tidak sepatutnya berada dalam perniagaan perang, " surat itu dibacakan. Ia meminta syarikat itu "merangka, mempublikasikan dan menguatkuasakan dasar yang jelas yang menyatakan bahawa Google atau kontraktornya tidak akan membina teknologi peperangan."

Pekerja Google juga memberi amaran bahawa majikan mereka membahayakan reputasi dan keupayaannya untuk bersaing untuk bakat di masa depan. "Kami tidak boleh mengalih keluar tanggungjawab moral teknologi kami kepada pihak ketiga, " kata Googler.

Tidak lama selepas itu, petisyen yang ditandatangani oleh 90 ahli akademik dan penyelidik menyeru para eksekutif Google untuk menghentikan kerja-kerja teknologi ketenteraan. Para penandatangan memberi amaran bahawa kerja Google akan menetapkan peringkat untuk "sistem sasaran pengiktirafan automatik dan sistem senjata autonomi." Mereka juga memberi amaran bahawa apabila teknologi itu berkembang, mereka akan berdiri "satu langkah yang jauh dari kuasa dron autonomi untuk membunuh secara automatik, tanpa pengawasan manusia atau kawalan manusia bermakna."

Ketika ketegangan meningkat, beberapa pekerja Google meletak jabatan sebagai protes.

Bagaimana Pelakon Teknikal Merespon

Di bawah tekanan, Google mengumumkan pada Jun bahawa ia tidak akan memperbaharui kontraknya dengan Jabatan Pertahanan pada Projek Maven selepas ia tamat pada tahun 2019.

Dalam jawatan blog, Ketua Pegawai Eksekutif Sundar Pichai (gambar di bawah) mengisytiharkan satu set prinsip etika yang akan mengawal pembangunan syarikat dan penjualan teknologi AI. Menurut Pichai, syarikat itu akan mulai menimbangkan projek-projek yang untuk kebaikan masyarakat secara keseluruhannya dan mengelakkan pembangunan AI yang memperkuat kecenderungan tidak adil yang ada atau menjejaskan keselamatan awam.

Pichai juga menyatakan secara jelas bahawa syarikatnya tidak akan bekerja pada teknologi yang melanggar norma-norma hak asasi manusia.

Bezos Amazon kurang terancam oleh kemarahan di atas Pengiktirafan. "Kami akan terus menyokong DoD, dan saya fikir kita sepatutnya, " kata Bezos pada persidangan berteknologi di San Francisco pada bulan Oktober. "Salah satu pekerjaan kepimpinan kanan ialah membuat keputusan yang tepat, walaupun ia tidak popular."

Bezos juga menekankan perlunya komuniti teknologi untuk menyokong tentera. "Sekiranya syarikat-syarikat berteknologi tinggi akan berpaling pada DUN, negara ini akan menghadapi masalah, " katanya.

Presiden Microsoft, Brad Smith, yang syarikatnya menghadapi kritikan terhadap kerjanya dengan ICE, menerbitkan catatan blog pada bulan Julai di mana dia meminta pendekatan diukur dalam menjual teknologi sensitif kepada agensi-agensi kerajaan. Walaupun Smith tidak menolak menjual perkhidmatan pengiktirafan muka kepada penguatkuasa undang-undang dan tentera, beliau menekankan perlunya peraturan dan ketelusan yang lebih baik dalam sektor teknologi.

• MIT Menghabiskan $ 1 Bilion untuk Program Mengajar Etika AI MIT Perbelanjaan $ 1 Bilion untuk Program untuk Kajian Etika AI
• Adakah AI Really Speak Our Language? Adakah AI Really Speak Our Language?
• Memecahkan Kilang AI yang Tidak dapat Dihindari China Memecah Kilang AI yang Tidak dapat Dihindari China

"Kami telah memilih wakil-wakil di Kongres yang mempunyai alat yang diperlukan untuk menilai teknologi baru ini, dengan semua ramuannya. Kami mendapat manfaat daripada pemeriksaan dan baki Perlembagaan yang telah melihat kita dari zaman lilin ke era kecerdasan buatan. begitu banyak kali di masa lalu, kita perlu memastikan bahawa ciptaan baru berkhidmat kebebasan demokrasi kita menurut kedaulatan undang-undang, "tulis Smith.

Pada tahun 2018, ancaman robot pembunuh dan pengangguran secara besar-besaran telah memberi perhatian kepada kebimbangan mengenai impak etika dan sosial yang lebih segera dari AI. Dalam banyak cara, perkembangan ini menunjukkan bahawa industri matang, kerana algoritma AI menjadi lebih menonjol dalam tugas kritikal. Tetapi sebagai algoritma dan automasi menjadi lebih tertanam dalam kehidupan seharian kita, lebih banyak perdebatan akan timbul.