Dilema etika mengajar kepada kereta memandu sendiri | doug newcomb

Ia tidak mengambil masa lama dalam kereta memandu sendiri Google minggu lalu untuk menyedari bahawa teknologi itu bukan sahaja bersedia untuk jalan raya, tetapi dalam beberapa keadaan membuat keputusan yang lebih baik daripada pemandu manusia-melambatkan dan memberi kepada penunggang basikal, sebagai contoh.

Tetapi untuk melakukan lebih daripada sekadar merayap di jalan-jalan di bandar, teknologi autonomi perlu membuat keputusan kritikal yang bersifat kedua kepada pemandu manusia yang berpengalaman. Dan ia mungkin perlu berunding dengan dilema etika seperti situasi memandu yang rumit.

Sebagai contoh, teknologi memandu sendiri menambah sentuhan baru kepada dilema falsafah abad yang lama yang dikenali sebagai "masalah troli." Dalam senario ini, seseorang mesti membuat keputusan sama ada untuk menarik tuil di persimpangan Y dan memandu ke atas satu orang yang terikat di landasan untuk menyelamatkan lima orang yang terikat dengan trek yang bersebelahan.

Bagi kereta memandu sendiri, ini telah dilarikan sebagai "masalah terowong." Bayangkan bahawa sebuah kenderaan autonomi sedang berjalan di atas jalan gunung satu lorong dan akan memasuki terowong, apabila seorang kanak-kanak secara tidak sengaja melintas masuk ke dalam laluannya di dalam pintu masuk supaya kereta itu harus membuat keputusan kedua-dua. Adakah ia terus lurus dan memukul kanak-kanak itu? Atau adakah ia bergerak dan memukul terowong, mencederakan atau membunuh penghuni kereta?

Sehari selepas menaiki kereta memandu sendiri Google di Mountain View, California, saya menghadiri acara di kemudahan R & D North American Mercedes-Benz di Sunnyvale yang berhampiran. Antara beberapa tajuk yang diliputi sepanjang hari, profesor Stanford dan ketua program Revs universiti, Chris Gerdes memberikan persembahan yang membincangkan subjek etika dan kereta autonomi.

Gerdes mendedahkan bahawa Revs telah bekerjasama dengan jabatan falsafah Stanford mengenai isu-isu etika yang melibatkan kenderaan autonomi, manakala universiti juga mula menjalankan beberapa ujian untuk menentukan jenis keputusan yang boleh dibuat oleh kereta robot dalam keadaan kritikal.

Apabila Falsafah Membawa Roda

Sebagai sebahagian daripada persembahannya, Gerdes membuat kes untuk mengapa kita memerlukan ahli falsafah untuk membantu mengkaji isu-isu ini. Beliau menegaskan bahawa isu etika dengan kereta memandu sendiri adalah sasaran yang bergerak dan "tidak mempunyai had, " walaupun terpulang kepada para jurutera untuk "mengikat masalah ini."

Untuk melakukan ini dan menggerakkan etika teknologi memandu sendiri di luar perbincangan akademik semata-mata, Revs menjalankan eksperimen dengan kenderaan ujian x1 Stanford dengan meletakkan halangan di jalan raya. Beliau berkata meletakkan keutamaan yang berbeza dalam program perisian kenderaan menyebabkan "tingkah laku yang sangat berbeza."

Gerdes menegaskan bahawa pengaturcaraan berasaskan etika berasaskan perisian kendiri boleh menjadi "keperluan teras" untuk teknologi-dan bukan sesuatu yang baru dibincangkan dalam menara gading. Dan beliau menambah bahawa etika bukanlah sesuatu yang dapat dihasilkan oleh pembuat dari pembekal "Tier 1" seperti, katakan, pam bahan api atau skrin sengkang. Skandal VW Dieselgate baru-baru ini pastinya telah menunjukkan bahawa.

Pemandu manusia yang berpengalaman telah diprogramkan selama bertahun-tahun untuk menangani keputusan perpisahan kedua-dan mereka masih tidak selalu membuat yang betul. Tetapi selepas melihat bagaimana kenderaan memandu sendiri Google bertindak balas terhadap keputusan setiap hari, dan mendengar tentang kerja yang Stanford Revs dan jabatan falsafah sekolah sedang berjalan, saya bertaruh bahawa kereta akan akhirnya membuat keputusan yang lebih bijak.