Adakah kenderaan autonomi menguji bahaya awam? | doug newcomb

Pada awal Internet, sesiapa sahaja mungkin menjangkakan trolling dan cyberbullying-dan bahawa POTUS masa depan akan melibatkan negara 140 watak pada masa itu? Ia sukar untuk menjangka kelemahan teknologi baru revolusioner.

Di antara potensi kelemahan kenderaan autonomi - termasuk kehilangan pekerjaan secara besar-besaran di kalangan pemandu komersil dan mungkin lebih banyak lalu lintas dari robo-teksi - adalah apa yang dikenali sebagai "masalah troli." Ini merujuk kepada keputusan beretika kereta pemanduan diri perlu dilakukan apabila menghadapi situasi tidak menang, seperti sama ada untuk melarikan diri dari individu yang memasuki jalannya di jalan bandar yang sempit atau bergerak ke arah mana-mana pihak dan membajak pejalan kaki di trotoar.

Walaupun profesor falsafah Universiti Politeknik Negeri California, Patrick Lin telah menjalankan ujian dunia sebenar mengenai dilema ini bersempena dengan Pusat Penyelidikan Automotif di Stanford, dia mengakui bahawa "sesuatu yang merasa tidak jujur ​​tentang panik moral terhadap kereta memandu sendiri" dan masalah troli sejak senario itu begitu jauh. Tetapi seperti yang ditunjukkan Lin, tidak seperti teknologi lain, ujian kenderaan autonomi di jalan awam boleh memberi impak negatif kepada masyarakat.

Ia Dapat Rumit

Lin berpendapat bahawa walaupun pemaju teknologi biasanya menguji produk dan ciri-ciri baru dengan beberapa sekatan dan undang-undang, "ia menjadi rumit apabila perisian mereka berinteraksi secara langsung dengan dunia fizikal yang lebih besar" - dalam kes ini ketika mengawal mesin multi-ton di khalayak ramai. Lin berpendapat bahawa dalam kes uji kenderaan autonomi di jalan awam, "produk tidak hanya memberi kesan kepada pengguna sahaja, seperti halnya dengan kebanyakan alat dan perkhidmatan lain."

Sebagai contoh, Lin menunjuk kepada aplikasi navigasi orang ramai yang menggunakan Waze. Ia "menimbulkan aduan tentang tingkah laku 'berkumpul': gerombolan kereta yang dihantar oleh algoritmanya melalui kejiranan yang tidak dirancang untuk trafik yang berat, " katanya.

Ini "boleh meningkatkan risiko kepada kanak-kanak yang bermain di jalan-jalan ini, nilai harta yang lebih rendah sekiranya bunyi jalanan lebih kuat, dan mewujudkan keadaan luaran yang lain. Ini bermakna aplikasi navigasi membuat keputusan risiko yang pengguna tidak tahu tetapi perlu dibuktikan."

Kereta sendiri yang memandu "sama-sama perlu memilih laluan mereka secara autonomi… dan sering kali bukan hanya satu cara yang betul untuk pergi, " tambah Lin. Tetapi dia percaya bahawa masalah yang lebih besar adalah menentukan siapa yang akan bertanggungjawab terhadap kesan negatif terhadap lalu lintas atau keselamatan awam yang aplikasi navigasi seperti penyebab Waze dan dengan lanjutan memandu kereta memandu menguji di jalan awam.

"Ia adalah tragedi yang ada: Tidak seorang pun berada di kerusi pemandu bagaimana algoritma navigasi harus diselaraskan dengan masyarakat, " katanya. "Jadi, jika ada kesan negatif ke atas lalu lintas atau keselamatan awam, sukar untuk memungkiri tanggungjawab untuk kesan ini."

Persoalan siapa yang akan bertanggungjawab dalam kemalangan kereta memandu sendiri - pembuat kereta, pemaju perisian, sensor atau pembuat peta - adalah salah satu isu yang menganggap penggunaan teknologi yang meluas, walaupun penyelesaian sedang dibangunkan. Memandangkan ujian kereta memandu sendiri telah dijalankan di jalan-jalan awam, Lin percaya apa yang dia sebut "penyelidikan subjek manusia" mungkin perlu mendapatkan pelepasan terlebih dahulu oleh lembaga etika.

Bandar-bandar telah mula bertindak dengan menetapkan jalan raya sebagai zon "tiada melalui lalu lintas" yang hanya boleh diakses oleh penduduk dan memerlukan Waze untuk menetapkan mereka sebagai had-had untuk melewati pemandu. Sesetengah penduduk yang marah dan berdaya usaha bahkan menyalahgunakan apl nav seperti Waze dengan bangkai hantu, untuk mengalihkan trafik dari kawasan kejiranan mereka.

Lin menegaskan bahawa tujuannya bukan untuk mewujudkan "hujah terhadap teknologi, tetapi hanya untuk serius merenungkan kuasa dan implikasi yang semakin meningkat, sebagai kes ujian bergerak melalui mahkamah undang-undang dan pendapat umum" -dan sebagai lebih banyak kereta memandu sendiri mengambil jalan awam.