Mengapa ai mesti mendedahkan bahawa ia ai

Google baru-baru ini menyalin Duplex untuk secara jelas menunjukkan kepada tuan rumah restoran dan kakitangan salon bahawa mereka bercakap dengan Pembantu Google dan sedang direkodkan.

Google tidak memasukkan butiran kecil tetapi penting ketika pertama kali memperkenalkan Duplex pada persidangan pemaju I / O pada bulan Mei. Serangan media berlaku, dan pengkritik memperbaharui ketakutan lama mengenai implikasi yang melepaskan agen AI yang dapat meniru tingkah laku manusia dengan cara yang tidak dapat dibezakan.

Dengan tweaking Duplex, Google meletakkan beberapa kritikan itu. Tetapi mengapa begitu penting bahawa syarikat telus mengenai identiti agen AI mereka?

Bolehkah Penolong AI Memberi Kesusahan Kejam?

"Terdapat jangkaan yang semakin meningkat apabila anda membuat pesanan perniagaan, anda boleh berinteraksi dengan chatbot berkuasa AI, tetapi apabila anda benar-benar mendengar pembicaraan manusia, anda biasanya mengharapkan ia menjadi orang yang sebenar, " kata Joshua March, CEO daripada Coversocial.

Mac mengatakan bahawa kita pada awal orang mempunyai interaksi bermakna dengan AI secara teratur, dan kemajuan di lapangan telah menciptakan ketakutan bahawa penggodam boleh mengeksploitasi agen AI untuk tujuan yang berniat jahat.

"Dalam senario terbaik, bot AI dengan niat jahat boleh menyinggung perasaan orang, " kata Marcio Avillez, SVP Networks di Cujo AI. Tetapi Marcio menambah bahawa kita mungkin menghadapi ancaman yang lebih besar. Sebagai contoh, AI dapat mempelajari corak linguistik tertentu, menjadikannya lebih mudah untuk menyesuaikan teknologi untuk memanipulasi orang, meniru mangsa, dan tahap serangan vishing (suara phishing) dan aktiviti serupa.

Ramai pakar bersetuju ancaman itu adalah benar. Di dalam lajur untuk CIO, Steven Brykman menerangkan pelbagai cara teknologi seperti Duplex boleh dieksploitasi: "Sekurang-kurangnya dengan manusia yang memanggil manusia, masih ada faktor yang membatasi-manusia hanya boleh membuat banyak panggilan per jam, setiap hari. Manusia harus dibayar, mengambil rehat, dan sebagainya. Tetapi chatbot AI secara literal boleh membuat panggilan tanpa had kepada bilangan orang tanpa had dalam pelbagai cara!"

Pada peringkat ini, kebanyakan yang kita dengar adalah spekulasi; kita masih tidak tahu tahap dan keseriusan ancaman yang boleh timbul dengan munculnya pembantu suara. Tetapi banyak serangan berpotensi yang melibatkan pembantu berasaskan suara boleh ditolak jika syarikat menyediakan teknologi dengan jelas menyampaikan kepada pengguna apabila mereka berinteraksi dengan agen AI.

Kebimbangan Privasi

Satu lagi masalah yang mengelilingi penggunaan teknologi seperti Duplex adalah risiko yang berpotensi untuk privasi. Sistem berkuasa AI memerlukan data pengguna untuk melatih dan memperbaiki algoritma mereka, dan Duplex tidak terkecuali. Bagaimana ia akan menyimpan, menjamin, dan menggunakan data itu sangat penting.

Peraturan-peraturan baru muncul yang memerlukan syarikat-syarikat untuk mendapatkan persetujuan pengguna yang jelas apabila mereka ingin mengumpulkan maklumat mereka, tetapi mereka kebanyakannya direka untuk menampung teknologi di mana pengguna dengan sengaja memulakan interaksi. Ini masuk akal untuk pembantu AI seperti Siri dan Alexa, yang diaktifkan pengguna. Tetapi tidak jelas bagaimana peraturan baru akan digunakan untuk pembantu AI yang menjangkau pengguna tanpa dicetuskan.

Dalam artikelnya, Brykman menekankan perlunya menubuhkan perlindungan kawal selia, seperti undang-undang yang menghendaki syarikat mengisytiharkan kehadiran agen AI-atau undang-undang yang apabila anda meminta chatbot sama ada itu chatbot, ia perlu berkata, "Ya, Saya seorang chatbot. " Langkah-langkah sedemikian akan memberi perhatian kepada manusia untuk melepaskan atau sekurang-kurangnya memutuskan sama ada mereka mahu berinteraksi dengan sistem AI yang merekodkan suara mereka.

Walaupun dengan undang-undang sedemikian, kebimbangan privasi tidak akan hilang. "Risiko terbesar yang saya jangkakan dalam penjelmaan semasa teknologi ialah ia akan memberi lebih banyak data kepada Google mengenai kehidupan peribadi kita yang belum ada. Sehingga ini, mereka hanya mengetahui komunikasi dalam talian kami, sekarang mereka akan mendapat gambaran sebenar perbualan dunia kita yang sebenar, "kata Vian Chinner, pengasas dan CEO Xineoh.

Skandal privasi baru-baru ini yang melibatkan syarikat teknologi tinggi, di mana mereka telah menggunakan data pengguna dalam cara yang dipersoalkan untuk keuntungan mereka sendiri, telah mewujudkan rasa tidak percaya tentang memberi mereka lebih banyak tingkap ke dalam kehidupan kita. "Orang ramai merasakan bahawa syarikat Silicon Valley yang besar melihatnya sebagai inventori dan bukannya pelanggan dan mempunyai tahap kesangsian yang besar terhadap hampir apa sahaja yang mereka lakukan, tidak kira betapa menggembirakan dan mengubah hidupnya akan berakhir, " kata Chinner.

Kegagalan Fungsian

Walaupun mempunyai suara dan nada semula jadi dan menggunakan bunyi seperti manusia seperti "mmhm" dan "ummm, " Duplex tidak berbeza dengan teknologi AI kontemporari yang lain dan mempunyai batasan yang sama.

Sama ada suara atau teks digunakan sebagai antara muka, ejen AI baik dalam menyelesaikan masalah tertentu. Itulah sebabnya kita panggil mereka "sempit AI" (berbanding dengan "umum AI") - jenis kecerdasan buatan yang boleh melibatkan penyelesaian masalah umum, seperti minda manusia). Walaupun sempit AI boleh sangat baik dalam melakukan tugas-tugas yang diprogramkan untuk, ia boleh gagal secara spektakuler apabila ia diberi senario yang menyimpang dari domain masalahnya.

"Jika pengguna fikir mereka bercakap kepada manusia, mereka mungkin akan bertanya sesuatu yang berada di luar skrip normal AI, dan kemudian akan mendapat sambutan yang mengecewakan apabila bot tidak faham, " kata Conversocial pada Mac.

Sebaliknya, apabila seseorang tahu bahawa mereka bercakap dengan AI yang telah dilatih untuk menempah meja di sebuah restoran, mereka akan cuba mengelakkan menggunakan bahasa yang akan mengelirukan AI dan menyebabkannya berkelakuan dengan cara yang tidak dijangka, terutama jika ia membawa mereka pelanggan.

"Ahli-ahli kakitangan yang menerima panggilan daripada Duplex juga perlu menerima pengenalan yang jelas bahawa ini bukan orang sebenar, ini akan membantu komunikasi antara kakitangan dan AI supaya lebih konservatif dan jelas, " kata Avillez.

Atas sebab ini, sehingga (dan jika) kita membangunkan AI yang boleh melakukan setaraf dengan kecerdasan manusia, adalah demi kepentingan syarikat sendiri untuk menjadi telus mengenai penggunaan AI.

Pada penghujung hari, sebahagian daripada ketakutan pembantu suara seperti Duplex disebabkan oleh fakta bahawa mereka baru, dan kami masih membiasakan diri dalam menghadapi tetapan baru dan menggunakan kes-kes. "Sekurang-kurangnya sesetengah orang kelihatan sangat tidak selesa dengan idea untuk bercakap dengan robot tanpa mengetahui, jadi pada masa ini ia mungkin akan didedahkan kepada pihak yang terlibat dalam perbualan, " kata Chinner.

• AI Adakah (Juga) Pasukan untuk Baik AI Adakah (Juga) Pasukan untuk Baik
• Apabila AI Blurs Jalur Antara Reality dan Fiksyen Ketika AI Blurs Jalur Antara Reality dan Fiksyen
• Kecerdasan Buatan Mempunyai Masalah Bias, dan Ia Kecerdasan Buatan Kecederaan Kami Mempunyai Masalah Bias, dan Ini Kesalahan Kita

Tetapi dalam jangka masa panjang, kami akan menjadi biasa berinteraksi dengan ejen AI yang lebih pintar dan lebih mampu melaksanakan tugas yang sebelum ini dianggap sebagai domain eksklusif pengendali manusia.

"Generasi yang akan datang tidak akan peduli jika mereka bercakap dengan AI atau manusia ketika mereka menghubungi perniagaan. Mereka hanya ingin mendapatkan jawapan mereka dengan cepat dan mudah, dan mereka akan bertambah bercakap dengan Alexa. tahan untuk bercakap kepada manusia akan menjadi lebih mengecewakan daripada hanya berinteraksi dengan bot, "kata Conversocial Mac.