Microsoft memecah bagaimana untuk menjalankan kedai etika itu

Presiden Microsoft Brad Smith mengambil langkah luar biasa untuk menerbitkan sebuah posting blog pada hari Jumaat, 13 Julai 2018, di mana dia meminta pemerintah untuk mengatur teknologi perusahaannya sendiri sedang berkembang. Teknologi itu adalah pengiktirafan muka, dan Smith sudah melihat bahaya dalam membenarkan penggunaan seperti kemampuan, terutama oleh pemerintah. Tetapi Smith juga menegaskan bahawa penyalahgunaan pengenalan muka dalam industri swasta boleh mempunyai kesan yang sama seperti mengerikan.

Beberapa hari kemudian, Persatuan Jentera Pengkomputeran (ACM) telah melukis di laman webnya Kod Etika dan Tingkah Laku Profesional ACM, iaitu kod tingkah laku profesional baru yang mengambil pendirian yang sama dengan Microsoft, tetapi yang lebih luas dalam liputan tingkah laku etika dalam perniagaan teknologi maklumat (IT). Apa yang kedua-dua jawatan mempunyai persamaan adalah idea untuk mengekalkan tahap tanggungjawab korporat yang tinggi. Itulah sesuatu yang banyak profesional IT cuba untuk mengabaikan dan meninggalkan kepada orang-orang yang lebih tinggi di rantai makanan payscale-sikap yang sama-sama malang dan berbahaya.

Smith, dalam catatan blognya, bimbang tentang penyalahgunaan pengenalan muka. Dia menyedari bahawa, walaupun di kampus besar yang dianjurkan di sekitar teknologi semasa, terutamanya toensik keselamatan seperti yang digunakan oleh banyak sistem pengurusan identiti, adalah mungkin untuk menjaga jejak yang sangat dekat di mana orang berada dan, dari sana, meneliti apa yang mereka lakukan. Tetapi dengan pengiktirafan muka, ada kemungkinan untuk menghilangkan individu dari mana-mana orang di mana sahaja, dan bukan hanya mengesan tempat mereka tetapi juga menyimpan rekod di mana mereka berdasarkan sedikit data selain dari ciri fizikal mereka. Seperti yang ditunjukkan oleh Smith, pengesanan sedemikian sudah berlaku di China. Smith meminta suruhanjaya untuk mengkaji penggunaan dan akibat pengiktirafan muka di Amerika Syarikat.

Pengiktirafan Muka sebagai Borang ID yang Boleh Dipercayai

Jelas sekali, dalam banyak kes, 24x7 pemantauan pergerakan individu adalah haram di AS, seperti yang dibuktikan oleh keputusan Mahkamah Agung AS baru-baru ini mengenai penggunaan pengesanan lokasi telefon bimbit dan penggunaan peranti GPS tanpa waran. Tetapi itu tidak bermakna bahawa sesetengah agensi, di suatu tempat, tidak akan cuba.

Begitu juga, tidak ada persoalan bahawa pengiktirafan muka telah berkembang hingga ke tahap yang dapat digunakan sebagai bentuk identifikasi (ID) yang boleh dipercayai. Sudah, sesetengah syarikat penerbangan sedang menguji pengenalan muka untuk melewati talian keselamatan dan untuk digunakan dalam kapal terbang di Los Angeles International Airport (LAX). Begitu juga, apabila saya kembali ke Washington, DC pada penerbangan dari London bulan lepas, semua yang diperlukan untuk saya masuk ke AS adalah pandangan muka saya dengan kamera dan imbasan cap jari saya semasa pasport saya sedang diimbas oleh pembaca.

Pengiktirafan Muka: Langkah Seterusnya

Jadi, persoalannya, apakah langkah seterusnya? Sebagai pro IT, katakan anda diminta membuat sistem pengenalan muka untuk majikan anda yang akan mengenal pasti orang yang tidak dikehendaki oleh syarikat di atas harta atau premis mereka. Mungkin mereka telah lulus pemeriksaan buruk, disyaki mengutil, atau pekerja yang dipecat.

Apa yang akan kamu lakukan? Kesemuanya adalah alasan yang baik untuk tidak membenarkan seseorang masuk ke kedai atau ke harta benda anda. Kemungkinannya, anda tidak akan mempunyai banyak masalah untuk mencari foto mereka supaya sistem pengiktirafan dengan mudah dapat mengenal pasti mereka. Jadi, apa yang akan datang?

Ini adalah sebahagian daripada proses membuat keputusan anda, di mana anda perlu membuat keputusan bagaimana menggunakan pengiktirafan muka, atau data biometrik lain untuk perkara itu, sebagai sebahagian daripada dasar keselamatan anda. Ini bukan sebagai cut-and-dried sebagai tindak balas anda terhadap peringatan malware dari salah satu nod perlindungan endpoint anda. Maklum balas ini tidak boleh dilakukan secara automatik. Oleh itu, adakah anda menetapkan penggera? Halaman pengurus kemudahan? Keselamatan isyarat? Panggil polis? Jawapan kepada mana-mana ini boleh menjadi ya, tetapi ia juga boleh menjadi tidak-dan membuat keputusan yang salah boleh menjadi kesilapan yang berakhir dengan kerjaya.

7 Tips Menggunakan Pengiktirafan Muka dengan bijak

Berikut adalah beberapa petua yang mungkin membantu mengurangkan peluang masalah semasa masih melindungi organisasi anda:

Maklumkan notis di mana pelawat dan pekerja akan melihatnya, memaklumkan mereka bahawa anda menggunakan video pengawasan dan pengiktirafan muka sebagai sebahagian daripada operasi keselamatan anda. (Peguam anda akan dengan senang hati membantu bahasa sebenarnya.)

Pastikan terdapat manusia dalam gelung sebelum sebarang tindakan diambil berdasarkan sebarang jenis ID biometrik. Walaupun ia semakin baik, pengiktirafan muka, seperti biometrik lain, tidak boleh dipercayai 100 peratus. Sebelum anda mengambil tindakan, seseorang perlu mengesahkan apa yang dikatakan sistem pengiktirafan. (Bekerjasama dengan jabatan undang-undang dan pengurusan kanan untuk memetakan perkara ini.)

Kenali keterbatasan sistem ID wajah atau biometrik anda. Sebagai contoh, teknologi pengenalan wajah semasa berfungsi dengan baik dengan lelaki putih tetapi tidak begitu baik dengan wanita bukan putih. Anda perlu pastikan anda tidak melakukan profil perkauman secara tidak sengaja. Ingat kesedihan yang ditimpa syarikat, dari CVS ke Starbucks, apabila, sengaja atau tidak, mereka melakukannya. (Semua dalam semua, perbincangan yang sangat baik untuk mempunyai pasukan undang-undang anda.)

Pastikan terdapat prosedur "Oops". Anda akan mempunyai ID yang salah, jadi anda perlu pastikan mereka tidak memalukan orang atau syarikat itu. (Sekali lagi, kedua-dua peguam dan pengurusan kanan syarikat anda perlu menimbang di sini.)

Tentukan terlebih dahulu di mana anda akan berkongsi hasil pemeriksaan ID anda. Anda tidak boleh menghantar segala-galanya kepada pelbagai pihak berkuasa kerajaan. Anda perlu menentukan apa yang anda boleh berkongsi, apa yang anda tidak boleh kongsi, dan apa yang memerlukan waran. Kemudian pastikan prosedur dalaman anda kuat supaya pekerja anda tidak cuba untuk mengimbangi dengan berkongsi apa yang tidak boleh dikongsi. (Ini mungkin perbualan yang lebih lama dengan peguam anda, supaya pesanan dalam pizza.)

Selalu menguji sistem ID anda terhadap set data yang paling terkenal supaya anda boleh membuat pengiktirafan lebih tepat. (Penjual pengiktirafan wajah anda harus mempunyai set data sedemikian tersedia, dan dari masa ke masa, anda akan dapat membina sendiri.)

• Akhir sekali, berhati-hati siapa yang anda sasarkan untuk pengiktirafan. Orang ramai mempunyai hak privasi yang kuat, dan pelanggaran terhadap hak-hak tersebut boleh menyebabkan organisasi anda mahal. (Tebak apa lagi masa peguam?)

Walaupun syarikat anda tidak dapat mengawal apa yang kerajaan memutuskan untuk melakukan pengiktirafan muka, yang mungkin tidak diberi suasana disfungsional di Washington, DC hari ini, anda boleh mengawal apa yang berlaku di premis anda sendiri. Malah, anda akan dijangka jika anda mendapati diri anda berada di hadapan hakim. Berikutan prinsip etika ACM yang jujur ​​dan boleh dipercayai dan mengambil langkah-langkah untuk tidak mendiskriminasi ketika melindungi privasi menjadi lebih penting dari sebelumnya.