Bagaimana gdpr akan memberi kesan kepada industri ai | ben dickson

Dalam apa yang boleh digambarkan sebagai satu jenis perlumbaan senjata, syarikat teknologi telah mengumpulkan banyak data pengguna yang besar untuk mengasah algoritma kecerdasan buatan yang menguasai aplikasi dan platform mereka. Setakat ini, mereka telah banyak mengelakkan akauntabiliti apabila amalan mereka telah mendorong mereka ke kawasan kelabu yang sah dan beretika.

Tetapi itu mungkin berubah pada 25 Mei, apabila Peraturan Perlindungan Data Umum Eropah (GDPR) berkuatkuasa. GDPR akan mengenakan sekatan yang belum pernah berlaku sebelum pengumpulan dan pengendalian data pengguna di wilayah EU dan menampan hukuman berat pada syarikat yang gagal mematuhi.

Itu mungkin terdengar seperti berita buruk bagi syarikat yang menggunakan algoritma AI, yang telah mendapat manfaat daripada peraturan pengumpulan data yang kurang (dan istilah-istilah perkhidmatan servis yang panjang, membosankan, dan tidak jelas). Ada yang takut peraturan yang lebih ketat akan menghalang inovasi dan penggunaan kecerdasan buatan dalam banyak aplikasi dan domain. Yang lain percaya arahan baru itu akan mewujudkan asas di mana aplikasi AI akan menjadi lebih dipercayai dan boleh dipercayai.

Walau apa pun, industri AI berada dalam peralihan besar dalam era GDPR.

Pemilikan dan Privasi Data

"GDPR adalah masalah besar untuk AI, kerana ia memerlukan kita berfikir secara berbeza mengenai bagaimana kita mengumpul dan menggunakan data, " kata Tim Estes, pengasas dan presiden Digital Reasoning. "Untuk terlalu lama, syarikat teknologi telah menegaskan bahawa untuk menerima nilai dari produk dan perkhidmatan mereka, anda terpaksa menyerah data anda."

Sebelum ini, syarikat-syarikat dikehendaki hanya menerima persetujuan yang tidak jelas dari pengguna untuk mengutip semua jenis data. "AI telah membantu mengekalkan kesejukan data besar-memberikan satu lagi sebab mengapa perniagaan harus mengumpul dan mengendalikan semua data yang ada, " kata Estes. "Banyak syarikat telah mula melaksanakan AI untuk menganalisis data mereka hanya kerana mereka fikir mereka sepatutnya-tanpa memikirkan kesan terhadap privasi pengguna atau pemilikan data."

Premis yang paling asas dari GDPR adalah data yang dimiliki oleh pengguna. Di bawah GDPR, syarikat perlu mendedahkan ruang lingkup maklumat yang mereka kumpulkan serta bagaimana mereka menggunakannya dan bagaimana mereka akan melindungi dan menghalang akses tanpa izin. Peraturan baru akan memaksa syarikat AI menjadi lebih teliti mengenai data yang mereka kumpulkan sebagai bertentangan dengan terlibat dalam penimbunan, pemprosesan, dan perkongsian maklumat pengguna yang dikehendaki.

Hak untuk Terlupakan

GDPR memberikan pengguna kuasa untuk menuntut bahawa syarikat memadam semua data mereka dari pelayannya. Ini tidak akan berfungsi dengan baik dengan syarikat AI, yang mempunyai kepentingan untuk menyimpan data pengguna sebanyak mungkin untuk melaksanakan tugas seperti meramalkan trend dan tingkah laku pengguna.

"Pada akhir hari, GDPR adalah mengenai bagaimana anda mengumpul dan menguruskan data dan tidak semestinya mengenai berapa banyak data yang anda miliki, " kata Maryna Burushkina, Ketua Pegawai Eksekutif GrowthChannel. "Kesukaran utama yang akan dihadapi oleh kebanyakan syarikat adalah mengenai mendapatkan opt-in, tetapi lebih banyak menguruskan data, menyampaikan penggunaan data kepada pengguna, dan membolehkan pengguna memecatnya."

Syarikat-syarikat AI perlu membuat langkah-langkah tambahan untuk menamakan data mereka jika mereka masih mahu mendapat akses kepada pandangan ini. Tetapi cabaran lain menghadapi syarikat-syarikat yang sudah mempunyai kedai-kedai data pengguna yang besar.

"Di bawah GDPR, jika syarikat mahu memadamkan PII tertentu, mereka perlu memastikan ia terhapus di mana-mana, " kata Amnon Drori, Ketua Pegawai Eksekutif Octopai. Ini boleh menjadi tugas yang sukar untuk dilakukan secara manual apabila data anda tersebar di pelayan yang berlainan dan disimpan dalam format terstruktur dan tidak berstruktur yang berlainan.

Contohnya, apabila memotong nombor kad kredit pengguna (sememangnya maklumat sensitif), syarikat perlu melihat setiap laporan, pangkalan data, objek pangkalan data, dan ETL di mana maklumat disimpan. "Kadang-kadang kita melihat nama metadata yang berbeza untuk item yang sama: contohnya, 'nombor kad kredit', 'nombor cc', nombor c kredit ', ' nombor kad ', ' nombor kad kredit '. pada, "kata Drori. Sering kali mustahil untuk mengetahui di mana hendak melihat dan proses itu boleh mengambil masa beberapa minggu atau bulan, dan seperti banyak proses manual, ia adalah mudah untuk kesalahan manusia dan ketidaktepatan, kata Drori.

GDPR juga akan menaikkan kos kesilapan manusia dalam mengendalikan data. "Ini sebabnya begitu banyak syarikat hari ini mencari penyelesaian automatik untuk mengurus metadata mereka secara tepat, " kata Drori. Mungkin ironinya, AI sendiri boleh menjadi penyelesaian dalam hal ini. Alat pengurusan metadata berkuasa AI boleh mengimbas semua sumber data dalam organisasi dan menyatukan hubungan antara alat dan sumber data yang berbeza.

Hak untuk Penjelasan

Salah satu bahagian yang paling penting dalam GDPR mengenai AI adalah apa yang dikenali sebagai "hak penjelasan." Arahan itu menyatakan bahawa syarikat-syarikat mesti memberitahu pengguna tentang "kewujudan pengambilan keputusan secara automatik" dan memberi mereka "maklumat yang bermakna tentang logik yang terlibat, serta kepentingan dan kesan yang dijangkakan dari pemprosesan sedemikian untuk subjek data."

Pada dasarnya ini bermakna pengguna perlu tahu apabila mereka secara langsung atau tidak langsung tertakluk kepada algoritma AI dan harus dapat mencabar keputusan yang dibuat oleh algoritma dan meminta bukti bagaimana kesimpulan itu diperoleh. Ini akan menjadi salah satu cabaran terbesar yang akan dihadapi oleh industri AI.

Rangkaian neural yang mendalam, teknologi utama di sebalik algoritma AI kontemporari, merupakan struktur perisian yang kompleks yang mewujudkan peraturan fungsi mereka sendiri dengan menganalisis set data yang besar dan mencari korelasi dan corak. Oleh kerana rangkaian saraf tumbuh lebih kompleks, tingkah laku mereka menjadi semakin sukar untuk mengurai. Selalunya, jurutera tidak boleh menjelaskan sebab-sebab di sebalik keputusan membuat algoritma AI mereka.

Memanggil masalah "kotak hitam", ketidakpastian algoritma AI telah membuatnya sukar untuk melaksanakannya dalam keputusan mahkamah, penguatkuasaan undang-undang, pinjaman dan aplikasi kredit, merekrut, penjagaan kesihatan dan domain kritikal lain. Tetapi tanpa sebarang leverage undang-undang, syarikat AI mempunyai sedikit insentif untuk membuat algoritma AI mereka lebih telus, terutama apabila mereka berkait rapat dengan rahsia perdagangan mereka.

Kini, GDPR akan memegang syarikat AI untuk membuat keputusan mengenai algoritma mereka.

"Sebagai sebahagian daripada GDPR, organisasi bertanggungjawab untuk menerangkan dengan jelas kaedah pemprosesan dalam bahasa manusia ketika meminta persetujuan dari subjek, " kata Pascal Geenens, penyelidik keselamatan di Radware. "Oleh kerana pembelajaran mendalam berkembang, dan para saintis data tidak mampu mencirikan sifat deterministik di sebalik penalaran rangkaian neural, gambaran ini mungkin menjadi lebih rumit dan sukar dijelaskan."

Pada dasarnya, GDPR adalah mengenai membuat manusia yang memproses data bertanggungjawab, kata Geenens. Jadi jika anda menggunakan algoritma pembelajaran mesin untuk melakukan pemprosesan, anda mesti mereka bentuk dengan cara yang membolehkan anda menerangkan keputusan yang dibuat untuk pihak anda.

Sebilangan organisasi berusaha untuk membangunkan teknologi untuk menjadikan AI lebih telus. Yang terkenal di kalangan mereka adalah DARPA's Explainable AI (XAI), sebuah projek penyelidikan yang bertujuan untuk membuat keputusan berasaskan AI dapat difahami.

AI Outsourcing

GDPR juga akan mempengaruhi organisasi yang membuat data mereka tersedia kepada pihak ketiga. Satu contoh terkemuka syarikat itu ialah Facebook; dalam skandal Cambridge Analytica, gergasi media sosial gagal menghalang syarikat perlombongan data daripada mengumpul dan menyalahgunakan data 87 juta pengguna. Tetapi GDPR juga akan mempunyai implikasi untuk syarikat yang mengeksport fungsi AI mereka dan membuat data mereka tersedia untuk penyedia AI.

"Walaupun ramai yang menganggap bahawa pembekal AI adalah seperti pembekal perkhidmatan lain-hanya menawarkan teknologi mereka sebagai pertukaran untuk pampasan kewangan-sebenarnya, pembekal AI juga memasuki perkongsian perniagaan sebagai cara untuk membangun dan mengembangkan teknologi mereka, " kata Estes, ketua eksekutif dari Penjelasan Digital. Ini bermakna pembekal AI mungkin mahu memegang data klien untuk melatih algoritma mereka sendiri dan menggunakannya dalam domain lain.

Contohnya, pembekal AI yang membantu organisasi penjagaan kesihatan mencari corak dalam gejala dan meningkatkan diagnosis mungkin dapat melihat set data yang meningkatkan algoritma proprietinya. Syarikat AI mungkin ingin memanfaatkan data untuk meningkatkan algoritma untuk jenis penjagaan pesakit lain, untuk mengembangkan keupayaannya untuk membantu penyedia penjagaan kesihatan yang lain. Di bawah GDPR, organisasi penjagaan kesihatan yang bertanggungjawab terhadap data akan dipertanggungjawabkan untuk mengambil kira penggunaan tidak beretika oleh pembekal AI. Kuncinya, Estes percaya, adalah untuk perniagaan mencari pembekal AI yang percaya memiliki algoritma, bukan data.

"GDPR akan memaksa perniagaan untuk memberi perhatian yang lebih mendalam tentang bagaimana dan bila data mereka digunakan, di mana ia disimpan, dan apa yang berlaku selepas projek selesai, " kata Estes. "Ini bermakna bekerja dengan pembekal AI yang membantu menentukan garis pemilikan data dan melaksanakan strategi yang melindungi maklumat pengguna, sementara tidak menghalang cara yang dapat membantu mengembangkan kejayaan algoritma AI."

Adakah GDPR Hamper AI Inovasi?

Pakar-pakar yang kami cakap percaya bahawa walaupun peraturan-peraturan baru akan mencabar amalan-amalan dan tabiat semasa AI mengadopsi, ia juga akan memaksa mereka untuk mencari cara baru untuk berinovasi dan juga untuk menghormati piawaian privasi dan etika.

"Dengan peraturan GDPR yang berkuat kuasa, semua syarikat perisian utama mengambil langkah-langkah yang perlu untuk tidak hanya memastikan pematuhan tetapi juga untuk membuat inovasi dan memikirkan kotak untuk mencari peluang baru di pasaran, " kata Burushkina GrowthChannel.

"Inovasi tidak akan terhalang-tetapi diarahkan dan dimotivasi-oleh GDPR, " kata Drori Octopai. Sementara itu, GDPR juga akan menimbulkan perniagaan dan teknologi baru yang akan membantu organisasi mencapai dan mengekalkan pematuhan GDPR.

Piawaian yang ditetapkan oleh GDPR sebenarnya boleh membantu merapatkan jurang kepercayaan yang semakin meluas antara penyedia dan pengguna perkhidmatan berkuasa AI. Estes percaya GDPR akan menjadikan kedua-dua penyedia AI dan mereka yang melaksanakan teknologi mereka lebih bertanggungjawab untuk bagaimana dan di mana mereka menggunakan sumber data dan mendorong mereka untuk meletakkan pengguna sebelum keuntungan. "Pada penghujung hari, " katanya, "pembekal AI hanya perlu memiliki algoritma-bukan data-untuk membuat inovasi keupayaan dan penyelesaian mereka."