Beritahu anak kucing anda apa yang anda fikirkan di dalam - kesan kotak hitam

Hakikat bahawa algoritma AI lanjutan adalah seperti kotak hitam (1) yang membuang hasil tanpa mendedahkan bagaimana ia berlaku membimbangkan sesetengah orang dan mengganggu orang lain.

Pada 2015, pasukan penyelidik di Hospital Mount Sinai di New York diminta menggunakan kaedah ini untuk menganalisis pangkalan data pesakit tempatan yang luas (2). Koleksi yang luas ini mengandungi lautan maklumat pesakit, keputusan ujian, preskripsi dan banyak lagi.

Para saintis memanggil program analisis yang dibangunkan semasa menjalankan kerja. Ia melatih data daripada kira-kira 700 orang. manusia, dan apabila diuji dalam pendaftaran baharu, ia telah terbukti sangat berkesan dalam meramal penyakit. Tanpa bantuan pakar manusia, dia menemui corak dalam rekod hospital yang menunjukkan pesakit mana yang sedang dalam laluan kepada penyakit, seperti kanser hati. Menurut pakar, kecekapan prognostik dan diagnostik sistem jauh lebih tinggi daripada kaedah lain yang diketahui.

2. Sistem kecerdasan buatan perubatan berdasarkan pangkalan data pesakit

Pada masa yang sama, para penyelidik menyedari bahawa ia berfungsi dengan cara yang misteri. Ternyata, sebagai contoh, ia sesuai untuk pengiktirafan gangguan mentalseperti skizofrenia, yang amat sukar bagi doktor. Ini mengejutkan, terutamanya kerana tiada siapa yang tahu bagaimana sistem AI boleh melihat penyakit mental dengan baik hanya berdasarkan rekod perubatan pesakit. Ya, pakar sangat gembira dengan bantuan pakar diagnostik mesin yang cekap, tetapi mereka akan lebih berpuas hati jika mereka memahami bagaimana AI membuat kesimpulannya.

Lapisan neuron buatan

Sejak awal lagi, iaitu sejak konsep kecerdasan buatan diketahui, terdapat dua sudut pandangan tentang AI. Yang pertama mencadangkan bahawa adalah paling munasabah untuk membina mesin yang menaakul mengikut prinsip dan logik manusia yang diketahui, menjadikan kerja dalaman mereka telus kepada semua orang. Yang lain percaya bahawa kecerdasan akan muncul dengan lebih mudah jika mesin belajar melalui pemerhatian dan eksperimen berulang.

Yang terakhir bermaksud membalikkan pengaturcaraan komputer biasa. Daripada pengaturcara menulis arahan untuk menyelesaikan masalah, program menjana algoritma sendiri berdasarkan data sampel dan hasil yang dikehendaki. Kaedah pembelajaran mesin yang kemudiannya berkembang menjadi sistem AI yang paling berkuasa yang diketahui hari ini baru sahaja menempuh jalan, sebenarnya, mesin itu sendiri memprogramkan.

Pendekatan ini kekal pada margin penyelidikan sistem AI pada tahun 60-an dan 70-an. Hanya pada awal dekad sebelumnya, selepas beberapa perubahan dan penambahbaikan perintis, Rangkaian saraf "dalam". mula menunjukkan peningkatan radikal dalam keupayaan persepsi automatik. 

Pembelajaran mesin yang mendalam telah memberikan komputer dengan kebolehan yang luar biasa, seperti keupayaan untuk mengecam perkataan yang dituturkan hampir sama tepat seperti manusia. Ini adalah kemahiran yang terlalu kompleks untuk diprogramkan lebih awal. Mesin mesti boleh mencipta "program" sendiri dengan latihan mengenai set data yang besar.

Pembelajaran mendalam juga telah mengubah pengecaman imej komputer dan banyak meningkatkan kualiti terjemahan mesin. Hari ini, ia digunakan untuk membuat pelbagai keputusan penting dalam bidang perubatan, kewangan, pembuatan dan banyak lagi.

Namun, dengan semua ini anda tidak boleh hanya melihat ke dalam rangkaian saraf dalam untuk melihat cara "dalam" berfungsi. Proses penaakulan rangkaian dibenamkan dalam gelagat beribu-ribu neuron simulasi, disusun ke dalam berpuluh-puluh atau bahkan ratusan lapisan yang saling berkait..

Setiap neuron dalam lapisan pertama menerima input, seperti keamatan piksel dalam imej, dan kemudian melakukan pengiraan sebelum mengeluarkan output. Mereka dihantar dalam rangkaian kompleks ke neuron lapisan seterusnya - dan seterusnya, sehingga isyarat keluaran akhir. Selain itu, terdapat proses yang dikenali sebagai melaraskan pengiraan yang dilakukan oleh neuron individu supaya rangkaian latihan menghasilkan hasil yang diinginkan.

Dalam contoh yang sering disebut berkaitan dengan pengecaman imej anjing, tahap AI yang lebih rendah menganalisis ciri mudah seperti bentuk atau warna. Yang lebih tinggi berurusan dengan isu yang lebih kompleks seperti bulu atau mata. Hanya lapisan atas yang menyatukan semuanya, mengenal pasti set penuh maklumat sebagai anjing.

Pendekatan yang sama boleh digunakan pada jenis input lain yang memberi kuasa kepada mesin untuk belajar sendiri: bunyi yang membentuk perkataan dalam pertuturan, huruf dan perkataan yang membentuk ayat dalam teks bertulis atau stereng, contohnya. pergerakan yang diperlukan untuk memandu kenderaan.

Kereta tidak melangkau apa-apa.

Percubaan dibuat untuk menerangkan apa sebenarnya yang berlaku dalam sistem sedemikian. Pada 2015, penyelidik di Google mengubah suai algoritma pengecaman imej pembelajaran mendalam supaya bukannya melihat objek dalam foto, ia menjana atau mengubah suainya. Dengan menjalankan algoritma ke belakang, mereka ingin menemui ciri yang digunakan oleh program untuk mengenali, katakan, burung atau bangunan.

Eksperimen ini, yang dikenali secara terbuka sebagai tajuk, menghasilkan gambaran menakjubkan (3) haiwan, landskap dan watak yang aneh, pelik. Dengan mendedahkan beberapa rahsia persepsi mesin, seperti fakta bahawa corak tertentu berulang kali dikembalikan dan diulang, mereka juga menunjukkan bagaimana pembelajaran mesin mendalam berbeza daripada persepsi manusia - contohnya, dalam erti kata ia mengembang dan menduplikasi artifak yang kita abaikan dalam proses persepsi kita tanpa berfikir . .

3. Imej yang dicipta dalam projek

By the way, sebaliknya, eksperimen ini telah membongkar misteri mekanisme kognitif kita sendiri. Mungkin dalam persepsi kita terdapat pelbagai komponen yang tidak dapat difahami yang membuatkan kita segera memahami dan mengabaikan sesuatu, sementara mesin dengan sabar mengulangi lelarannya pada objek "tidak penting".

Ujian dan kajian lain telah dijalankan dalam usaha untuk "memahami" mesin tersebut. Jason Yosinski dia mencipta alat yang bertindak seperti probe yang tersangkut di otak, menyasarkan mana-mana neuron buatan dan mencari imej yang mengaktifkannya dengan paling kuat. Dalam percubaan terakhir, imej abstrak muncul sebagai hasil daripada "mengintip" rangkaian dengan tangan merah, yang menjadikan proses yang berlaku dalam sistem lebih misteri.

Walau bagaimanapun, bagi kebanyakan saintis, kajian sedemikian adalah salah faham, kerana, pada pendapat mereka, untuk memahami sistem, untuk mengenali corak dan mekanisme urutan yang lebih tinggi untuk membuat keputusan yang kompleks, semua interaksi pengiraan dalam rangkaian neural yang mendalam. Ia adalah maze gergasi fungsi dan pembolehubah matematik. Pada masa ini, ia tidak dapat difahami oleh kita.

Komputer tidak akan dimulakan? kenapa?

Mengapakah penting untuk memahami mekanisme membuat keputusan sistem kecerdasan buatan lanjutan? Model matematik sudah digunakan untuk menentukan banduan yang boleh dibebaskan dengan parol, siapa yang boleh diberi pinjaman, dan siapa yang boleh mendapatkan pekerjaan. Mereka yang berminat ingin tahu mengapa ini dan bukan keputusan lain dibuat, apakah alasan dan mekanismenya.

dia mengaku pada April 2017 dalam Kajian Teknologi MIT. Tommy Yaakkola, seorang profesor MIT bekerja pada aplikasi untuk pembelajaran mesin. -.

Malah terdapat kedudukan undang-undang dan dasar bahawa keupayaan untuk meneliti dan memahami mekanisme membuat keputusan sistem AI adalah hak asasi manusia.

Sejak 2018, EU telah berusaha untuk menghendaki syarikat memberikan penjelasan kepada pelanggan mereka tentang keputusan yang dibuat oleh sistem automatik. Ternyata ini kadangkala tidak boleh dilakukan walaupun dengan sistem yang kelihatan agak mudah, seperti apl dan tapak web yang menggunakan sains mendalam untuk memaparkan iklan atau mengesyorkan lagu.

Komputer yang menjalankan perkhidmatan ini memprogramkan sendiri, dan mereka melakukannya dengan cara yang kita tidak faham... Malah jurutera yang mencipta aplikasi ini tidak dapat menerangkan sepenuhnya cara ia berfungsi.