Siapa yang akan dibunuh oleh kereta pandu sendiri? Mesin, selamatkan seramai mungkin orang, tetapi yang paling penting, selamatkan saya!

Jika timbul situasi di mana sistem autonomi kereta perlu membuat pilihan pantas tentang siapa yang perlu dikorbankan sekiranya berlaku kemalangan yang akan berlaku, bagaimanakah ia harus bertindak balas? Mengorbankan penumpang untuk menyelamatkan pejalan kaki? Jika perlu, bunuh pejalan kaki untuk menyelamatkan, sebagai contoh, empat keluarga yang menaiki kereta? Atau mungkin dia harus sentiasa melindungi dirinya dahulu?

Walaupun lebih daripada enam puluh syarikat telah menerima permit ujian peribadi di California sahaja, sukar untuk mengatakan bahawa industri bersedia untuk menghadapi dilema etika. Pada masa ini, dia sedang bergelut dengan lebih banyak masalah asas - operasi dan kecekapan navigasi sistem dan hanya mengelakkan perlanggaran dan kejadian yang tidak dijangka. Dalam situasi seperti pembunuhan pejalan kaki di Arizona baru-baru ini, atau kemalangan berikutnya (1), setakat ini ia hanya mengenai kegagalan sistem, dan bukan tentang beberapa jenis "pilihan etika" kereta.

Selamatkan orang kaya dan muda

Isu membuat keputusan seperti ini bukanlah masalah abstrak. Mana-mana pemandu berpengalaman boleh mengesahkan ini. Tahun lepas, penyelidik dari Makmal Media MIT menganalisis lebih empat puluh juta respons daripada responden dari seluruh dunia, yang mereka kumpulkan semasa penyelidikan yang dilancarkan pada 2014. Sistem tinjauan pendapat yang mereka panggil "Mesin Etika", menunjukkan bahawa di pelbagai tempat di sekeliling dunia, soalan yang sama ditanya jawapan yang berbeza.

Kesimpulan yang paling umum boleh diramalkan. Dalam keadaan yang melampau orang lebih suka menyelamatkan orang daripada menjaga haiwan, bertujuan untuk menyelamatkan sebanyak mungkin nyawa, dan cenderung untuk menjadi lebih muda daripada orang tua (2). Terdapat juga beberapa, tetapi kurang jelas, keutamaan apabila ia datang untuk menyelamatkan wanita berbanding lelaki, orang berstatus lebih tinggi berbanding orang miskin dan pejalan kaki berbanding penumpang kereta..

2. Siapakah yang patut dijimatkan oleh kereta tersebut?

Memandangkan hampir setengah juta responden mengisi soal selidik demografi, adalah mungkin untuk mengaitkan pilihan mereka dengan umur, jantina dan kepercayaan agama. Para penyelidik membuat kesimpulan bahawa perbezaan ini tidak "mempengaruhi" keputusan orang ramai, tetapi mencatatkan beberapa pengaruh budaya. Orang Perancis, sebagai contoh, cenderung untuk menimbang keputusan berdasarkan anggaran jumlah kematian, manakala di Jepun penekanan adalah paling sedikit. Walau bagaimanapun, di Negara Matahari Terbit, kehidupan orang tua lebih dihargai daripada di Barat.

“Sebelum kami membenarkan kereta kami membuat keputusan etika mereka sendiri, kami perlu mengadakan perbahasan global mengenai perkara ini. Apabila syarikat yang bekerja pada sistem autonomi mengetahui tentang keutamaan kami, maka mereka akan membangunkan algoritma etika dalam mesin berdasarkannya, dan ahli politik boleh mula memperkenalkan peruntukan undang-undang yang mencukupi, "tulis saintis pada Oktober 2018 dalam Nature.

Salah seorang penyelidik yang terlibat dalam eksperimen Mesin Moral, Jean-Francois Bonnefont, mendapati keutamaan untuk menyelamatkan orang yang berstatus lebih tinggi (seperti eksekutif berbanding gelandangan) adalah membimbangkan. Pada pendapat beliau, ini sangat berkaitan dengan tahap ketidaksamaan ekonomi di sesebuah negara. Di mana ketidaksamaan lebih besar, keutamaan diberikan untuk mengorbankan orang miskin dan gelandangan.

Salah satu kajian terdahulu menunjukkan, khususnya, bahawa, menurut responden, kereta autonomi harus melindungi seramai mungkin orang, walaupun ia bermakna kehilangan penumpang. Pada masa yang sama, bagaimanapun, responden menyatakan bahawa mereka tidak akan membeli kereta yang diprogramkan dengan cara ini. Para penyelidik menjelaskan bahawa sementara orang ramai mendapati lebih beretika untuk menyelamatkan lebih ramai orang, mereka juga mementingkan diri sendiri, yang boleh menjadi isyarat kepada pengeluar bahawa pelanggan akan keberatan untuk membeli kereta yang dilengkapi dengan sistem altruistik.. Beberapa ketika dahulu, wakil syarikat Mercedes-Benz berkata bahawa jika sistem mereka menyelamatkan hanya satu orang, mereka akan memilih pemandu, bukan pejalan kaki. Gelombang bantahan awam memaksa syarikat itu menarik balik pengisytiharannya. Tetapi penyelidikan jelas menunjukkan bahawa terdapat banyak kemunafikan dalam kemarahan suci ini.

Perkara ini sudah pun berlaku di beberapa negara. percubaan pertama pada peraturan undang-undang di padang. Jerman telah meluluskan undang-undang yang menghendaki kereta tanpa pemandu mengelakkan kecederaan atau kematian dalam apa jua keadaan. Undang-undang juga menyatakan bahawa algoritma tidak boleh membuat keputusan berdasarkan ciri-ciri seperti umur, jantina, kesihatan atau pejalan kaki.

Audi mengambil alih

Pereka bentuk tidak dapat meramalkan semua akibat dari operasi kereta itu. Realiti sentiasa boleh memberikan gabungan pembolehubah yang tidak pernah diuji sebelum ini. Ini melemahkan kepercayaan kami terhadap kemungkinan "pengaturcaraan secara etika" mesin sama sekali. Nampaknya kepada kami bahawa dalam situasi di mana ralat berlaku dan tragedi berlaku "disebabkan oleh kesalahan kereta", tanggungjawab harus ditanggung oleh pengilang dan pembangun sistem.

Mungkin alasan ini betul, tetapi mungkin bukan kerana ia salah. Sebaliknya, kerana pergerakan dibenarkan yang tidak 2019% bebas daripada kemungkinan melakukannya. Nampaknya itulah sebabnya, dan tanggungjawab bersama tidak diketepikan oleh syarikat itu, yang baru-baru ini mengumumkan bahawa ia akan bertanggungjawab ke atas kemalangan yang melibatkan A8 berusia 3 tahun semasa menggunakan sistem Juruterbang Kesesakan Lalu Lintas (XNUMX) automatik di dalamnya.

3. Antara muka Audi Traffic Jam Pilot

Sebaliknya, terdapat berjuta-juta orang yang memandu kereta dan juga melakukan kesilapan. Jadi mengapa mesin, yang secara statistik membuat kesilapan jauh lebih sedikit daripada manusia, seperti yang dibuktikan oleh banyak kesilapan, didiskriminasikan dalam hal ini?

Jika ada yang beranggapan bahawa dilema etika dan tanggungjawab dalam dunia kenderaan autonomi adalah mudah, teruskan berfikir...