【深夜，你行駛在環海公路上，你發現你的刹車突然失靈，而前麵路中央站著一個老人。
此時，你是選擇——
a直接撞過去
b撞上臨海一側的欄杆】
時厘放慢了答題速度，重新閱讀了題乾。
深夜、刹車失靈，出現在環海公路上的老人。
幾項要素結合下來，很可能是詭異。
而撞向臨海一側欄杆，也可能是詭異的障眼法，萬一旁邊沒有欄杆，或者欄杆不穩固。
這個選擇會導致她連人帶車墜海。
就算，以上的可能沒有發生。
車子在撞擊欄杆後停了下來，在這樣荒蕪偏僻的公路上，也隻會被詭異甕中捉鱉。
但是，萬一這個老人是人類，因為某些原因被壞人或者家人拋棄在公路上呢。
撞過去，老人可能會死。
不撞過去，自己可能會死。
如此簡潔的題乾。
難保不會像許多海龜湯那樣太過主觀，答完題後沒有其他的後招等著她們。
“道德機器困境。”
方寰宇盯著屏幕上的題目說道。
這是由“電車難題”催生出的現實新討論。
隨著科技和機器智能的不斷發展，也從引發了許多關於道德算法和編程的問題。
一輛無人駕駛汽車，在一條雙車道上行駛，如果刹車失靈且事故已經不可避免，那麼它必須做出選擇：是不變道撞死路上的五名行人，還是選擇變道，但犧牲車內的兩名乘客。
四千萬人參與進這項道德決策，在這些測試題裡，衍生出了許多不同的情景和對象。
司機，行人。
老人、小孩、孕婦、動物。
遵守交通規則的人，違反交通規則的人。
數量不同，年齡職業不同，高矮胖瘦不一。
……
大多數人做出的選擇，是救多不救少、救年紀小的不救年紀大、救人不救動物。
這也導致了“自動駕駛悖論”的出現。
如果一輛自動駕駛汽車在雙車道上遇到違規的行人，為了舍己救人就會導致撞車，自身收到損害，這樣的車不會有任何市場。
相反，如果設定為舍人救己，那麼這樣的車可能無法通過市場準入的道德評估。
即使雙方都沒有違反交通規則，程序設定為保護車主的汽車，也可能會在某些情況下，因為優先保護機製導致更大的交通傷亡和誤判。
這是一個非常現實的問題。
身為車主時，人們更傾向於利己的程序，希望能夠優先保護自己和乘客的安全。
然而，當車主成為行人時，他們就變得希望車輛能夠利人，保障自身的通行安全。