隨著美劇《西部世界》的熱播，未來機器人與人類的關系成為熱議的話題，尤其是機器人越發成熟并走入人類生活之后，我們應該如何重新定義現代文明與倫理道德。

近日，劍橋大學的幾位科學家們拍攝了一部10分鐘的記錄片《機器的痛苦》，非常值得一看。▼

這部紀錄片匯集了機器人和人工智能多個領域的專家，從技術和倫理上對未來機器人的發展進行了深層次的探討。

痛苦是伴隨著生命所必不可少的感官機制，隨著機器人越發先進，它們的程序也應該編寫入痛苦的感受，用來防止自己受到傷害，也防止傷害他人。

如果將痛苦視為基本的疼痛反應，那么一些人工智能系統已經做到了這一點。但是真正的痛苦需要建立在更復雜的情感基礎之上，而情感在大腦中的活動機制目前人類還無從了解。

著名科幻作家阿西莫夫曾經提出過機器人三法則：

▶ ***法則:機器人不得傷害人類，或坐視人類受到傷害;

▶ 第二法則:除非違背***法則，機器人必須服從人類的命令;

▶ 第三法:則在不違背***及第二法則下，機器人必須保護自己。

顯然這是建立在保護人類的利益基礎之上，但如果機器人的情感程序真的復雜到超越了人類創造者的認知，顯然這樣的法則就無法適用了，那么到時候又該怎樣定義“機器人”這種新的物種呢?

文章轉載自微信公眾號“一斑”(ID: yiban51CTO)

【編輯推薦】