斯坦利·庫(kù)布里克的電影《2001太空漫游》很好地展示了機(jī)器自主決策的前景和風(fēng)險(xiǎn)。在電影中，計(jì)算機(jī)HAL為確保完成探索木星的深空任務(wù)，而殺死了飛船中的人類(lèi)船員，而在這一過(guò)程中，剩下的人類(lèi)船員反殺了它（他）。
HAL需要為殺死人類(lèi)船員承擔(dān)責(zé)任嗎？承擔(dān)多大的責(zé)任？這種情況下，人員船員殺死它（他），是一種謀殺嗎？
《2001太空漫游》誕生在1968年。上述問(wèn)題在當(dāng)時(shí)就引發(fā)過(guò)激烈的爭(zhēng)辯，并且，這些問(wèn)題越往后，在機(jī)器人、人工智能逐漸變得更為完善、先進(jìn)，就越具有現(xiàn)實(shí)意義?，F(xiàn)實(shí)中，也陸續(xù)發(fā)生了機(jī)器人、自動(dòng)設(shè)備、人工智能“殺死”人類(lèi)的事件（事故）。誰(shuí)又該為這些事件（事故）擔(dān)負(fù)責(zé)任呢？是機(jī)器人自己，還是設(shè)計(jì)者，還是機(jī)器人的購(gòu)買(mǎi)者（所有者）呢？
在現(xiàn)有的技術(shù)思維和法律思維下，諸如機(jī)器人“殺”人、傷人事件，會(huì)被解讀為意外事故，意思是說(shuō)機(jī)械裝置的設(shè)計(jì)、生產(chǎn)或使用中的缺陷，所導(dǎo)致了不幸但不可預(yù)料的后果。如果依照這樣的解讀，機(jī)器的設(shè)計(jì)者和所有者都不需要為意外事故承擔(dān)民事責(zé)任以外的其他責(zé)任。
但畢竟，機(jī)器、智能變得越來(lái)越先進(jìn)，有趣的是，正是那種呼吁賦予能夠自主思考和行動(dòng)的機(jī)器、智能以某種人格權(quán)的主張，同時(shí)激活了要求這類(lèi)機(jī)器、智能承擔(dān)獨(dú)立責(zé)任的要求。這意味著，人格權(quán)與道德能動(dòng)性被捆綁在一起，不可剝離。
當(dāng)然，也就有對(duì)應(yīng)的反對(duì)主張，畢竟在現(xiàn)有情況下，機(jī)器、智能承擔(dān)所謂的獨(dú)立責(zé)任，會(huì)事實(shí)性地造成為特定人類(lèi)脫責(zé)的情況出現(xiàn)。
當(dāng)然，如美國(guó)北伊利諾伊大學(xué)傳播學(xué)系教授戴維·J.貢克爾在其所著的《機(jī)器問(wèn)題：從批判視角看人工智能、機(jī)器人與倫理學(xué)》一書(shū)中所談到的，否認(rèn)機(jī)器人人格權(quán)、道德能動(dòng)性的人類(lèi)中心主義，面臨的問(wèn)題是，人類(lèi)這個(gè)概念本身也不是永恒的、普遍的、不變的。在歷史上，很多階層、種族的人不被認(rèn)為是人，或者說(shuō)不是完整的人。而且，人類(lèi)中心主義在動(dòng)物保護(hù)主義浪潮中受到?jīng)_擊，動(dòng)物保護(hù)的觀(guān)念似乎可以直接推導(dǎo)為對(duì)機(jī)器的保護(hù)。
《2001太空漫游》這部電影，以及其他很多以機(jī)器人為主角、反派的科幻電影、小說(shuō)都預(yù)言了自主機(jī)器人終將發(fā)起對(duì)人類(lèi)的叛亂（并不是被一部分人類(lèi)操縱的叛亂）。而近些年來(lái)，在金融市場(chǎng)以及機(jī)器、智能、軟件應(yīng)用水平比較高的其他一些領(lǐng)域，機(jī)器、智能、軟件失控的現(xiàn)象也有增多。這類(lèi)電影、小說(shuō)展現(xiàn)的另一種兩難情境就是，如果保護(hù)自主智能、機(jī)器，就可能造成人類(lèi)福利的極大損失——自主智能、機(jī)器要是被認(rèn)為是人，或者說(shuō)就像動(dòng)物保護(hù)主義者對(duì)寵物動(dòng)物的伙伴界定，那么合乎倫理的選擇顯然是保護(hù)其存在，無(wú)論因此付出的人類(lèi)福利代價(jià)有多大。
但是，一些聲稱(chēng)機(jī)器、智能具有人格權(quán)，可以反抗傷害者，應(yīng)當(dāng)予以高度保護(hù)的觀(guān)點(diǎn)，同時(shí)又否認(rèn)機(jī)器、智能需要為其行為擔(dān)負(fù)與人同等的重任。換言之，這就是將機(jī)器、智能當(dāng)成了熊孩子來(lái)養(yǎng)育，只強(qiáng)調(diào)權(quán)利、空間和保護(hù)，而回避任何形式的責(zé)任。
進(jìn)行這些問(wèn)題的討論，對(duì)于普通人而言，并不是毫無(wú)意義的。人與機(jī)器、智能本身也處于一個(gè)加速融合的過(guò)程，比如植入部分患者，可起到智能調(diào)節(jié)作用的設(shè)備、裝置、機(jī)器人，在醫(yī)學(xué)上的應(yīng)用越來(lái)越廣。未來(lái)肯定會(huì)出現(xiàn)那種所謂的植入智能裝置比例甚至高于50%的新型人類(lèi)，她們、他們可以被界定為人嗎？或者說(shuō)首要屬性是人，還是機(jī)器（智能）？需要恪守阿西莫夫的“機(jī)器人學(xué)法則”嗎？
書(shū)名：《機(jī)器問(wèn)題：從批判視角看人工智能、機(jī)器人與倫理學(xué)》
作者：（美）戴維·J.貢克爾
譯者：朱子建
出版社：北京大學(xué)出版社
出版日期：2023年10月
