道德机器:如何让机器人明辨是非

雕龙文库 分享 时间: 收藏本文

道德机器:如何让机器人明辨是非

【3657】道德机器:如何让机器人明辨是非

(〔美〕温德尔•瓦拉赫,科林•艾伦著,王小红主译,北京大学出版社,28万字,2017年11月第1版,58元)

△共12章:①机器道德为什么如此重要?②工程道德:AI时代的炼金术;③人类想要计算机做道德决策吗?④机器人真的能有道德吗?⑤哲学家、工程师与人工道德智能体的设计;⑥自上而下的道德;⑦自下而上的发展式进路;⑧自上而下与自下而上式的混合;⑨超越“雾件”?⑩超越理性;⑪更像人的人工道德智能体;⑫危险:权利和责任。

○这本书预言:在未来数年内,人工智能系统可能会摆脱人类监管、自主做出决定,甚至走上反抗人类的道路。这种不确定性,将使机器人面临的道德风险日益凸显。人类迫切需要确保机器人的设计符合道德规范。

○“机器越自由,就越需要道德准则”。

○生活中没有零风险。

○物质、生命与心灵之谜定义了科学的三大挑战。

○霍金指出过:“人工智能的进化速度会比人类更快,而它们的未来还不可预测”。

○这本书阐述了一种混合式系统,组合了自下而上式的数据驱动的学习和进化的方式,以及自上而下式的理论驱动做决策。这本书的基本信息是:不应该让未来学家的担心和猜测转移我们的注意力,我们的任务依然是设计自主机器,让它们以辨识的道德方式行事,使用着我们已经获得的社会、政治和技术资源。