AI新生MOBI,EPUB,AZW,PDF,TXT,KINDLE

• 发布人 藏书阁
• 商业
• 0 评论

作者: ［美］斯图尔特·罗素（Stuart Russell）
出版社: 中信出版社
副标题: 破解人机共存密码——人类最后一个大问题
原作名: Human Compatible: Artificial Intelligence and the Problem of Control
译者: 张羿
出版年: 2020-10

AI新生

出了什么问题？

人工智能的历史一直被一句咒语所推动：“越智能越好。”我确信这是一个错误，不是因为我隐隐地害怕被人工智能取代，而是因为我们理解智能的方式有误。
智能的概念对于“我们是谁”至关重要，这就是为什么我们称自己为“智人”或“智者”。经过两千多年的自我审视，我们对智能的描述可以归结为：
人类是智能的，因为我们的行动有望实现我们的目标。
智能的其他所有特征，例如感知、思考、学习、创造等，都可以通过它们对我们成功行动的能力的贡献来理解。从人工智能诞生之初，机器智能的定义就与之对应：
机器是智能的，因为它们的行动有望实现它们的目标。
机器与人类不同，它们没有自己的目标，因此我们赋予它们目标，让它们去实现。换言之，我们制造能够自我优化的机器，把目标输入机器中，然后它们就开始运行了。
这种通用方法并不是人工智能独有的，该方法在我们社会的技术和数学基础中反复出现。在设计了从大型喷气机到胰岛素泵等各种控制系统的控制理论领域，系统的任务是使代价函数最小化（代价函数通常被用来衡量实际行为与期望行为的偏差）。在经济学领域，机制和政策旨在使个人的效用（utility）、群体的福利和公司的利润最大化。在解决复杂的物流和制造问题的运筹学中，解决方案使预期回报的总和随着时间的推移最大化。最后，在统计学中，学习算法（learning algorithm）旨在使期望损失函数最小化（损失函数定义了产生预测错误要承担的成本）。
显然，这个通用方案（我将其称为标准模型，standard model）用途广泛且极其强大。不幸的是，我们不希望机器智能也表现在这个方面。
1960年，麻省理工学院的传奇教授、20世纪中叶最杰出的数学家之一诺伯特·维纳（Norbert Wiener）指出了标准模型的缺陷。维纳看到阿瑟·塞缪尔的西洋跳棋程序学会了下跳棋，而且其水平远远超过了它的创造者。这段经历让他写出了一篇颇有先见之明但鲜为人知的论文——《自动化的一些道德和技术后果》。以下是维纳的主要观点：