AI新生MOBI,EPUB,AZW,PDF,TXT,KINDLE

作者: [美]斯图尔特·罗素(Stuart Russell)
出版社: 中信出版社
副标题: 破解人机共存密码——人类最后一个大问题
原作名: Human Compatible: Artificial Intelligence and the Problem of Control
译者: 张羿
出版年: 2020-10

AI新生.jpg
AI新生

出了什么问题?

人工智能的历史一直被一句咒语所推动:“越智能越好。”我确信这是一个错误,不是因为我隐隐地害怕被人工智能取代,而是因为我们理解智能的方式有误。
智能的概念对于“我们是谁”至关重要,这就是为什么我们称自己为“智人”或“智者”。经过两千多年的自我审视,我们对智能的描述可以归结为:
人类是智能的,因为我们的行动有望实现我们的目标。
智能的其他所有特征,例如感知、思考、学习、创造等,都可以通过它们对我们成功行动的能力的贡献来理解。从人工智能诞生之初,机器智能的定义就与之对应:
机器是智能的,因为它们的行动有望实现它们的目标。
机器与人类不同,它们没有自己的目标,因此我们赋予它们目标,让它们去实现。换言之,我们制造能够自我优化的机器,把目标输入机器中,然后它们就开始运行了。
这种通用方法并不是人工智能独有的,该方法在我们社会的技术和数学基础中反复出现。在设计了从大型喷气机到胰岛素泵等各种控制系统的控制理论领域,系统的任务是使代价函数最小化(代价函数通常被用来衡量实际行为与期望行为的偏差)。在经济学领域,机制和政策旨在使个人的效用(utility)、群体的福利和公司的利润最大化。在解决复杂的物流和制造问题的运筹学中,解决方案使预期回报的总和随着时间的推移最大化。最后,在统计学中,学习算法(learning algorithm)旨在使期望损失函数最小化(损失函数定义了产生预测错误要承担的成本)。
显然,这个通用方案(我将其称为标准模型,standard model)用途广泛且极其强大。不幸的是,我们不希望机器智能也表现在这个方面。
1960年,麻省理工学院的传奇教授、20世纪中叶最杰出的数学家之一诺伯特·维纳(Norbert Wiener)指出了标准模型的缺陷。维纳看到阿瑟·塞缪尔的西洋跳棋程序学会了下跳棋,而且其水平远远超过了它的创造者。这段经历让他写出了一篇颇有先见之明但鲜为人知的论文——《自动化的一些道德和技术后果》。以下是维纳的主要观点:

本站书籍信息均来自网络!版权归原作者及出版商所有,仅限个人测试学习之用,请在下载后24小时内删除。网站本身并不存储相关资源文件,若信息涉及版权问题,请及时联系邮箱1093067294@qq.com,站长一经核实立刻删除!