关于AI工程的优秀书籍——加上《勇敢的新词》（作者自创图片）
这套丛书中的大部分书籍都在过去几年内发布，随着人们开始利用AI工具来构建和改进系统。当我们学会适应新的AI开发角色时，拥有多种视角和工具将是一个巨大的优势。希望这套书能帮助其他人在AI工程领域取得进一步进展。
—作者 Brian Christian《》
对齐问题，这个词指的是指令意图与AI系统实际行为之间的差距。在这本书里，Brian Christian 结合技术见解和哲学深度，探讨了如何使机器行为符合人类价值观的过程中，揭示了关于智能和伦理的一些根本问题。
这项工作特别吸引人之处在于它展示了现实中看似设计良好的系统常常产生出人意料的结果。这并不是因为系统中存在错误或漏洞，而是因为在将意图数学化时遇到了更深层次的问题。
作为例子，有一部分探讨了用糖果教孩子打扫房间的方式。孩子们确实学会了如何打扫得很干净。但他们也了解到，只有当他们把房间打扫干净时才会得到糖果，因此他们会故意把房间弄得很乱。所以他们就会经常地把房间弄乱。
我们对人工智能的大多数担忧都可以追溯到简单的不一致，这些不一致孤立来看，在你了解这些问题领域和可用的工具时，很容易解决。这本书既是一个警告，也是一个指南，帮助那些需要高度对齐的AI工程师解决问题。
萨尔曼·汗写了
这是一本恰逢其时的好书，由可汗学院的创始人撰写。教育工作者和学生正处于人工智能变革的最前沿，但书中指出，这种影响将极其正面。书中有时过于专注于通过Khanmigo（可汗学院的聊天机器人）应用人工智能的案例，但其影响将惠及所有与人工智能工具共享学习空间的老师和学生。
在《勇敢新语》一书中，韩探讨了如何打造能够促进学习并提升教育系统标准的人工智能。讨论集中在设计这样的系统，具体包括等方面。
斯图尔特·拉塞尔著有
《人性兼容》从基本原理出发，提供了一个看待对齐问题的不同视角，尝试揭示对齐问题的复杂细微之处以及如何通过人工智能来减轻一些风险的方法。本书采用逻辑结构，首先讨论了智能的本性以及自然进化的智能与人工智能之间的差异。接下来探讨了没有足够安全措施的AI开发所带来的危险，以及即使是简单的目标也可能导致致命的不对齐（例如，因为它无法在不运行时实现目标）。
本书的其余部分则集中讨论对齐的细微差别以及设计能够为人类带来最佳成果的系统，重点关注如何平衡个体偏好与集体利益。这包括思考人工智能如何学习并适应服务对象的偏好，同时平衡这些偏好与整体福祉之间的关系。例如，书中讨论到犯罪分子使用AI的情况，以及在用户偏好同时也影响到他人的情况下，AI在多大程度上应该优化用户偏好。
总的来说，这是一次对人工智能影响的相对深入的探讨，具有较强的技术背景。我喜欢作者在探讨这些话题时没有过多涉及哲学和伦理的层面，而是集中在个人偏好、控制和对齐方面。
作者：厄雷兹·约里
《隐秘的游戏》将博弈论作为理解复杂互动的基本框架来呈现，无论是人类之间还是人工系统之间的互动。该书系统地探讨了不同类型的游戏，从模拟简单的竞争到复杂的资源分配问题，来模拟现实世界的情境。每一章都通过介绍一种游戏结构，考察它在日常情境中的应用，并揭示不同条件下的最佳策略，逐步加深读者的理解。对于AI工程师来说，这些见解在设计需要在多主体环境或多个竞争目标下进行优化的系统时，是非常宝贵的。
这个列表中有两本关于博弈论的书。我觉得这些书对AI世界特别有用，因为游戏是应对复杂性的好工具。有用的AI系统需要在各种场景下都能发挥效用，博弈论则是将复杂问题拆解成计算机能处理的形式的好方法。
很多时候，挑战在于找到合适的游戏——将灵活的情境与适当的问题匹配。例如，那些看似冷漠且精于计算的人可能依赖于一个过于狭隘的模型，未能考虑到社会对他们行为的反应。这就是为什么（成功的）扑克玩家更注重对手而非手中的牌。
由乌尔斯·加瑟尔和维克托·迈尔-舍恩伯格著
关于防护栏的讨论是关于AI系统中控制的另一番讨论，更贴近我们今天所使用的工具的实际应用。在现有的AI系统中，企业使用“防护栏”一词来指代对请求和响应进行检查的功能，旨在阻止恶意请求，并将不合适的响应替换为默认响应，如“我无法提供该信息”。然而，在这本书中，“防护栏”一词更为广泛，指的是设计控制系统的方案，该系统能够引导和规范AI行为，使其更好地服务于人类。
信息系统的控制研究一直是热门话题，甚至在GPT 3发布之前就已经开始引起人们的关注了。例如，Guardrails 中提到的研究表明，错误信息比基于事实的内容传播得更快、分享得更广。作者不仅探讨了依赖人工验证的传统防护措施，还研究了如何利用AI解决大规模的人为虚假信息传播问题。虽然在保障全球安全与保护言论自由之间找到平衡很困难，但确实可以预见，新的AI工具将在其中发挥重要作用。
虽然我原本以为《护栏》主要会讨论AI系统中的控制问题，但我被书中广泛探讨的主题所惊喜和打动。这本书非常重要，将帮助我们在学习如何将最新的工具应用于解决最棘手的问题时。
作者：Coco Krumme
《最优幻象》探讨了人工智能发展中一个核心的悖论：我们追求优化的劲头常常导致系统变得脆弱和僵化。这本书详细探讨了优化在限定条件下虽然有效，但在条件发生变化时却可能产生弱点。作者通过各种例子，比如经济系统和生物进化，展示了过度优化实际上会削弱系统在动态环境中的适应和生存能力。这种理解对于正在努力构建稳健和适应性强的人工智能系统的工程师来说尤为重要。
我最初觉得这本书很有吸引力，但有点过于自大。作者没有提供一个系统性的分析来探讨优化的局限性，而是选择通过故事来展示更广泛的模式和潜在陷阱。不过，核心观点是合理的，可以与数学和物理学中的类似论点相比较——优化相对于选定的前提是相对的，其实，被优化的系统本质上是脆弱的。
将同样的原理应用到人工智能上其实并不难。优化的人工智能系统在它们被优化的模型框架内运行良好。一旦打破了假设，改变了公理或规则，优化的系统就会陷入困境。虽然我们喜欢相信可以将系统与混沌的世界隔离开，但优化的崩溃不是“是否”的问题，而是“何时”的问题。
尽管这本书没有提供我们可以轻松融入系统中的现成解决方案，思考这本书中的主题可能会帮助我们在构建更通用的智能时取得更好的结果。我也喜欢《最优幻觉》如何重新审视纳西姆·尼古拉斯·塔勒布的《黑天鹅》和《反脆弱》中的类似主题，提供了有用的重新解释。
Kelly Clancy 所著
《玩转现实：博弈论在现代系统中的应用与挑战》一书探讨了博弈论在构建现代系统的应用、其潜在陷阱以及我们如何设定问题框架以设计更好的博弈模型，从而激励更好的行为。书中尤其深入探讨了这一点，特别是在人工智能系统的学习方式背景下。
游戏讨论的一个陷阱是倾向于将问题视为零和思维，这导致了对抗性的行为。因为游戏是离散的现实模型，所以任何问题都可以有无数种框架方式，而这种框架可以极大地改变平衡状态。例如，本书的主要焦点之一是扩大游戏的范围，以涵盖更多玩家的利益——从而促进更多利他行为。
虽然作者并没有明确地将重点放在AI系统中的控制问题上，但书中有很多关于AI发展以及用于训练未来模型和人类的模拟的设计的讨论。这是一本非常引人深思的书，尽管语气谨慎地对待游戏本身的局限性，但也充满了希望。它让能为大型群体谋福利的AI系统似乎更有可能实现。
约翰·H·米勒和斯科特·E·佩奇著
当我编写《数据科学的最佳书籍》这篇文章时，我将《复杂自适应系统》描述为“这本书单里最重要的一本”。这就是为什么它再次出现在人工智能工程所需的书籍列表中——它的重要性在最近的发现和技术进步中不断增长。
我们遇到的最有趣的挑战通常与复杂自适应系统相关，这类系统展示出涌现行为以及非线性适应反应。从微生物群落到整个生态圈，生物形式在所有尺度上都可以被看作复杂自适应系统。将这些原则应用到人工智能上也并不为过，人工智能在训练过程中因互动表现出的涌现特性和适应性也符合这些原则。
《复杂自适应系统》可能是这本书单中最重要的书之一。它引导读者以一种全新的方式看待世界，并提供可以轻松应用于新问题领域的工具和建模技术。阅读这本书最终显著影响了我对世界的看法和理解，并且在我与人工智能相关的工作中持续带来回报，帮助我看到了系统中的未实现潜力和未被认识到的局限性。
作者：弗林·科尔曼
现在有很多书在讨论人工智能，这些书要么谈论它带来的巨大潜在好处，要么谈论它带来的生存威胁，比如《超智能》《奇点临近》《AI2041》等。我发现这些书并没有特别有用的地方，一开始我还以为《人类算法》也会是这类书，但书中涉及的主题却比预想的要深入得多。
这本书将人工智能置于技术历史融入社会的更广泛背景中。这些模式值得我们参考，而我们很少有机会看到整个过程的展开。本书的各个部分从历史中选取例子，以帮助我们解决当前新技术带来的问题。虽然关于人工智能的利弊有很多猜测和讨论，但了解已有的先例以及过去决策如何应对新创新，以及其影响，会很有帮助。
总体来说，《人类的算法》是一本杰出的历史性的指南，特别针对现代人工智能的应用。尽管这本书更可能被安排给文理课程，而不是计算机科学课程，但作者显然非常了解，所涵盖的主题的广度和深度值得考虑和参考。从事人工智能相关工作的人尤其应该重视这本书。
文·瓦希斯塔
在列出的书籍中，_从数据到利润_对于任何从事数据科学或人工智能工程的人来说，可能是最具实际应用价值的。正如任何技术人士所知道的，创新的承诺只有通过精心的产品管理和清晰的盈利策略才能实现。上述书籍中的思想和问题只有在商业领袖将人工智能用于解决正确的问题并创造价值时才会变得相关。
《从数据到利润》这本书按课程结构编写，介绍了构建成功产品的所需框架和商业考量。从阅读中可以明显看出，“AI”并不是一种产品，而是企业创造价值和争夺市场份额的主要工具。在此基础上，本书讨论了数据和AI组织建立可持续的流程、识别可操作机会、选择合适的工具解决问题以及通过监控解决方案带来的价值来调整方法。
这本书对于当前从事AI工程、产品管理和咨询的人来说非常有价值。它的一些部分具有普遍适用性，而另一些部分可能只短期内适用。总的来说，我认为这本书的内容将会持续提供价值，并帮助人们晋升到能够利用最前沿的技术打造重要产品的职位。
目前人工智能领域非常火热，有时候很难从中识别出有价值的信息。在这个领域中，打牢基础并构建适当的概念模型非常重要。我发现这一系列书籍在连接各个知识点和看清全局方面非常有帮助。希望你也能从这份书单中获益，并在这个领域继续阅读、学习和实践！