机器学习的好处是显而易见的：它们能够比任何人类甚至人类群体更快地分析更多的数据。许多可以超越人类能力的机器学习应用程序已经存在，例如那些旨在下围棋和国际象棋或检测欺诈性保险索赔的机器学习应用程序。与过去的人工智能繁荣与萧条周期不同，我们不太可能看到人工智能冬天的回归。当前的机器学习算法正在产生足够的价值来证明继续研究和资助是合理的。人工智能将继续存在——并将在行业和我们的个人生活中更加普遍。

然而，在通往真正人工智能成功的道路上，仍然存在一个障碍——信任。当我们看到人工智能做出这么多糟糕的决定时，我们怎么能相信它呢?

充分发挥人工智能潜力的障碍

冒着将情况过于简单化的风险，我认为只有两个基本方面必须解决才能让人工智能充分发挥其潜力。这些都是对人工智能的能力和使用方式的正确理解，以及对人工智能安全性的改进。

要了解机器学习的工作原理以及如何正确使用它，重要的是要记住，尽管某些 ML 模型非常复杂，但包含 ML 的系统仍然只是结合对域及其数据的理解的产物。大多数当前的 ML 方法旨在根据一些优化标准简单地将任意复杂的模型拟合到数据中。这些算法适合数据的方式有时会导致模型学习一些实际上并不重要的东西，但对于解决该特定数据集上的优化问题非常有用。

虽然在考虑模型的性能时训练数据很重要，但模型仅与其数据一样具有代表性和平衡性。这有几个关键含义：模型很少能很好地外推到未知条件，如果数据中存在模型偏差，则可能会引入模型偏差。例如，在包含有偏见的人类决策的数据集上训练模型将产生反映这些偏见的模型。没有理由期望生成的模型会比训练时使用的数据中的决策更不偏向 – 该模型只是学习复制数据中的内容。研究界正在取得有希望的进展，以研究更通用的 ML 方法，将问题的知识与实际数据相结合，