AI 的擅长和风险

AI 最擅长做下面的事情。

（1）快速创作低价值的书面作品，比如一篇博客文章的草稿，里面包含你想说的内容的总体思路。

（2）完成低级编码任务，比如初级程序员从一个项目复制到另一个项目的代码，或者从 Stack Overflow 复制代码。

（3）对会议、论文和数据库进行总结和排序。AI 非常擅长干这个，因为它本来就是围绕从大量无序数据中提取有用信息的概念构建的。

（4）从大量数据----天文观测、蛋白质相互作用、临床结果----发现其中的模式。AI 虽然本身并没有做出任何发现，但研究人员可以利用它们来加速自己的发现。

（5）AI 是令人惊讶的健谈者，可以永无止境地谈下去，而且对每个话题都很了解，不带评判性，并且反应迅速！

AI 最大的风险在于，它们不知道如何说"我不知道"。

当 AI 遇见以前从未遇见的东西时会发生什么？由于没有现成的模式可供遵循，它只是根据以前模式所反映的一般规则进行猜测。因此它的反应可能很笼统、很奇怪或不恰当。我们将这种现象称为幻觉。

令人不安的是，AI 不会告诉你，哪些是它的幻觉，哪些是事实。

如果你要求 AI 总结一些研究并给出引用，它可能会编造一些不存在的论文和作者，你根本分不出来。

而且，按照目前 AI 模型的构建方式，没有任何实用的方法可以防止幻觉。