我祖父今年 90 岁了。我为他感到骄傲，因为他不惧怕科技：他很乐意使用平板电脑和智能手机与世界互动。然而，这样做的副作用是，每次我去看他时，我都会花一两个小时寻求技术支持。我的大部分时间都花在讨论他不断收到的无数钓鱼电子邮件和诈骗电话上。

“有什么办法可以避免被这些骗局欺骗吗？”他的妻子问道。我看得出她在寻找灵丹妙药——只需安装某个应用程序，所有骗子就会消失。我很难过地向他们解释没有这样的事情。我告诉他们所有老办法：如何检查 URL、从网站回调可信来源等等。

“你天生就应该小心谨慎，”我说，“如果有人询问你的信息，他们可能不是他们所说的那个人。” 

我试图向他们解释的是 批判性思维的艺术，或者 如何根据可靠的信息做出可靠的判断。现在，随着生成式人工智能的兴起，它已成为你职业生涯和个人生活中必不可少的软技能。如果你是一名领导者，这也是你希望员工具备的一项技能，因为缺乏批判性思维会导致糟糕的商业决策。

• 什么是批判性思维？它如何影响商业决策？
• 为什么批判性思维在生成式人工智能时代变得更加重要
• 为什么技术专业人员最需要批判性思维技能
• 表面信息的数量将会增加
• 为什么仅仅寻找“暗示”对 GenAI 不起作用
• 结论：及时了解信息并增强批判性思维能力
• 进一步学习

批判性思维是指通过深入研究得出自己的结论，而不是盲目接受表面结论。你客观地审视问题，只依靠确凿的证据，而不是其他人的个人观点或偏见。通过这样做，你可以做出更好、更合理的决定。

例如，一名员工来找你，非常兴奋地想要试用一款新的人工智能产品。他们听说这是解决你所有问题的灵丹妙药，它将神奇地优化和维护公司网站。你查看这家人工智能公司网站上的产品评论，发现它们都是非常积极的。到目前为止听起来很棒，对吧？

然而，你决定开始批判性思考。你分析了这些评论，发现它们都使用了可疑的相似语言。于是你决定在 Reddit 上查看，结果发现很多人不仅对产品不满意。更糟糕的是，有报道称，如果你不与他们签约，该公司的销售团队就会采取骚扰手段——他们甚至会打电话给首席执行官并说你的坏话。

躲过了一劫，对吧？但如果你直接接受所有的炒作，你的公司可能会面临糟糕的产品和一堆令人不快的电话。 

作为一个组织，需要一直做出此类决策。这就是为什么缺乏批判性思维会极大地影响业务成果，无论是在运营层面还是战略层面。简而言之，批判性思维与成为一名优秀的决策者密不可分。

如果你正在查看酒店房间预订，你能分辨出这张图片不是真的吗？虚假的酒店评论也越来越常见。

在 2010 年代中期的“后真相”时代，批判性思维已经变得非常重要。但到了 2023 年，我们迎来了生成式人工智能 (GenAI) 工具的爆炸式增长，这使得创作欺骗性作品变得几乎轻而易举：

• MidJourney、DALL-E 和 Stable Diffusion 可以创建需要敏锐的眼睛才能识别为假的照片。 

• 像 VoiceLab 这样的人工智能工具可以用来深度伪造人们的声音，通常用于人工智能假装成亲人的电话通话中。

• 目前市面上有大量的深度伪造视频服务，但许多国家针对深度伪造的具体立法很少甚至没有。

甚至像 ChatGPT 这样的工具也经常被用于欺骗，而且往往是无意的。众所周知，它会“产生幻觉”，产生不存在的信息来源，或者对从未发生过的事件撒谎。所有这些都意味着，你可能会根据虚假信息做出商业或个人决定，并将其呈现给其他人，就好像它是真实的一样。

曾经有一个臭名昭著的事件，一名律师使用 ChatGPT 准备了一份法律摘要，结果却因为其中充斥着虚假引文而被罚款。实际上，这种情况很容易重现。下面，我要求 ChatGPT 提供两个虚假引文和一个真实引文。

很难区分，对吧？事实上，尽管 ChatGPT 声称事实并非如此，但它们都不是真的。我是怎么发现这一点的？我没有轻信 ChatGPT 的说法，而是自己搜索了这些参考资料。

如果您从事技术工作，例如程序员或数据分析师，那么生成式人工智能是一种了不起的工具。您可以让它为您生成代码，这很了不起——但它也可以发明不存在的函数。以下是 ChatGPT 发明time.log()函数并将其呈现为真值的一个例子。如果您不查看输出，很容易错过。

你可能会说：“但这会引发错误，所以我们会抓住它。”没错，前提是你先测试一下。但生成式人工智能仍然可以生成有害代码，但根本不会引发任何错误，主要是因为它可能不理解你的业务用例。

例如，您可能会要求 GenAI 模型为某些银行软件生成一些代码。它运行时没有任何错误，但它生成的代码会向客户退还无限量的钱，因为它不知道应该限制它。这对企业来说显然是灾难性的！如果您的产品带有此代码，则可能直到为时已晚才会注意到错误。

这听起来可能极不可能。然而，这类错误比你想象的更常见。就错误而言，人类有一种已知的错误，称为“自动化偏见”（目前尚未修补），即人类过于信任自动化系统，这往往导致过度依赖，进而导致灾难。

在 GenAI 出现之前，已经有程序员不经过测试就直接发布代码。现在，这种做法将变得更具诱惑力，尤其是当 AI 编写了大量代码时：a) 你不太理解，b) 你懒得阅读。

解决方案是什么？从 2023 年开始，技术专业人员都应该精通批判性思维，尤其是在质疑人工智能输出的任何内容时。 此外，任何涉及人工智能的工作流程也应该有一个人工检查组件，以减轻人工智能幻觉和不准确的固有风险。如果您使用自我修复或自动编码工具，则尤其如此。

由于内容制作很容易，因此内容会越来越多，而且并非所有内容都是精心编写或经过事实核查的。人工智能已经被用来创建整个垃圾网站。而普通企业对创建低质量、高容量内容的兴趣也存在。例如，使用 GenAI，您可以：

• 活动结束后立即自动发布由 ChatGPT 提供支持的新闻文章

• 从头开始创建食谱网站

• Pick a city and have an AI argue in favor or against a political position on a local issue

Some of these applications aren’t new, either. In 2014 an AI wrote about an L.A. quake three minutes after it happened. What has changed is the access and power of the models available.

On top of this, as AI models begin to digest AI-generated content with misinformation in it, lies are unwittingly perpetuated and the models get a distorted view of reality. If you’re interested in the actual mechanics involved, known as model collapse, it looks like this:

Up until now, there’s been a lot of “tells” to figure out if something is fake. For instance:

• With phishing emails, you check to see if it’s a badly written email with a lot of grammar mistakes

• With images, people check the teeth or the number of fingers (these tend to be out of place)

But these tells are evaporating quickly. Even now, MidJourney can generate fake images with the proper number of fingers, and easy access to ChatGPT means grammar mistakes are a lot less frequent. Like with my grandfather, there’s not one ‘silver bullet’ trick that always gives misinformation away, and thinking there is gives you false sense of security when the rules change.

The only solution is to have a critical thinking mentality which allows you to analyze evidence in real time, evaluate its trustworthiness, and make an educated decision. This may involve looking for tells like the ones above, but it should never rely on them to the exclusion of critical thought.

A fake image of Ron Perlman. The teeth and jacket are off, but he has the correct number of fingers.

Make critical thinking one of the key soft skills you work on honing, both for yourself and for your team (if you’ve got one). Not only can it save you from being taken advantage of, it can make sure any business decisions you make are built on strong foundations.

Another good move is to make sure you're fully informed about generative AI. Not only does this help identify what it can do, it also allows you to make use of it. When used properly, AI models like ChatGPT have a lot of business benefits, and more organizations are leveraging these tools in an assistive capacity.

Being informed is the best way to make measured decisions on how to handle AI use at your organization. There are a number of courses that Pluralsight offers that can help you learn the ins and outs of AI — you can sign up for a 10-day free trial with no commitments. Here are some you might want to check out:

• AI & Generative AI Explained

• Getting Started on Prompt Engineering with Generative AI

• 人工智能要点：AIOps（面向 IT 运营的人工智能）

• 使用生成式人工智能的安全风险和隐私问题

如果您的组织希望直接将其产品和服务与 ChatGPT 集成（例如使用 ChatGPT 插件），以下是您的技术人员可以使用的一些资源：

• 如何制作 ChatGPT 插件

• 如何构建使用 ChatGPT 的应用程序

如果您想知道如何处理贵公司对 ChatGPT 和类似产品的使用，以下文章可能会有所帮助：

• 组织不要禁止生成式人工智能：制定使用政策

• 安全审查和人工智能模型：如何决定开绿灯