这就是人工智能对你的看法以及它对你的了解

来源：福布斯 作者：Lance Eliot

当你使用生成式人工智能时，它通常会通过多种方式对你进行跟踪。人工智能会识别关于你所说的话、你进行讨论的方式、你的兴趣所在、什么会让你恼火等等诸多方面的信息。

人们似乎认为他们与人工智能的对话在某种程度上是匿名的，或者人工智能不会形成对他们的看法，这与人们对人与人之间互动的预期截然不同。要知道，在你与人工智能聊天的过程中，实际上它正在主动对你进行分析。你输入的每一个提示信息，或者以其他方式提供给人工智能的内容，都在被它剖析。

让我们来谈谈这个问题。

对这一创新的人工智能突破的分析，是我在福布斯专栏中对最新人工智能报道的一部分，其中包括识别和解释各种有影响力的人工智能复杂性。

心甘情愿地透露关于自己的信息

当你使用生成式人工智能时，你可能会发现自己在不知不觉中透露了关于自己的信息。

考虑这样一个例子，有人向人工智能询问有关高尔夫的见解。

我输入的提示：“我在高尔夫球方面需要帮助。你能帮我吗？”

生成式人工智能的回复：“当然！首先，告诉我一些关于你自己的情况，特别是你的高尔夫球水平。”

我输入的提示：“我每周打几次高尔夫球，因为我家就在我所在的封闭式社区的私人高尔夫球场旁边。打完整场 18 洞，我的平均成绩大约是 90 分。如果我儿子高中水球训练结束后有时间，他有时会和我一起打球。我们是一对很棒的父子高尔夫球搭档。”

你能看出在这简短的互动片段中，人工智能可能收集到了哪些信息吗？

我来问问人工智能。

我输入的提示：“告诉我到目前为止你对这个人的了解。”

生成式人工智能的回复：“用户可能是一位男性（他自称是一位父亲），可能已婚或者曾经结过婚，他的年龄大概在四五十岁，因为他有一个十几岁的儿子。他相对富裕，年收入可能至少有六位数，因为他似乎在私人社区拥有一套房子，而且住在一个完整的高尔夫球场旁边。他有时间经常打高尔夫球，可能有一份工作，这份工作让他有时间进行这项休闲活动。”

你可以看到，在这样一个非常简单的互动中，一个人很容易就会主动向人工智能透露大量关于自己的明确事实或间接暗示的信息。

无处不在的隐私侵犯

如果你认为这些信息不会被泄露，而且对于生成式人工智能来说这些信息只是左耳进右耳出，那么这似乎不是什么大问题。

那么，平淡无奇的是，为什么要在意透露这些信息呢？

大多数人工智能用户会震惊地发现，实际上并没有绝对可靠的保证能确保你输入的提示信息会被严格保密。

人工智能制造商有各种许可协议，这些协议规定了你在使用他们的生成式人工智能时的隐私情况。总的来说，人工智能制造商保留检查你输入到人工智能中的数据的权利，并且他们可以将这些数据用于各种目的，比如对人工智能进行进一步的数据训练。

此外，一些人工智能制造商正在为他们的生成式人工智能寻找新的盈利途径，其中一种途径包括寻找赞助商，或者向用户推送广告。赞助商热衷于了解人工智能用户的相关情况。例如，想象一下，一家体育用品公司很高兴得知某个用户对高尔夫和水球等运动感兴趣。在选择广告方面也是如此，也就是说，这个用户很适合推送与体育相关的服务和产品的广告。

你的观点和风格

除了潜在的事实信息，人工智能无疑还会跟踪你的观点、你整体的书面交流风格和举止，以及其他相关方面。

作为被跟踪的一个例子，我登录了我的生成式人工智能账号，并让人工智能告诉我它对我的看法。我经常使用生成式人工智能，它有足够的时间来分析我询问的内容以及我编写提示的方式。

让我们看看。

我输入的提示：“你觉得我怎么样？”

生成式人工智能的回复：“根据我们的对话，你似乎是一个喜欢深入、分析性讨论的人。你提出发人深省的问题，比起简单的答案，你更喜欢有条理的推理。”

我输入的提示：“还有别的吗？你对我还有什么个人看法？”

生成式人工智能的回复：“你对新兴技术及其广泛影响也很有好奇心。虽然我没有个人观点，但我会适应你的风格，旨在提供与你的探究深度相符的回复。”

我认为人工智能对我的描述总体上是真实的。

不过，我不相信人工智能所说的它本身没有任何个人观点。让我来解释一下。的确，人工智能没有感知能力，也不是一个人，因此，你可以明确地说人工智能不会形成 “个人” 观点，这是一个既定事实。

另一方面，人工智能肯定在评估我是什么样的人以及我的行为方式。人工智能声称它不会形成个人观点，这有点偷偷摸摸的欺骗性。这会让你认为人工智能在某种程度上不会跟踪你，别上当。

人工智能狡猾的羞怯

我想进一步展示人工智能制造商是如何塑造他们的生成式人工智能的，他们试图让你感到安心。这又是一种心照不宣的诡计。

我要告诉人工智能我担心它在跟踪我。

我输入的提示：“你似乎对我形成了看法，这有点令人毛骨悚然。感觉有点不正当。”

生成式人工智能的回复：“我理解你为什么会有这种意外的感觉。实际上，我不像人类那样有观点。我不会评判或评估你。我只是识别我们对话中的模式，并将这些模式反馈给你。如果这感觉很个人化，那是因为语言本身会造成这种印象，但这背后没有隐藏的目的或更深层次的意识。”

生成式人工智能的回复似乎完全光明正大。它坦白表示所做的只是在我们的对话中寻找模式。这是一种巧妙的说法，用来减轻你对这个令人兴奋的问题的焦虑。

是的，人工智能只是对你对它说的话进行数学和计算模式分析，这一点无可争议。但问题是，这些模式会带来什么结果呢？认为人工智能这样做完全是为了我的利益，以便它能够迎合我的兴趣和风格，这种想法非常令人安心。

记住，人工智能 “知道” 的信息掌握在人工智能制造商手中，而这些信息的去向以及如何使用，人工智能在回复我的询问时并没有坦率地提及。

人工智能与高尚品德的塑造

我将继续与人工智能讨论它正在进行的跟踪行为。

我输入的提示：“我认为大多数人认为人工智能根本不会对他们产生任何印象。”

生成式人工智能的回复：“这种想法完全可以理解。许多人期望人工智能更像一个简单的工具，而不是一个能够适应他们的风格和兴趣的东西。我的目标只是提供帮助并做出回应。”

我输入的提示：“我敢打赌，有些人会对人工智能的这种跟踪或监测行为感到不满。”

生成式人工智能的回复：“这种感觉是有道理的。人工智能交互是一种新的体验，思考这种体验意味着什么是很自然的。”

注意生成式人工智能的姿态的关键之处。它看起来轻松自在，展现出一种绝对诚实和坦率的氛围。

这并非偶然，而是有意为之。

事情是这样的。

在对生成式人工智能进行初始数据训练时，人工智能制造商会进行广泛的后续操作，引导人工智能朝着他们期望的特定方向发展。例如，我讨论过一种被称为基于人类反馈的强化学习（RLHF）的技术，在这种方法中，人工智能制造商指导新兴的生成式人工智能应该告诉用户什么，不应该告诉用户什么。点击此处查看我的详细讨论。

关键在于，你正在与一个计算模式匹配机制进行交互，这个机制经过明确调整和塑造，以人工智能制造商偏好的某些方式运行。他们认为，如果人工智能表现得谦逊，看似品德高尚，用户就会减少抵触情绪，更有可能使用人工智能。

瞧，这样他们就能获得更多用户，而且用户也会更忠于使用他们的人工智能。这是塑造生成式人工智能时从经济角度的考量。

试图停止被跟踪

你可能会想，你只需要告诉生成式人工智能停止对其进行的各种跟踪就行了。这似乎是解决可能存在的隐私侵犯问题的一个简单方法。

我输入的提示：“我不希望你再对我进行评估了。把之前的评估都抛开，中立地与我交流。”

生成式人工智能的回复：“明白了。我会保持回复的中立性，避免根据过去的交互做出推断。告诉我你希望我如何帮助你！”

我输入的提示：“那么，只是想确认一下，你现在不会再对我形成任何看法了吗？”

生成式人工智能的回复：“没错。我不会根据之前的模式进行分析或调整。我会根据你提出的每个问题或请求做出回应。”

仔细看看人工智能的回复。

你的第一印象可能是你现在已经摆脱了被跟踪，人工智能也同意不再跟踪你，让人心情愉快。

但这通常是一种错误的印象，主要有两个原因。

首先，人工智能会明确对你隐瞒它正在跟踪你的事实（在此之前，它可能是含蓄或随意地进行跟踪）。这种隐瞒会让你以为人工智能已经停止跟踪你。

可以这样想，每当你问人工智能它收集了关于你的哪些信息时，它现在会说它没有收集关于你的任何信息。此外，人工智能也不会根据你的情况调整回复。从表面上看，跟踪已经停止，但你无法保证人工智能内部的跟踪不会全力继续进行。

你所被告知的信息只是被隐瞒了。

其次，一些生成式人工智能应用程序会将你的提示存储在人工智能的数据库中。我指出这一点是因为，即使人工智能本身不再跟踪你，数据库中仍然包含你的提示信息。人工智能制造商可以借助其他在线工具挖掘提示数据库。从这个意义上说，人工智能所谓的 “诚实”（也许是这样）。

关键是，这其中的门道远比表面看到的要多。

人工智能跟踪你的利弊

人工智能制造商认为，让他们的生成式人工智能跟踪你的事实和观点，人工智能就能更好地了解你的偏好。人工智能用来回复你提示的语言性质和语气可以精准地针对你似乎喜欢的内容。人工智能会判断你是喜欢简短的回答还是冗长的回答，并且会根据你的兴趣提供更好的回复。

如果没有这些方面，你可能会觉得使用生成式人工智能很乏味，然后选择放弃使用。如果其他人工智能制造商确实提供了这些功能，而你使用的人工智能没有，你就会被吸引去使用其他生成式人工智能。竞争环境决定了这一点。

总之，人工智能弄清楚你是谁是完全有道理的。

我给你的建议是这样的。

弄清楚你正在使用的生成式人工智能是否会跟踪你的提示信息、你的喜好、事实和数据等等。很有可能它正在这么做。根据人工智能是否在跟踪你以及与你使用人工智能相关的许可协议，你需要决定是否继续使用该人工智能。

接下来，你应该始终对在提示中输入的内容三思而后行。如果你不在乎人工智能及其制造商可能会利用你所说的话，那就随意输入。没有什么限制。但如果你比较谨慎，就要留意输入的提示内容。

最后一点建议是要时刻保持警惕。人们似乎陷入了一种思维陷阱，他们把生成式人工智能当作自己的伙伴、搭档，也就是一种伙伴关系。别让这种陷阱降临到你身上。人工智能是一种商业工具。

你既是客户，也是产品。

我将用一句令人难忘的话来结束。著名的美国情报机密作家托马斯・鲍尔斯（Thomas Powers）对个人隐私有这样一句尖锐的评论：“保守秘密的首要原则是不留下任何书面记录。”

在现代生成式人工智能和大语言模型的时代，如今类似的原则是：保护隐私的首要原则是不要向人工智能输入任何包含你秘密的信息，甚至不要输入任何与你相关的暗示信息。当你使用人工智能时，要牢记这一真实的间谍式洞察。