来源：卫报 作者：Zoë Corbyn
谷歌未来学家谈论纳米机器人和头像、深度伪花和选举——以及为什么他对我们与计算机融合的未来如此乐观
美国计算机科学家和技术乐观主义者Ray Kurzweil是人工智能（AI）方面的长期权威。他2005年的畅销书《奇点临近》激发了人们的想象力，他预测了科幻小说，即到2029年，计算机将达到人类水平的智能，我们将在2045年左右与计算机合并，成为超人，他称之为“奇点”。现在，近20年过去了，76岁的Kurzweil有一部续集《奇点离我很近》——他的一些预测似乎不再那么古怪了。Kurzweil的日常工作是谷歌的首席研究员和人工智能远见者。他以作家、发明家和未来学家的身份向《观察家报》发表讲话。
为什么要写这本书？
The Singularity Is Near谈到了未来，但20年前，当时人们不知道什么是人工智能。我很清楚会发生什么，但对每个人来说都不清楚。现在，人工智能正在主导对话。是时候重新看看我们取得的进展了——大型语言模型（LLM）使用起來相当令人愉快——以及即将到来的突破。
你的2029年和2045年的预测没有改变……
我一直保持一致。因此，2029年，人类水平的智能和人工智能（AGI）都有所不同。人类水平的智能通常意味着人工智能在特定领域达到了最熟练的人类的能力，到2029年将在大多数方面实现。（在2029年之后，人工智能可能会在撰写奥斯卡获奖剧本或产生深刻的新哲学见解等一些关键技能方面没有超越顶尖人类，尽管它会。）AGI意味着人工智能可以做任何事情，但达到更高的水平。AGI听起来更难，但它同时到来。我五年的估计实际上是保守的：埃隆·马斯克最近表示，这将在两年内发生。
我们确实必须意识到这里的潜力，并监控人工智能正在做的事情——但仅仅反对它是不明智的
我们为什么要相信你的预测？
我真的是唯一一个预测我们今天看到的人工智能巨大兴趣的人。在1999年，人们认为这需要一个世纪或更長時間。我说30年，看看我们拥有什么。最重要的驱动因素是计算能力数量的指数增长，以不变的美元计算价格。我们每15个月将性价比翻一番。由于计算的增加，LLM在两年前才开始工作。
目前缺少什么来将人工智能带到您预测的2029年？
一个是更多的计算能力——而且即将到来。这将促进上下文记忆、常识推理和社会互动的改善，这些领域仍然存在缺陷。然后我们需要更好的算法和更多的数据来回答更多的问题。法学硕士幻觉[它们产生无厘直言或不准确的输出]将变得不那么重要，当然到2029年——它们已经比两年前少了很多。问题的发生是因为他们没有答案，而且他们不知道。他们寻找最好的东西，这可能是错误的或不合适的。随着人工智能越来越智能，它将能够更精确地理解自己的知识，并在不知道的时候向人类报告。
奇异性究竟是什么？
今天，我们有一个大脑大小，我们不能超越它来变得更聪明。但云越来越聪明，而且它真的在无限制地增长。奇异性是从物理学中借来的隐喻，当我们将大脑与云合并时就会发生。我们将结合我们的自然智能和控制论智能，所有这些都将合二为一。脑机接口将使之成为可能，最终将是纳米机器人——分子大小的机器人——通过毛细血管无创地进入我们的大脑。到2045年，我们将把智力扩大一百万倍，这将加深我们的意识和意识。
很难想象这会是什么样子，但听起来不是很吸引人……
把它想象成有你的手机，但在你的脑子里。如果你问一个问题，你的大脑将能够进入云端，以获得类似于你现在在手机上的答案——只是它会是即时的，不会有任何输入或输出问题，你不会意识到它已经完成（答案只会出现）。人们确实说“我不想要那个”：他们认为他们也不想要手机！
先进的人工智能系统的生存风险如何——它们可能会获得意外的力量并严重伤害人类？人工智能“教父”杰弗里·辛顿去年离开了谷歌，部分原因是出于这种担忧，而其他知名科技领导者，如埃隆·马斯克也发出了警告。本月早些时候，OpenAI和Google DeepMind的工作人员呼吁加强对提出安全问题的举报人的保护。
我有一章关于危险。我一直在尝试寻找前进的最佳方式，并帮助制定了Asilomar人工智能原则[2017年一套不具法律约束力的负责任人工智能发展指南]。我们确实必须意识到这里的潜力，并监控人工智能正在做的事情。但仅仅反对它是不明智的：好处是如此深刻。所有主要公司都在努力确保其系统安全并符合人类价值观，而不是创造新的进步，这是积极的。
计算能力不是有物理限制吗？
我们今天的计算基本上是完美的：它每年都会变得更好，并继续在那个领域。我们可以通过很多方式继续改进芯片。我们才刚刚开始使用第三维度[创建3D芯片]，这将承载我们很多年。我认为我们不需要量子计算：我们一直无法证明它的价值。
你争辩说，图灵测试将在2029年通过，其中人工智能可以通过文本与人类无法区分地进行交流。但要通过它，人工智能需要变笨。怎么是这样？
人类没有那么准确，他们不知道很多事情！您今天可以非常具体地询问法学硕士关于任何领域的任何理论，它将非常明智地回答您。但谁能做到呢？如果一个人那样回答，你就会知道那是一台机器。所以这就是让它变笨的目的——因为测试试图模仿人类。一些人报告说，GPT-4可以通过图灵测试。我认为我们还有几年时间才能解决这个问题。
不是每个人都能负担得起你设想的未来技术。技术不平等让你担心吗？
富有可以让你在早期就买得起这些技术，但也是在它们运作不好的时候。当[手机]是新的时，它们非常昂贵，而且做得很糟糕。他们访问的信息很少，也没有与云对话。现在它们非常实惠，而且非常有用。世界上大约四分之三的人有一个。所以这里也是一样：这个问题会随着时间的推移而消失。
我的第一个计划是活下去——达到长寿逃生速度。我还打算创造一个复制品
这本书详细探讨了人工智能的杀戮潜力。我们应该担心吗？
是的，也不是。某些类型的工作将自动化，人们将受到影响。但新能力也会创造新的就业机会。即使在10年前，像“社交媒体影响者”这样的工作也没有意义。今天，我们拥有比以往更多的工作，美国每小时的平均个人收入是100年前的10倍，按今天的美元计算。普遍基本收入将于2030年代开始，这将有助于缓解就业中断的危害。那时它还不够，但随着时间的推移，它会变得足够。
除了失业之外，人工智能还承诺改变世界，还有其他令人震惊的方式：传播虚假信息，通过有偏见的算法和增压监控造成伤害。你不太纠结于那些……
我们确实必须解决某些类型的问题。我们即将举行选举，“深度假”视频令人担忧。我认为我们实际上可以弄清楚[什么是假的]，但如果它发生在选举前，我们就没有时间了。在偏见问题上，人工智能正在向人类学习，而人类也有偏见。我们正在取得进展，但我们还没有到达我们想要的地方。人工智能公平使用数据的问题也需要通过法律程序来解决。
你在谷歌做什么，这本书是否经过了出版前的评论？
我建议他们以不同的方式改进产品和推进技术，包括法学硕士。这本书是以个人身份写的。谷歌很高兴我发布这些东西，但没有评论。
许多人会对你对物理和数字不朽的预测持怀疑态度。你预计医疗纳米机器人将在2030年代到达，它们将能够进入我们的身体并进行维修，这样我们就可以无限期地活着，以及2040年代出现的“死后”技术，这将允许我们上传我们的思想，以便如果我们经历生物死亡，它们可以被恢复——甚至被放入令人信服的机器人中。
一切都在呈指数级发展：不仅是计算能力，还有我们对生物学的理解以及我们在更小规模上进行工程的能力。在20世纪30年代初，我们可以期待达到长寿逃逸速度，我们通过衰老失去的每一年生命，我们都从科学进步中恢复。随着我们过去，我们实际上会回到更多的年里。这并不能保证永生——仍然有事故——但你死亡的概率不会逐年增加。以数字方式让逝去的人类回归的能力将带来一些有趣的社会和法律问题。
你自己的长生计划是什么？
我的第一个计划是活下去，从而达到长寿逃逸速度。我每天吃大约80片药来帮助我保持健康。低温冷冻是后退。我还打算创建一个自己的复制品[一个来世人工智能头像]，我认为这是我们在20年代末都会有一个选择。我和我父亲做了类似的事情，收集了他一生中写过的所有东西，这有点像和他说话。[我的复制人]将能够借鉴更多的材料，从而更忠实地代表我的个性。
我们现在应该做什么来为未来做好最好的准备？
这不会是我们对抗人工智能：人工智能正在进入我们自己的体内。它将允许我们创造以前不可行的新事物。这将是一个非常美好的未来。
本文转载自卫报，本文观点不代表雅典娜AI助手YadiannaAI立场。
