如何在人工智能领域制胜：像系统设计师一样思考

来源：CIO 作者：Matt Egan

在与国际数据公司（IDC）的凯蒂・诺顿（Katie Norton）的访谈中，我们了解了 “内置人工智能” 与 “外置人工智能” 的区别，如何打造一个具备人工智能应用能力的组织，以及为何要想取得成功，就需要重新思考战略，而不是仅仅选择最好的工具。

在 IDC 举办的第 60 届年度发展趋势会议（Directions conference）上，我与 IDC 的开发安全运维（DevSecOps）及软件供应链安全研究经理凯蒂・诺顿进行了交谈。作为一名行业分析师，凯蒂的工作是与首席信息官等高级 IT 决策者就智能体人工智能等技术展开合作并提供建议，分享她深厚的专业领域知识。

人工智能：短期与长期考量

我向凯蒂询问了人工智能的现状，以及与她合作的 IT 采购人员的情况：他们最关注的是什么？

她说，人工智能在提高生产力方面的前景推动着短期决策。采购人员面临着提高开发人员生产力和减少繁琐工作的压力，因此，那些能够带来快速成效的人工智能工具成为了他们的首要关注点，即便诸如集成、治理、安全和投资回报率等长期问题被搁置一旁。

内置人工智能与外置人工智能

我们谈到了一个我俩都常从首席信息官那里听到的抱怨：他们感到沮丧的是，“人工智能” 和 “人工智能项目” 被笼统地混为一谈。对此，凯蒂谈到了 “内置人工智能” 与 “外置人工智能” 的概念。

“内置人工智能” 指的是嵌入 IT 部门已在使用的工具和平台中的人工智能，比如开发工具中的智能辅助工具、由人工智能驱动的可观测性工具，或者更智能的防火墙。“外置人工智能” 则是指企业构建或微调自己的模型，将人工智能集成到自己的应用程序或业务逻辑中。内置和外置人工智能的风险、收益和投资情况完全不同，但人们在讨论时却常常将它们视为相同的事物。帮助首席信息官区分这两条路径，往往是制定切实可行的人工智能战略的第一步。

“内置人工智能” 一直是大多数企业的主要关注点：将人工智能应用于内部流程和职能，以加快产出并提高效率。

其中一个挑战是证明投资回报率。企业如今真的能明显看到投资回报率吗？如果有的话，又是如何衡量的呢？

凯蒂认为，这一点对于诸如编码助手或开发安全运维人工智能代理等承诺能提高效率的工具尤为重要。目前，关于投资回报率的说法更多是基于传闻，而非严谨的分析。她以 “开发人员生产力” 为例进行了说明。开发人员可能会感激人工智能的支持，但企业甚至难以定义在这种情况下生产力意味着什么。许多人工智能供应商都进行了相关研究，但企业自身却难以衡量实际的投资回报率，因为他们缺乏相应的工具，也无法清晰了解工作流程和产出情况。

那么 “外置人工智能” 呢？我们越来越多地看到企业利用人工智能来开发具有变革性的产品和服务，那么人工智能对应用程序开发有何影响呢？将人工智能融入面向客户的应用程序中，可能会带来哪些潜在影响呢？

据凯蒂所说，好处是巨大的，但潜在的安全隐患也不容小觑。“外置人工智能” 的优势巨大，比如带来差异化的体验、更智能的产品以及更高的用户参与度，但这需要一种全新的安全开发方法。必须将人工智能视为不可信的输入，因此需要将特定的人工智能安全工具和测试集成到工作流程和产出中。

具备人工智能应用能力的组织

对于任何企业而言，无论是使用 “内置人工智能” 还是 “外置人工智能”，若想从人工智能中获得投资回报率，该组织都需要做好应用人工智能的准备。从我与 IT 采购人员的交谈中可以得知，从概念上来说人工智能所能做到的事情，与它在一个真实的企业中（无论企业存在何种问题）实际能做到的事情之间，存在着一定的矛盾。IT 领导者需要让他们的组织为应用人工智能做好准备。

我们也看到，许多 IT 专业人员在寻找与人工智能相关的工作，因为人工智能能够承担一些以前由人类完成的职能。然而，我们也听说存在着一个关键的技能缺口，IT 领导者正努力填补这一缺口。对于 IT 采购人员来说，该如何为一个融入了人工智能的组织打造一支成功的团队呢？

凯蒂认为，人工智能正在重塑劳动力格局，但并非像人们所担心的那样呈现出简单的二元对立局面。我们看到的是从自动化到自主性的转变，即从帮助完成任务的人工智能，转变为能够做出决策、触发行动并在不同系统间进行协调的智能体人工智能。这不仅提高了技术执行的标准，也对监督、协调和信任提出了更高的要求。所以，当我们谈到打造一支成功的团队时，这不仅仅意味着招聘数据科学家，更意味着组建能够管理和设计让人类与人工智能协同工作的系统的团队。

凯蒂对 IT 领导者有何建议呢？在 2025 年，人工智能的关键不在于追逐下一个模型，而在于培养以负责任的方式、反复且大规模地部署人工智能的能力。IT 部门应该像系统设计师一样思考，而不是单纯的技术采购者。这无关乎你选择哪个大型语言模型，或者部署哪个智能辅助工具，关键在于人工智能如何在你的架构、员工队伍和风险模型中发挥作用。