来源：HBR 作者：Bhaskar Chakravorti
经过两年多的发展和热议，各种报道仍在宣扬人工智能正在引发具有革命性的社会变革。与此同时，人们对这项技术可能导致的社会经济脆弱性一直心存担忧。像麻省理工学院的达龙・阿西莫格鲁这样的诺贝尔奖获得者，担心人工智能会加剧收入不平等，而美国的普通劳动者则对人工智能给就业带来的影响感到焦虑。事实上，尽管人工智能的性能有所提升，人们对它的信任却在下降。
人们对人工智能感到不安的一个主要原因是一种系统性现象，我称之为 “人为不平等”，在这种情况下，人工智能的发展会让社会现有的不平等变得更严重。它通过将社会经济机会和成果集中在狭窄的社会群体中，而剥夺其他群体的机会来实现这一点。
不幸的是，人为不平等很复杂，很难解决。在我对人工智能在一系列社会问题（易受影响的工作、人工智能对气候的影响，以及可能从人工智能发展中获益最多的地区）上的影响的研究中，我发现有六种不同的 “差距” 导致了人为不平等：数据、收入、使用情况、地域、行业和能源。这些差距常常相互强化。例如，那些更有可能受到数据偏差伤害的人，也不太可能从人工智能生产力工具中获益，并且会不成比例地受到能源成本上升的影响。
目前，最自然的解决方案（监管和政策干预）可能不会被优先考虑。在美国这个全球人工智能领域的领导者，特朗普政府预计会放松对人工智能的监管并搁置相关的保障措施。即使是拥有强大监管框架的欧盟，也在释放出将 “行动” 和 “机会” 置于保护用户之上的信号。
好消息是，企业领导者可以采取行动，减轻这六个差距带来的人为不平等风险。人为不平等对人工智能的生产者和使用者都有害，企业需要在力所能及的范围内采取行动。
企业领导者可以利用以下三个杠杆：
- 技术方面：虽然新工具可能会带来新问题，但它们也可以帮助解决问题。企业需要了解其技术的工作原理以及可能出现问题的地方，还要知道哪些新工具可以帮助他们负责任地实现目标。
- 机构方面：企业无需独自开展这项工作。它们应该寻找可以作为合作伙伴的第三方组织，以及可以帮助它们学习和适应的外部实践和框架。
- 市场方面：虽然大多数企业无法创建或改变市场，但它们可以解读有关用户需求的信号。了解在这个新兴范式中应该关注什么，可以帮助企业找到合适的解决方案和商业模式。
由于多种差距导致了人为不平等，企业解决整个问题的能力可能有限。但通过分别考虑每个差距，企业可能会发现自己在某些特定方面有更大的干预能力。
下面我们依次来看这些差距：
- 数据差距：人工智能将数学与数据集相结合。虽然数学本身可能不存在歧视，但数据集会 —— 它们常常以信息不完整甚至包含虚假信息的形式存在偏差。数据差距可能会产生灾难性的后果。例如，算法辅助的胸部 X 光分类器会系统性地对有色人种患者和女性患者诊断不足。而且，当算法用于评估抵押贷款申请时，芝加哥的贷款机构拒绝黑人申请者的可能性是拒绝类似白人申请者的 150%。在得克萨斯州的韦科，这个数字更高，拒绝拉丁裔申请者的可能性是白人申请者的 200%。
在当前美国的政治环境下，防止人工智能偏差的保障措施不太可能成为监管重点。以下是企业领导者可以采取的负责任的行动：
- 技术层面：对于人工智能开发者和企业来说，一个主要担忧是可能造成危害的数据不平衡问题。开发者应该考虑：1）寻找能代表其服务对象的数据集；2）检查训练数据中潜在偏差来源和其他人口统计属性的分布情况；3）使用诸如差异影响等指标来衡量不同群体之间的结果差异，或者使用均等机会指标来确保模型在不同受保护群体中的预测准确性相同。企业在遵循这些做法时，也可以使用一些现成的工具，如 IBM 的人工智能公平性 360 工具包，或者像 Fairlearn 这样的开源工具。
- 机构层面：企业需要围绕员工使用人工智能的方式建立新的实践和日常流程，特别要注重发现导致数据差距的偏差。这可以包括进行红队测试和情景分析；定期进行审计；制定 “偏差影响声明”，让团队进行自我监管，并探究算法决策中的偏差。一些独立组织，如人工智能合作组织（Partnership on AI）和算法正义联盟（Algorithmic Justice League）—— 它们拥有培训工具并倡导提高意识 —— 可以促进这些实践的普及。
- 市场层面：目前，企业将人工智能以及由人工智能驱动的产品推向市场的压力很大。企业通常关注测试或消除偏差的实践可能会减缓这一过程，但它们也需要考虑到，随着客户对这类产品的意识和需求成为常态，它们可能会失去市场份额的风险。一项对 350 家企业的研究显示，36% 的企业已经因人工智能偏差而遭受了商业损失。与此同时，其他企业通过宣称自己的产品偏差较小来进行差异化竞争，例如，思爱普（SAP）宣称偏差 “不利于业务”。
- 收入差距：人工智能的应用预计会提高某些劳动者的生产力，同时使其他劳动者的工作变得多余 —— 这种转变可能会加速收入不平等。一半的美国人担心人工智能会加剧收入不平等，原因显而易见：国际货币基金组织预计，全球近 40% 的工作会受到这项技术的影响。更保守地说，麻省理工学院的阿西莫格鲁预计，在未来十年里，所有任务中有 5% 可以由人工智能高效完成。那些从事易受人工智能影响且工作可替代性高的职业的人将面临失业和收入损失，而与人工智能互补的职业和角色则有望提高生产力并增加收入。
企业领导者可以考虑以下几种选择来减轻这种差距对社会的影响：
- 技术层面：企业可以通过投资员工技能来解决这一差距 —— 特别是那些经验较少或培训不足的员工。广泛提供人工智能工具和培训可以提高员工的收入潜力，尤其是对于那些表现较差且收入低于同行的员工。此外，许多小公司可以为自己投资一些工具，如商业分析工具，这些工具可以帮助它们降低成本，更好地与大公司竞争。
- 机构层面：合作可以帮助缩小技能差距。例如，“人工智能惠及全民”（AI4ALL）为广泛的用户提供人工智能工具的实践经验，“慈善卓越”（Charity Excellence）为非营利组织提供免费的人工智能工具，国际电信联盟的人工智能技能联盟也有类似的目标。大型人工智能生产商也有相关举措，比如谷歌的人工智能机会基金、微软为非营利组织提供的人工智能技能培训、IBM 的人工智能 “民主化” 努力，以及万事达卡的竞赛和奖项，这些都突出了人工智能在促进包容性方面的作用，并强调了人工智能工具在缩小收入差距方面的潜力。
- 市场层面：随着缩小收入差距的人工智能工具得到更广泛的应用，企业将能够接触到更多合格的劳动者。而且，随着小企业变得更具成本效益，由于劳动力和企业之间竞争力的增强，市场将会扩大。鉴于此，企业将有动力应用这些工具 —— 并且应该更持续地这样做 —— 以建立和维持能够应对竞争的商业模式。
- 使用差距：人工智能的应用并不均衡。例如在美国，受教育程度更高、收入更高的人更有可能信任并使用人工智能工具，而且人工智能的使用在地理上集中在一些 “明星” 城市和新兴中心。对人工智能日益增长的不信任表明，这种差距可能会进一步扩大。虽然目前还不清楚人工智能的使用将如何改变工作，但可以合理地假设，使用人工智能的人将更有能力应对即将到来的变化。
不信任主要源于对真实性、人工智能生成信息的可靠性、社会和环境影响等方面的担忧。旨在缩小人工智能使用差距的企业领导者可以考虑以下几种方法来建立信任：
- 技术层面：企业可以投资提高人工智能可信度的技术。例如，有些工具可以增加训练数据的数量和多样性（如使用 TensorFlow 和 Keras 的数据增强技术），建立反馈循环（如 C3AI 的可靠性应用程序），以及监测和测试先进的人工智能架构。其他工具，比如核能发电中使用的诊断工具，可以帮助将专家系统融入机器学习和神经网络。企业还可以考虑将其他技术与人工智能结合以提高质量：例如，物联网传感器可以对系统进行实时监测，并生成数据帮助算法学习和适应。
- 机构层面：一些组织致力于在人工智能领域建立信任，并可以就如何做到这一点提供指导。这些组织包括学术机构，如牛津大学的人工智能伦理研究所；非营利组织，如人工智能合作组织；以及由多个慈善机构资助的项目，还有一些评分体系，如斯坦福大学基础模型研究中心的透明度评分。医疗领域的 “人工智能可解释性” 研究，以及人工智能开发者或政府间机构提供的培训，也是确保人工智能可信度的关键。雇主还可以培训员工识别不可靠的人工智能生成信息。
- 市场层面：投资建立信任工具的企业会发现，信任会增加需求。一项对人工智能语音助手的研究发现，信任对其应用有积极影响，而且信任也是用户愿意持续使用医疗服务聊天机器人的关键。客户更有可能与值得信赖的人工智能互动，如果员工信任雇主提供的人工智能工具，他们在工作中使用这些工具的可能性会高出两倍半。许多企业已经通过人工智能的可信度来区分自己：微软强调安全性、保密性和隐私性，而 Salesforce 承诺 “由人掌舵” 以赢得信任。相反，缺乏可信度是有代价的：例如，Zillow 根据其人工智能估值模型进行购房实验，但八个月后以 3 亿美元的减记关闭了该项目 —— 这一失败导致公司裁员 25%，并削弱了人们对其人工智能价格估计的信心。
- 全球差距：根据国际货币基金组织的研究，人工智能带来的生产力和收入收益可能会偏向高收入国家。在这些国家，60% 的工作可能会受到人工智能的影响，而新兴市场经济体和低收入国家的这一比例分别为 40% 和 26%。由于预计人工智能的应用将整体提高国内生产总值增长和生产力，不同国家受影响的程度不同，正如国际货币基金组织所预期的，这增加了 “随着时间推移，这项技术可能会加剧国家间不平等” 的风险。如果美国继续实施限制其他国家获取先进芯片的政策，这些差距可能会进一步加剧。
全球市场的这种分化限制了技术的潜力，提高了进入门槛和成本。企业领导者可以考虑以下几种缓解措施：
- 技术层面：企业 —— 尤其是美国以外的企业 —— 可以通过采用广泛可用的开源人工智能计划来应对限制，避免被绑定在单一的生态系统中，比如 “开放权重” 计划，其训练参数是公开的，但训练代码和数据集不是。中国的实验室 DeepSeek 证明，这样的开源人工智能模型的性能几乎可以与最好的专有模型相媲美，而且成本和资源消耗要少得多。企业，特别是发展中国家的企业，还可以利用人工智能工具的普及，开发针对特定行业的 “小型人工智能” 创新，并通过注入少量相关信息来增强这些创新。例如，Plantix 应用程序可以帮助小农户识别破坏作物的害虫并进行处理。
- 机构层面：开源实践是扩大全球对人工智能工具获取途径的关键，有许多组织可以帮助企业利用这些实践。例如，国际计算与人工智能网络（International Computation and AI Network）促进全球对人工智能的获取，“人工智能促进公益”（AI for Good）专注于解决全球挑战。
- 市场层面：开源工具和应用程序为全球企业利用人工智能创造了更多机会。商业利益可能非常显著，因为技术的民主化不仅可以解决当地问题，还可能在多个市场产生需求。例如，非洲的人工智能辅助疾病识别、印度为准妈妈提供的远程医疗服务、墨西哥开发的针对糖尿病患者的人工智能辅助医疗服务，以及巴西的森林监测系统 —— 这些都具有更广泛的全球收入潜力。
- 行业差距：到目前为止，人工智能价值链由少数几家公司主导。此外，这些公司通过产品或渠道独家合作相互投资，加强了行业集中化，有效地将新进入者拒之门外。例如，Meta 从亚马逊购买云服务来推动其人工智能发展，主要的人工智能开发者使用英伟达性能最高的芯片以在竞争中保持领先。这些做法使投资偏向那些对少数占主导地位的公司最具商业吸引力的领域 —— 让购买人工智能服务的公司感觉被少数科技巨头束缚，这些巨头可以决定价格和条款。
由于企业渴望尝试人工智能工具，但又不愿意支付商业领导者要求的价格，它们可以考虑更便宜的替代方案，这些方案在大多数使用场景下不影响性能，还能提供更多选择：
- 技术层面：与应对全球人工智能生态系统的分化类似，企业可以考虑使用开源人工智能，如 DeepSeek 以及来自中国的其他人工智能公司，或者非中国的参与者，如 Meta（美国）、Cohere（加拿大）或 Mistral（法国）。此外，它们还可以从基于更窄数据集训练的小型语言模型中获益，这些模型可用于定制应用程序，或者使用 “边缘人工智能” 工具，这些工具在互联设备上执行任务，数据存储在设备附近，并在网络边缘进行处理，以绕过行业集中点。
- 机构层面：企业还可以从构建 “数字公共产品” 人工智能模型的组织那里获取产品 —— 这些模型是公开可用的，应用程序基于这些模型构建。例如，数字公共产品联盟（Digital Public Goods Alliance）是一个多利益相关方倡议组织，它推广符合隐私标准的开源软件、开放数据、开放人工智能模型和开放内容集合。为了兼顾商业考虑，它还推广 “分层开放” 模式，允许对不同的人工智能组件有不同程度的访问权限。
- 市场层面：企业可以从人工智能行业更具竞争力的发展以及针对不同需求的专业人工智能应用程序的增长中受益。这些应用程序可能包括针对发展中国家低生产力行业（如农业或教育）迫切需求的 “小型” 人工智能公司和模型，通过解决未满足的需求释放巨大的价值。
然而，这些发展也必须解决人工智能的信任问题。虽然开源人工智能促进了竞争，但它也可能引入新的安全漏洞。在不影响高性能人工智能可访问性的前提下进行信任建设投资将是市场差异化的关键；企业可以考虑使用 Dependabot、Renovate 或 Snyk 等工具来检查开源模型是否存在已知的安全漏洞。
6. 能源差距：人工智能对能源和水的需求巨大：到 2026 年，数据中心的能源消耗预计将增长 35% 至 128%。即使对新能源基础设施进行了预期的投资，需求仍将超过供应的增长。虽然人工智能可以用于更智能地利用能源，但它更有可能加剧能源贫困，因为智能能源系统集中在较富裕的地区，而且有超过 10 亿人无法获得负担得起的能源。此外，许多公司在投资人工智能后偏离了净零目标，面临无法实现这些目标的风险。为了解决这些问题，企业领导者 —— 尤其是人工智能公司或对人工智能有大量需求的公司 —— 可以考虑以下几种缓解方案：
- 技术层面：有许多创新可以提高人工智能的使用效率。如果你运营自己的数据中心，谷歌的 DeepMind 人工智能可以将冷却费用降低多达 40%。此外，英伟达正在开发更高效的图形处理单元（GPU），性能可提升多达 30 倍，而能源消耗可降低至原来的 1/25。你还可以探索新的硬件设计方法，例如将内存置于计算核心内部，这可以通过缩短数据传输距离来减少能源消耗。或者，部署模仿大脑功能的设备，这些设备的能源消耗比当前标准低 1000 倍。其他模型尝试在低功耗微控制器上运行。新的组件，如光子加速器、3D 芯片和新的芯片冷却技术，可以在降低能源消耗的同时提供计算能力。
- 机构层面：鉴于人工智能对能源需求的重要性，许多组织正在研究这个问题，并提供培训项目以培养人工智能和节能方面的专业知识。例如，康奈尔大学的人工智能促进可持续发展倡议（Cornell AI for Sustainability Initiative）在人工智能能源使用管理以及人工智能如何帮助我们更高效地利用能源方面进行研究、创新和教育。
- 市场层面：能源效率有助于提高整体成本和资源效率，增强企业竞争力，企业可以从中受益。人工智能生产商在决定数据中心的位置时，会考虑环境影响以及成本、技术问题和与用户的距离等其他标准。能源定价方面的创新，如使用预测分析或随用随付系统，使能源获取更加经济实惠，并有助于增长需求。虽然开源模型在能源效率方面的优势仍存在争议，但根据一项分析，DeepSeek 所需的计算资源比 Meta 的类似模型少 11 倍。据该公司称，这意味着其能源消耗比美国的类似模型低 10 至 40 倍 —— 运行成本也更低。竞争环境的这些变化以及现有的节能技术，给所有人工智能公司带来了提高能源效率的压力。
弥补这六个差距是企业的当务之急，尤其是在政府和监管机构不太可能介入的情况下。这意味着企业领导者 —— 无论是人工智能的生产者还是使用者 —— 必须通过利用其他手段来满足用户未被满足的关键需求。幸运的是，企业只要关注技术、机构和市场，就有办法应对人为不平等问题。
人工智能的加速发展不一定会导致一个更加脆弱、分化的世界。找到正确的平衡点可以促进人工智能的更广泛应用，并有助于实现其带来的众多革命性承诺。
本文转载自HBR，本文观点不代表雅典娜AI助手YadiannaAI立场。
