算法在走钢丝，大型科技公司在人工智能领域面临着挑战与风险

来源：TechNewsWorld 作者：Rob Enderle

人工智能的迅速普及既令人兴奋，又令人深感担忧。这些算法所释放出的巨大力量，在很大程度上集中在少数科技巨头的掌控和资金支持之下，这引发了一场关于创新、公平乃至未来走向的全球性争论。

目前对这些科技巨头的持续审查，以及监管干预的潜在威胁，不仅仅是官僚层面的障碍；这是对不受约束的人工智能占据主导地位所带来的深远风险的必要考量。这就好比我们把核动力乐高玩具的控制权交给了几个小孩，现在我们都紧张地看着他们会搭建出什么，或者破坏什么。

我们来谈谈人工智能算法是如何重塑社会的，谁在控制这些算法，以及为什么风险比大多数人意识到的要高得多。

人工智能中的偏见风险：有意和无意的偏见

人工智能的开发和部署集中在少数几家强大的科技公司手中，这为有意和无意偏见的潜在滋生提供了肥沃的土壤。

有意偏见，虽然可能不那么明显，可以把它看作是对算法的微妙推动，但当算法的创造者的观点或意图（无论是有意识还是无意识的）影响到数据和算法的设计与训练时，这种偏见就会悄然出现。这可能会以微妙的方式表现出来，比如优先考虑某些特定的人群或观点，而边缘化其他的人群或观点。

例如，如果构建这些模型的团队缺乏多样性，他们的生活经历和观点可能会在不经意间导致结果出现偏差。这就好比让一屋子的猫去设计一个完美的狗玩具。

然而，更普遍且可能更危险的威胁来自无意偏见。人工智能模型从它们所接受的数据中学习。如果这些数据反映了现有的社会不平等，人工智能将不可避免地延续甚至放大这些偏见。

面部识别软件对肤色较深的人识别准确率较低，这是一个明显的例子，表明嵌入训练数据中的历史和社会偏见会在现实应用中导致歧视性的结果。

这些占主导地位的科技公司大规模地部署人工智能系统，这意味着这些偏见可能会产生深远且有害的后果，影响人们获得机会的平等性、公平待遇，甚至是基本权利。这就好比教一只鹦鹉重复你听到过的所有最坏的话。

欲速则不达，尤其是涉及算法的时候

除了上述偏见风险之外，这些科技巨头还面临着巨大的压力，他们优先考虑生产力和快速部署，而忽略了对质量和准确性这些关键因素的考量。

在竞争激烈的市场中，为了率先推出最新的人工智能功能或服务（毕竟谁也不想最终走向衰败），确保人工智能可靠和值得信赖所必需的严格测试、验证和优化过程往往被搁置一边。

“快速行动，打破常规” 的理念，虽然在软件开发的早期阶段或许可行，但当应用于日益影响我们生活关键方面的人工智能系统时，所面临的风险要大得多。这就好比推出一辆只在停车场测试过的自动驾驶汽车。

优先考虑速度而非准确性可能会产生严重的后果。想象一下，一个基于人工智能的医疗诊断工具，由于在多样化的数据集上训练不足或验证不充分而误诊患者，从而导致治疗延误或错误。再比如，一个基于人工智能的招聘算法，为了追求速度和处理量，根据有偏见的训练数据系统性地筛选掉来自代表性不足群体的合格候选人。

这些占主导地位的科技公司在巨大的资源和市场压力的推动下，追求提高生产力，这有可能创造出一个效率高但存在根本缺陷且可能有害的人工智能生态系统。这就好比试图用一辆轮子是方形的汽车赢得比赛。

人工智能治理中的道德监督滞后

当前人工智能领域最令人担忧的方面或许是，这些强大的科技公司相对缺乏强有力的道德监督。虽然许多公司都宣扬人工智能的道德原则，但在实施和执行这些原则方面，往往远远落后于技术本身的快速发展。

这些公司在人工智能系统的开发、部署和治理方面的决策过程往往不透明，缺乏独立的审查或明确的问责机制。

由于缺乏强大的道德框架和独立监督，这就形成了一个真空地带，在这个地带，潜在有害的人工智能应用可能在没有充分考虑其社会影响的情况下被开发和部署。创新和实现人工智能货币化的压力很容易掩盖道德方面的考量，使得诸如偏见、侵犯隐私或侵蚀人类自主性等有害后果在造成损害之后才被发现。

这些占主导地位的科技公司规模庞大且影响力巨大，这就需要采用更加严格和透明的方法来进行人工智能的道德治理。这就好比让一个小朋友去画《蒙娜丽莎》，结果很可能是抽象的，甚至可能会用到闪光材料。

构建一个负责任的人工智能未来

少数大型科技公司不受约束地主导人工智能所带来的风险巨大，不容忽视。我们需要采取多管齐下的方法，来培育一个更具责任感和公平性的人工智能生态系统。

加强监管是一个关键的起点。政府不能只制定一些理想化的指导方针，而必须建立明确且可执行的规则，直接应对人工智能带来的风险，包括偏见、不透明和危害等方面。高风险的系统应该接受严格的验证，公司必须对有缺陷或歧视性算法所产生的后果负责。就像《通用数据保护条例》（GDPR）塑造了数据隐私规范一样，新的立法（可以称之为 “人工智能原则与权利立法”，即 AI-PRL）应该将算法决策中的基本保护措施以法律形式确定下来。

开源人工智能开发是另一个关键支柱。通过像 AMD 的 ROCm 这样的平台鼓励社区驱动的创新，有助于打破封闭生态系统的束缚。在适当的支持下，开源人工智能项目可以实现开发的民主化，提高透明度，并让更多人对人工智能的发展方向拥有发言权，就好比向厨房里的每一位厨师公开食谱一样。

加强独立的道德监督至关重要。成立有权对人工智能的部署进行审计和提供建议的道德委员会（尤其是在占主导地位的公司中），可以引入有意义的制衡机制。这些委员会成员来自不同的学科领域，它们将帮助公司遵守道德标准，而不是在暗箱中进行自我监管。可以把它们看作是这个行业的良知。

要求人工智能算法具有透明度和可解释性，这对于建立信任和实现问责制至关重要。用户和监管机构都需要了解人工智能系统是如何做出决策的，尤其是在高风险的情况下。要求公司在保护合法商业机密的同时，对其算法提供清晰易懂的解释，这有助于识别和解决潜在的偏见和错误。这就好比要求魔法 8 号球展示它的工作原理。

最后，在人工智能素养和公众教育方面进行投资，对于赋予个人理解人工智能的能力及其局限性，以及其潜在的风险和好处至关重要。一个信息更加灵通的公众将更有能力参与围绕人工智能的社会辩论，并要求开发和部署这些强大技术的公司承担更大的责任。

总结：规划一条负责任的人工智能发展道路

我们目前在算法这条钢丝上行走，需要小心翼翼、深思熟虑地迈出每一步。人工智能的巨大潜力必须以负责任的方式加以利用，同时要敏锐地意识到不受约束的权力所带来的风险。

通过实施强有力的监管，推动开源替代方案，要求进行道德监督和提高透明度，以及在公众教育方面进行投资，我们可以努力打造一个有益于整个社会的人工智能生态系统，而不是加剧现有的不平等，并将权力集中在少数人手中。

人工智能的未来，实际上也是我们自身未来的一个重要部分，取决于我们是否有集体意愿，以智慧、远见和对道德创新的承诺，在这条算法钢丝上稳步前行。