来源：CNBC 作者：Hayden Field
Anthropic周一宣布更新其人工智能技术的“负责任的扩展”政策，包括定义其哪些模型安全级别足够强大，需要额外的保护。
该公司，由亚马逊，在博客帖子中发布了安全和安保更新。Anthropic在帖子中表示，如果该公司正在对人工智能模型进行压力测试，并看到它有能力帮助“适度资源国家计划”开发化学和生物武器，那么在推出该技术之前，它将开始实施新的安全保护。
如果公司确定该模型可用于完全自动化入门级人类研究人员的角色，或者导致过快的扩展加速，反应也会相似。
本月早些时候，Anthropic以615亿美元的估值结束了其最新一轮融资，使其成为价值最高的人工智能初创公司之一。但这只是OpenAI价值的一小部分，OpenAI周一表示，它以3000亿美元的估值完成了400亿美元的回合，包括新资本。
生成人工智能市场将在十年内超过1万亿美元的收入。除了高增长的初创企业外，包括谷歌、亚马逊和Microsoft正在竞相发布新产品和功能。竞争也来自中国，今年早些时候，当DeepSeek的人工智能模型在美国疯传时，这种风险变得更加明显。
在10月发布的负责任扩展政策的早期版本中，Anthropic表示，作为加强安全工作的一部分，它将开始扫荡实体办公室以获取隐藏设备。它当时还表示，它将建立一个行政风险委员会，并建立一个内部安全团队。该公司确认它已经建立了两个集团。
Anthropic此前还表示，它将引入“物理”安全流程，如技术监控对策——或寻找和识别用于监视组织的监控设备的过程。扫荡是“使用先进的检测设备和技术”进行的，并寻找“入侵者”。
本文转载自CNBC，本文观点不代表雅典娜AI助手YadiannaAI立场。
