＃微软根据安全地对AI模型进行排名的计划：全面的概述
2025年6月，微软宣布了人工智能领域（AI）的重大发展：向其AI模型排行榜引入“安全”类别。此举旨在使云客户对通过微软的Azure Foundry平台获得的各种AI模型的安全性能有更清晰的了解。 （ft.com）
##需要AI安全排名
###解决AI部署中日益严重的问题
随着AI技术越来越多地整合到各个部门中，人们对其安全性和潜在滥用的担忧已经升级。 AI生成的内容的实例导致危害或传播错误信息，这突显了强大的安全措施的必要性。微软的倡议旨在通过提供透明的指标来解决这些问题，以根据安全性评估AI模型。
###增强云客户的信任
对于通过云服务利用AI的组织，对这些模型安全的信任至关重要。通过引入安全排名，Microsoft旨在在其云客户之间建立信心，以确保他们在选择AI模型进行部署时可以做出明智的决定。
##微软的安全排名框架
###与现有模型排行榜集成
微软的AI模型排行榜以前根据质量，成本和吞吐量评估模型，现在将包含一个安全指标。这种集成使客户可以考虑性能和安全方面的整体评估AI模型。
###毒素和AI安全基准中心的利用
安全排名将利用微软的Toxigen基准，旨在评估隐性仇恨言论和AI安全基准中心，该基准评估了潜在的滥用危险活动的滥用，例如创建生化武器。 （__1）
##对AI行业的影响
###设定AI安全标准的先例
微软的积极主动方法可能为其他AI提供商树立基准，鼓励在整个行业建立标准化的安全评估。这样的标准可能会导致更负责任的AI开发和部署实践。
###潜在的挑战和考虑因素
尽管安全排名系统是向前迈出的一步，但必须认识到安全指标是起点，而不是绿灯。专家警告说，这些排名不应给用户一种错误的安全感。 （ft.com）
##微软对负责人AI的承诺
###正在进行的AI安全与治理方面的努力
Microsoft长期以来一直处于负责人AI开发的最前沿。该公司已经采取了各种措施，包括红色团队和模型评估，以识别和减轻与AI系统相关的潜在风险。 （blogs.microsoft.com）
###与监管机构的合作
预计诸如欧盟即将发布的AI法案之类的法规，微软将自己定位为中立的AI平台，与各种利益相关者合作，以确保合规性并促进负责任的AI使用。 （ft.com）
＃＃ 结论
微软对安全AI模型进行排名的计划代表了促进负责任的AI实践的重大进步。通过提供透明的安全指标，Microsoft赋予组织做出明智的决定，促进更安全，更值得信赖的AI生态系统。
##微软的新AI安全排名系统：
