美商务部长:OpenAI等机构与美国AI安全研究所合作开展AI模型自愿预部署测试

美国商务部长雷蒙多表示,美国人工智能安全研究所与 OpenAI 和 Anthropic 合作,开展人工智能模型的自愿预部署测试,并与英国安全研究所合作,发布了首个联合政府高级人工智能模型的预部署测试。该研究所旨在支持行业安全努力,而不阻碍进步。该组织强调确保人工智能服务于人类,并应对普遍失业的威胁。雷蒙多此前表示,人工智能技术在历史上是前所未有的,具有显著扰动就业市场的潜力。各国政府必须在人工智能系统发布之前确保其安全,强调需要进行严格的测试和评估。建立国际人工智能安全最佳实践是当务之急。在过去一年中,在促进人工智能安全方面取得了进展,现在已建立了之前没有的相关举措。国际人工智能安全研究所网络目前有 10 名成员,未来计划增加更多成员。美国商务部的人工智能安全研究所专注于识别与人工智能相关的国家安全和公共安全风险。一支由科学家和工程师组成的团队正在开发用于人工智能模型部署前后测试的先进方法。该研究所强调科学卓越,而非作为监管机构行事。其目标是确保政府的人工智能工作既智能又前沿,并受到科学的指导。(金十)