8月29日，美国家标准与技术研究院（NIST）宣布，其下属的美国人工智能安全研究所（AISI）与人工智能领域的两大领军企业Anthropic和OpenAI签署了合作协议，正式开启专注于人工智能安全研究、测试与评估的合作。

随着人工智能技术的快速发展，其在各个领域的应用日益广泛，但同时也带来了诸多安全风险和挑战。为了应对这些风险，确保人工智能技术的安全、可靠和可信赖，各国政府、企业和研究机构开始寻求合作，共同制定和实施人工智能安全合作协议。人工智能安全合作协议是保障人工智能技术安全应用和发展的重要手段之一。通过合作共享技术知识、信息和人才等资源，各国政府、企业和研究机构可以共同应对人工智能技术的安全风险和挑战，推动其健康、有序发展。同时，协议的实施和监督也是确保合作活动合规性和有效性的重要保障。

为了确保人工智能技术的健康发展，NIST与Anthropic和OpenAI等领先企业展开了合作。NIST表示，与这两家公司签署的谅解备忘录（MOUs）为美国人工智能安全研究所在这些公司发布新AI模型的前后提供了访问权限。根据协议，NIST可以拥有访问权限，以便深入评估这些模型的能力和安全风险，并研究降低风险的方法。

美国家标准与技术研究院（NIST）

NIST还计划就Anthropic和OpenAI模型的潜在安全改进提供反馈，以帮助他们进一步完善产品。此外，NIST还计划与英国人工智能安全研究所等合作伙伴紧密合作，共同推动人工智能安全科学的发展。该研究所建立在120年来推进技术和标准的历史基础上。在与Anthropic和OpenAI签署的协议下，评估工作旨在推动NIST在人工智能领域的进展，并支持政府的人工智能行政令以及主要人工智能公司的自愿承诺

美国NIST（国家标准与技术研究院）是一个直属美国商务部的物理科学实验室和非监管机构，致力于促进创新和行业竞争力。下设多个研究所和中心以及实验室，分别负责不同领域的研究工作。在国际上享有很高的声誉，并与多个国家和地区的研究机构建立了广泛的合作关系。NIST在科学技术领域取得了众多重要成就和贡献，不仅为美国的经济和社会发展提供了有力支持，也为全球科学技术的发展做出了重要贡献。旗下设立的美国人工智能安全研究所（AISI）于2023年由商务部在NIST内部设立。NIST发布的《美国人工智能安全研究所：愿景、使命和战略目标》指导文件中，明确了AISI的三个重点目标：推进人工智能安全科学；阐明、展示和传播人工智能安全实践；支持协调人工智能安全协议的机构和实体。

NIST此次合作的Anthropic和OpenAI都是AI领域的领头企业。Anthropic是一家致力于开发通用人工智能（AGI）的科技公司，专注于通用人工智能的研发，通过其强大的AI模型推动技术进步和应用创新，其AI模型在自然语言处理方面表现出色。OpenAI是一家美国的人工智能研究和开发公司，由Sam Altman、Reid Hoffman等人在旧金山成立，旨在通过研究和开发人工智能技术来推动人类进步。其研究领域广泛，并且发布了多个具有影响力的AI模型，这些模型在自然语言处理、图像生成等领域取得了显著成果。

美国人工智能安全研究所所长表示：“安全对推动突破性技术创新至关重要。这些协议虽然只是起点，但它们标志着我们致力于负责任地引导人工智能发展的重要里程碑。”

通过合作，NIST和Anthropic、OpenAI将共同推动人工智能技术的创新和发展，为行业带来更多安全、可靠的人工智能解决方案。随着合作的深入和拓展，NIST与Anthropic、OpenAI等领先企业将在人工智能安全领域取得更多成果。同时，这些成果也将为行业提供有益的借鉴和参考，推动整个行业向更加安全、可靠的方向发展。