美国号召全球 AI 巨头承诺保证安全并添加水印

据业内消息，上周美国白宫召集了全球 7 家全球 AI 巨头自愿承诺帮助实现人工智能安全、可靠和透明的发展，包括亚马逊、Anthropic、Inflection、Meta、OpenAI、Alphabet以及微软。

为了充分发挥人工智能的潜力，拜登政府鼓励该行业坚持最高标准，以确保创新不会以牺牲美国人的权利和安全为代价，抓住 AI 带来的巨大前景并管理其带来的风险，开发这些新兴技术的公司有责任确保其产品的安全。

这 7 家公司选择做出的承诺强调了人工智能未来的三个基本原则：安全、保障和信任，标志着朝着开发负责任的人工智能迈出了关键一步。承诺内容包括：

在向公众推出产品之前确保其安全

• 两家公司承诺在发布人工智能系统之前对其进行内部和外部安全测试。 这项测试将部分由独立专家进行，旨在防范一些最重要的人工智能风险来源，例如生物安全和网络安全及其更广泛的社会影响。
• 这些公司致力于在整个行业以及与政府、民间社会和学术界分享有关管理人工智能风险的信息。 这包括最佳安全实践、有关试图规避保障措施的信息以及技术合作。

构建将安全放在首位的系统

• 两家公司承诺投资网络安全和内部威胁防护措施，以保护专有和未发布的模型权重。 这些模型权重是人工智能系统最重要的部分，公司一致认为，仅在有意且考虑到安全风险时才发布模型权重，这一点至关重要。
• 两家公司致力于促进第三方发现和报告其人工智能系统中的漏洞。 即使人工智能系统发布后，一些问题可能仍然存在，而强大的报告机制可以使问题快速发现并修复。

赢得公众的信任

• 两家公司致力于开发强大的技术机制，以确保用户知道内容何时由人工智能生成，例如水印系统。 这一行动使人工智能的创造力得以蓬勃发展，同时减少了欺诈和欺骗的危险。
• 两家公司承诺公开报告其人工智能系统的功能、局限性以及适当和不适当使用的领域。 该报告将涵盖安全风险和社会风险，例如对公平和偏见的影响。
• 两家公司承诺优先研究人工智能系统可能带来的社会风险，包括避免有害的偏见和歧视以及保护隐私。 人工智能的历史记录显示了这些危险的阴险性和普遍性，这些公司承诺推出人工智能来减轻这些危险。
• 两家公司致力于开发和部署先进的人工智能系统，以帮助解决社会面临的最大挑战。 从癌症预防到缓解气候变化，以及介于两者之间的许多事情，如果管理得当，人工智能可以为所有人的繁荣、平等和安全做出巨大贡献。