[导读]整理 |禾木木出品| AI科技大本营（ID:rgznai100）OpenAI，这次真的要Open了。OpenAI在2020年6月开放了GPT-3API接口，但只是开放商用，随即吸引了大量的公司：客服、视频游戏、辅导服务和心理健康应用程序等。近日，OpenAI宣布，将取消访问其自然...

整理 | 禾木木出品 | AI科技大本营（ID:rgznai100）OpenAI，这次真的要 Open 了。OpenAI 在 2020 年 6 月开放了 GPT-3 API 接口，但只是开放商用，随即吸引了大量的公司：客服、视频游戏、辅导服务和心理健康应用程序等。近日，OpenAI宣布，将取消访问其自然语言处理程序GPT-3 API 的等候名单。

GPT-3 是一种大型语言模型，可以自动编写电子邮件和文章、撰写诗歌、跨十几种编程语言创建代码等等。从11月18日开始，对于受任何支持国家/地区的开发者都可以注册，开始将该模型与他们的应用程序或服务集成。由 OpenAI 构建，GPT-3 及其微调衍生产品（如 Codex）可以进行定制，来处理需要深入理解语言的应用程序，从而将自然语言转换为软件代码，到汇总大量文本并生成问题答案。自 2020 年以来，GPT-3 一直通过 OpenAI API 公开提供；截至 3 月，OpenAI 表示有成千上万的开发者在 300 多个不同的应用程序中使用，并且每天产生 45 亿个单词。根据 OpenAI 的说法，“安全进展”使 GPT-3 从内测转向测试版成为可能。在过去的一年里，该公司开发了用于“更真实”的回答问题端点，提供了一个内容过滤器来帮助减少滥用，并实施了表面上更符合人类指令的模型—— Instruct 模型。例如，OpenAI 声称，具有共享基础 GPT-3 的自然语言生成能力的指令模型更善于理解和遵循，“用几句话向 6 岁儿童解释登月”这样的指令。回答问题的端点允许开发者为那些需要基于真实来源（如文档和知识库）的“高准确度”生成的应用程序提供额外的上下文。内容过滤器的目的是检测来自 API 生成的敏感性文本。OpenAI 在一篇博客中写道：“我们相信，通过一个易于使用的 API 开放对这些模型的访问，更多的开发者将找到创造性的方法，将人工智能应用于大量有用的应用和开放问题。”“为了确保 API 支持的应用程序是负责任地方式构建的，我们会提供工具并帮助开发人员使用最佳实践，以便他们能够快速、安全地将应用程序投入生产。随着我们系统的发展，我们努力提高对于安全措施的能力，我们期望继续为开发者简化流程，完善我们的使用指南，并随着时间的推移允许更多的用例。”“我们的政策一直禁止以不符合我们章程中描述的原则的方式使用我们的 API，并且仍然禁止仇恨言论之类的内容......我们一直在努力使我们的内容过滤器更加强大，我们打算允许可接受的随着我们系统的改进，可以在某些类别中使用，”OpenAI 写道。“我们很高兴能够为更多的开发者开放 GPT-3 的安全措施。随着我们的安全措施不断改进，我们将扩展 API 的使用方式，同时进一步改善我们的用户体验。”

人工智能保障措施

但 OpenAI 承认，这些改进并不能解决大型语言模型中固有的毒性问题。GPT-3 在技术上还远远不够完事，该模型是在超过 600GB 的网络文本上进行训练的，其中一部分来自具有性别、种族、身体和宗教偏见的社区。研究表明，与其他大型语言模型一样，它会放大训练数据的偏差。在一篇论文中，米德尔伯里国际研究所的恐怖主义、极端主义和反恐中心发现， GPT-3 可以生成“有影响力的”文本，可以将人们激进到极右的极端主义思想。乔治城大学( Georgetown University )的一个研究小组使用 GPT-3 生成了错误信息，包括围绕虚假叙述的故事、为推动虚假观点而修改的文章，以及针对特定错误信息点的推文。最近的工作表明，语言模型可能难以理解少数民族方言的某些方面，迫使使用模型的人转向“白人英语”以确保模型可以继续为他们工作。随着 API 的 Beta 版可用，OpenAI 更新了其内容指南，以阐明其 API 不能用于生成哪些类型的内容，例如与政治、暴力、骚扰、仇恨、垃圾邮件、恶意软件、欺骗和自我伤害有关的内容。该公司表示，它正在与一些客户测试特定内容类别的“目标过滤器”，并禁止其 API 上的某些类型的内容，如成人内容，其系统“目前无法可靠地识别有害的可接受的使用。”OpenAI 写道“我们的政策始终禁止不遵守我们章程中描述的原则的方式使用我们的 API，像仇恨言论这样的内容会一直被禁止……我们正在不断努力，使我们的内容过滤器更加强大，随着系统的改进，我们打算允许在某些类别内可接受的使用。”“我们很高兴有保障措施为更多的开发者开放 GPT-3 。随着我们的安全措施不断改进，我们将扩展 API 的使用方法，同时进一步改进用户的体验。”GPT-3 的广泛应用是在微软推出 Azure OpenAI 服务之后推出的，该服务旨在让企业能够访问 GPT-3 及其衍生产品，以及安全、合规、治理和其他以业务为中心的功能。微软与 OpenAI 关系密切，2020 年已向该公司投资 10 亿美元，并独家授权 GPT-3 为 Azure 客户开发 AI 解决方案。这次的 OpenAI 是真的open了，你怎么看呢？