当前位置:首页 > 公众号精选 > AI科技大本营
[导读]整理 |禾木木出品| AI科技大本营(ID:rgznai100)OpenAI,这次真的要Open了。OpenAI在2020年6月开放了GPT-3API接口,但只是开放商用,随即吸引了大量的公司:客服、视频游戏、辅导服务和心理健康应用程序等。近日,OpenAI宣布,将取消访问其自然...


整理 | 禾木木出品 | AI科技大本营(ID:rgznai100)OpenAI,这次真的要 Open 了。OpenAI 在 2020 年 6 月开放了 GPT-3 API 接口,但只是开放商用,随即吸引了大量的公司:客服、视频游戏、辅导服务和心理健康应用程序等。近日,OpenAI宣布,将取消访问其自然语言处理程序GPT-3 API 的等候名单。


GPT-3 是一种大型语言模型,可以自动编写电子邮件和文章、撰写诗歌、跨十几种编程语言创建代码等等。从11月18日开始,对于受任何支持国家/地区的开发者都可以注册,开始将该模型与他们的应用程序或服务集成。由 OpenAI 构建,GPT-3 及其微调衍生产品(如 Codex)可以进行定制,来处理需要深入理解语言的应用程序,从而将自然语言转换为软件代码,到汇总大量文本并生成问题答案。 自 2020 年以来,GPT-3 一直通过 OpenAI API 公开提供;截至 3 月,OpenAI 表示有成千上万的开发者在 300 多个不同的应用程序中使用,并且每天产生 45 亿个单词。根据 OpenAI 的说法,“安全进展”使 GPT-3 从内测转向测试版成为可能。在过去的一年里,该公司开发了用于“更真实”的回答问题端点,提供了一个内容过滤器来帮助减少滥用,并实施了表面上更符合人类指令的模型—— Instruct 模型。例如,OpenAI 声称,具有共享基础 GPT-3 的自然语言生成能力的指令模型更善于理解和遵循,“用几句话向 6 岁儿童解释登月”这样的指令。回答问题的端点允许开发者为那些需要基于真实来源(如文档和知识库)的“高准确度”生成的应用程序提供额外的上下文。内容过滤器的目的是检测来自 API 生成的敏感性文本。OpenAI 在一篇博客中写道:“我们相信,通过一个易于使用的 API 开放对这些模型的访问,更多的开发者将找到创造性的方法,将人工智能应用于大量有用的应用和开放问题。”“为了确保 API 支持的应用程序是负责任地方式构建的,我们会提供工具并帮助开发人员使用最佳实践,以便他们能够快速、安全地将应用程序投入生产。随着我们系统的发展,我们努力提高对于安全措施的能力,我们期望继续为开发者简化流程,完善我们的使用指南,并随着时间的推移允许更多的用例。”“我们的政策一直禁止以不符合我们章程中描述的原则的方式使用我们的 API,并且仍然禁止仇恨言论之类的内容......我们一直在努力使我们的内容过滤器更加强大,我们打算允许可接受的 随着我们系统的改进,可以在某些类别中使用,”OpenAI 写道。“我们很高兴能够为更多的开发者开放 GPT-3 的安全措施。随着我们的安全措施不断改进,我们将扩展 API 的使用方式,同时进一步改善我们的用户体验。”



人工智能保障措施

但 OpenAI 承认,这些改进并不能解决大型语言模型中固有的毒性问题。GPT-3 在技术上还远远不够完事,该模型是在超过 600GB 的网络文本上进行训练的,其中一部分来自具有性别、种族、身体和宗教偏见的社区。研究表明,与其他大型语言模型一样,它会放大训练数据的偏差。在一篇论文中,米德尔伯里国际研究所的恐怖主义、极端主义和反恐中心发现, GPT-3 可以生成“有影响力的”文本,可以将人们激进到极右的极端主义思想。乔治城大学( Georgetown University )的一个研究小组使用 GPT-3 生成了错误信息,包括围绕虚假叙述的故事、为推动虚假观点而修改的文章,以及针对特定错误信息点的推文。最近的工作表明,语言模型可能难以理解少数民族方言的某些方面,迫使使用模型的人转向“白人英语”以确保模型可以继续为他们工作。随着 API 的 Beta 版可用,OpenAI 更新了其内容指南,以阐明其 API 不能用于生成哪些类型的内容,例如与政治、暴力、骚扰、仇恨、垃圾邮件、恶意软件、欺骗和自我伤害有关的内容 。该公司表示,它正在与一些客户测试特定内容类别的“目标过滤器”,并禁止其 API 上的某些类型的内容,如成人内容,其系统“目前无法可靠地识别有害的可接受的使用。”OpenAI 写道“我们的政策始终禁止不遵守我们章程中描述的原则的方式使用我们的 API,像仇恨言论这样的内容会一直被禁止……我们正在不断努力,使我们的内容过滤器更加强大,随着系统的改进,我们打算允许在某些类别内可接受的使用。”“我们很高兴有保障措施为更多的开发者开放 GPT-3 。随着我们的安全措施不断改进,我们将扩展 API 的使用方法,同时进一步改进用户的体验。”GPT-3 的广泛应用是在微软推出 Azure OpenAI 服务之后推出的,该服务旨在让企业能够访问 GPT-3 及其衍生产品,以及安全、合规、治理和其他以业务为中心的功能。微软与 OpenAI 关系密切,2020 年已向该公司投资 10 亿美元,并独家授权 GPT-3 为 Azure 客户开发 AI 解决方案。这次的 OpenAI 是真的open了,你怎么看呢?参考链接:https://venturebeat.com/2021/11/18/openai-makes-gpt-3-generally-available-through-its-api/




本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

北京2022年10月19日 /美通社/ -- 作为一种软硬一体化的基础设施架构,超融合具备易运维、易部署等优势,在多种行业与场景中得到了广泛应用。在金融、医疗等行业的部署中,面向数据库等场景的超融合一体机面临着...

关键字: VME SMART IO AI

近期,特斯拉启动2022年AI日活动,人形机器人擎天柱Optimus原型机正式亮相。特斯拉展示了人形机器人在汽车工厂进行搬运、浇水植物、移动金属棒的视频。

关键字: 人形机器人 AI 万亿市场

南京2022年10月17日 /美通社/ -- 日前《2022第三届中国高端家电品牌G50峰会》于浙江宁波落幕,来自两百余名行业大咖、专家学者共同探讨了在形势依然严峻的当下,如何以科技创新、高端化转型等手段,帮助...

关键字: LINK AI BSP 智能家电

SAIHUB CAB 025M成功获得安全试验所UL美国与加拿大认证证书 新加坡2022年10月17日 /美通社/ -- SAI.TECH Global Corporation("SAI.TECH"...

关键字: AI BSP PS 清洁能源

北京2022年10月17日 /美通社/ -- 存储设备对于客户的核心价值就是要稳定可靠,无需什么星辰大海也不用玄妙推演,踏实将稳定可靠做到位、保护好客户的数据,即是最大的意义所在。 北有中关村 南有马栏山 这里的马栏...

关键字: AI 云平台 分布式 存储设备

阿联酋迪拜2022年10月15日 /美通社/ -- 让用户能够在XR和其他数字体验中创建和体验全新水平沉浸式现实的领先沉浸式社交应用VUZ完成B轮融资2000万美元,国际领投方包括Caruso Ventures、Visi...

关键字: API AN 沉浸式体验 AI

(全球TMT2022年10月14日讯)华为全联接大会2022在阿联酋迪拜举办。华为轮值董事长胡厚崑发表了题为“释放数字生产力”的主题演讲,并提出推进千行百业数字化转型的三大核心举措:基础设施先行,持续提升联接和计算能力...

关键字: STATION 加速卡 华为 AI

人工智能的发展与更好的机器视觉控制相结合,为智能制造行业创造了至关重要的新组成部分——高精度和可扩展的故障检测。这项技术的前景广阔,不仅可以提高效率,而且可以提高安全性并提供实时可见性。

关键字: 预测故障 AI

北京2022年10月13日 /美通社/ -- 近日,中科寒武纪科技股份有限公司(以下简称"寒武纪")的思元370系列智能加速卡与浪潮AIStation智能业务生产创新平台完成兼容性适配认证,...

关键字: STATION 加速卡 AI 模型

人形机器人,再度站上“C位”。2022年9月30日,特斯拉在AI Day大会上发布了特斯拉人形机器人Tesla Bot,其被冠名为擎天柱(Optimus),后者为知名电影《变形金刚》中汽车人的领袖。从命名可见,马斯克对T...

关键字: 人形 机器人 AI

AI科技大本营

110 篇文章

关注

发布文章

编辑精选

技术子站

关闭