OpenAI 回应马斯克：训练人工智能确实非常危险

据业内信息报道，随着 ChatGPT 的爆火，马斯克之前批评 OpenAI 并表示：训练人工智能非常危险。近日 OpenAI 联合创始人兼总裁 Greg·Brockman 对马斯克的言论表示认同，承认训练 ChatGPT 是犯了一个错误。

ChatGPT 是去年 11 月推出的由 OpenAI 开发的一个人工智能聊天机器人程序，该程序使用基于 GPT-3.5 架构的大型语言模型并通过强化学习进行训练。

OpenAI 是马斯克和另一个合伙人山姆(OpenAI 的 CEO)共同创办的，目前在美国旧金山，和马斯克的脑机接口公司(Neuralink)在同一座大楼办公。其最终目的是通过和全球研究者的合作向公众开放专利以及研究成果，促进和发展对人类友好的人工智能，最终使得全人类受益。

据说，马斯克创办 OpenAI 公司的动机是出于对超强人工智能潜在风险和人类命运的担忧。不得不承认他在这方面和 Tony·Stark 确实挺相似的，也难怪被称为硅谷钢铁侠。

不少业内研究人员对此表示，ChatGPT 很有可能会重新定义现有定义人工智能的体系。就在大家纷纷表示看好该 AI 产品及其未来的市场时，也有不少人表现出担忧或恐惧，毕竟电影《终结者》中的 SkyNet 就是以此成长起来的超级人工智能，亚马逊近日就警告员工不要将公司内部的任何信息包括代码等数据分享给 ChatGPT。

马斯克之前多次批评 OpenAI 没有实施保护措施以阻止聊天机器人回复一些可能被视为具有冒犯性的内容。对此 Greg·Brockman 表示：“OpenAI 可能犯了一个错误，即实施的系统并没有反映出我们的价值观，我认为我们解决这个问题的速度不够快，我们是合理的。”

据悉，不少用户批评 ChatGPT 生成的回复内容带有政治偏见。比如上个月在某社交媒体平台中有一段 ChatGPT 聊天对话截图，内容为 ChatGPT 拒绝生成关于美国前总统川普的正面的诗歌，并表示它所设置的程序不是用来生成关于“党派、偏见或政治的”内容，但当用同样的提示内容为成现任总统拜登时，ChatGPT 却输出了一首热情洋溢的诗。

对此，马斯克表示智能聊天机器人拒绝创作关于特朗普的诗是非常一个严重的问题。而且之前马斯克多次曾批评过关于人工智能的训练模型，马斯克认为训练人工智能觉醒、训练人工智能撒谎的危险是致命的。