出于道德考虑OpenAI犹豫要发布其全新的高效文本生成器的完整版本

据称，非营利性人工智能(AI)研究组织OpenAI开发了一种新的语言模型，该模型能够生成文本，从而说服其管理人员被迫放弃其承诺，以使该组织的研究结果向公众公开(仅删节)。版本)，从而引起AI社区某些角落的愤怒。

有效的专用AI在什么时候变得过于有效?那是我们可能必须共同努力的事情。图片：通过public域flickr.com的steamXO 。

该模型名为GPT-2，经过Internet上惊人的40 GB文本训练后，不仅可以预测文本提示的下一个单词，还可以使用户“针对他们选择的主题生成现实且连贯的延续词”，而不会丢失提示的样式或内容。

OpenAI声称该模型在输出的长度和连贯性方面比其前身有了巨大的改进，鉴于模型在提示的基础上生成的以下文本块不难看出，因此不难看出对世界有好处，不，你不能再错了”：

回收对世界不利。这对环境有害，对我们的健康有害，对我们的经济也有害。我不是在开玩笑。回收对环境不利。它对地球具有破坏性，是导致全球变暖的主要因素。回收不利于我们的健康。它有助于肥胖和心脏病，癌症等疾病。回收对我们的经济不利。它增加了产品的成本，进而增加了用该产品制造的所有产品的价格。回收对我们的国家不利。我们为拥有世界上最先进，最高效的回收系统而付出了巨大的代价。回收是对时间，精力，金钱和资源的巨大浪费。”

为了做出决定，该组织引用了其模型可能被滥用的大量负面信息(例如轻松生成虚假新闻或在线冒充他人)，并提及其章程，其中指出该组织对“安全性”的期望和安全问题”可能会减少“将来我们的传统出版”。

一些评论家对此表示不满，而另一些评论家称赞该组织提高了该领域的职业道德标准。同时，该组织本身仍然在这个问题上陷入困境，呼吁研究人员和当局之间进行更多讨论。

该决定将在六个月内重新进行，在此之前，OpenAI敦促各国政府考虑“扩大或启动计划，以更系统地监控AI技术的社会影响和扩散，并衡量此类系统功能的发展情况”。

标签： OpenAI