您的位置:首页>AI>

OpenAI发布了文本生成的AI称它太危险了无法共享

OpenAI研究实验室已经发布了文本生成的AI系统的完整版本,专家警告说,该系统可能用于恶意目的。

该机构最初于今年2月发布了该系统GPT-2,但由于担心该程序的完整版本会被用于传播假新闻,垃圾邮件和虚假信息,因此拒绝了该程序的完整版本。从那时起,它发布了更小,更简单的GPT-2版本,并研究了它们的接收情况。其他人也复制了工作。在本周的博客文章中,OpenAI现在表示“没有明显的滥用证据”,并已完全发布了该模型。

GPT-2是新一代文本生成系统的一部分,它们以最少的提示生成连贯的文本的能力给专家留下了深刻的印象。该系统接受了从网络上抓取的800万个文本文档的培训,并且可以响应用户提供的文本片段。例如,给它提供一个伪造的标题,它将撰写一个新闻故事;给它一首诗的第一行,它将提供一整节经文。

确切地传达GPT-2的输出质量是很棘手的,但是该模型通常会产生令人信服的,令人信服的文字,这些文字通常可以使人看起来很聪明(尽管这并不是说GPT-2所做的事情涉及我们认为是认知的任何事物) 。但是,在该系统上玩了足够长的时间,其局限性变得很明显。它尤其遭受长期一致性的挑战;例如,在故事中始终使用字符的名称和属性,或者在新闻文章中使用单个主题。

感受GPT-2的能力的最佳方法是自己尝试一下。您可以在TalkToTransformer.com上访问Web版本,然后输入自己的提示。(“变压器”是用于创建GPT-2及其同伴的机器学习体系结构的组成部分。)

免责声明:本文由用户上传,如有侵权请联系删除!