在过去的几十年中,研究人员开发了越来越先进的人工智能(AI)工具和计算技术,可以将其应用于各种环境中。其中,可以产生书面或口头语言的技术引起了相当大的关注,特别是随着新语音助手,机器人和新交互设备的引入。
科罗拉多大学(UC)-科罗拉多斯普林斯分校和德鲁里大学的研究人员最近开发了一种独特的语言生成系统,该系统可以产生创造性的诗歌经文。他们的系统在arXiv上预先发表的一篇论文中介绍,是对GPT-2(由OpenAI开发的一种预先训练的语言模型)的微调改编。
加州大学科罗拉多斯普林斯分校的教授Jugal Kalita负责最近的这项研究,从他在宾夕法尼亚大学毕业的那一天开始,过去30年来一直在进行自然语言生成的研究。他于1988年发表的有关自然语言生成的第一篇论文旨在遵循一组基本规则,制作可能出现在典型期刊中的文字段落。最近,在自然语言处理(NLP)的人工神经网络技术进步的启发下,卡利塔(Kalita)教授和他的学生开始开发深度学习技术,以生成简短的文章,对话和富有创意的写作。
“研究自动诗歌生成这一主题的想法是在2019年夏季初提出的,当时密苏里州德鲁里大学的科罗拉多大学科罗拉多斯普林斯分校的暑期实习生Brendan Bena对自动生成歌曲感兴趣。歌词。” Kalita教授告诉TechXplore。“他最初想研究一种系统,该系统试图模仿通过歌词产生的情感。”
由于大多数歌曲歌词均受版权保护,因此寻找大型数据集来训练歌词生成深度学习模型可能非常具有挑战性。Bena和Kalita教授因此决定改为开发一种用于诗歌生成的深度学习工具。然而,与其像大多数以前的诗歌研究一样,他们没有像诗歌的结构或节奏那样关注诸如诗歌的结构或节奏之类的特征,而是探索了其更具情感和创造力的方面。