NLP动手实现一个句子生成器

Posted 2022-08-06 活用数据

本文主要介绍如何通过预先设定好的语法规则以及单词，通过Python来自动生成一些句子。

文章目录

• • 解析语法
  • 生成句子
  • 小结

解析语法

在生成句子之前，我们需要先告诉机器生成句子的语法。

因此，我们先定义一个简单的语法：

simple_grammar = """
sentence => noun_phrase verb_phrase
noun_phrase => Article Adj* noun
Adj* => null | Adj Adj*
verb_phrase => verb noun_phrase
Article =>  一个 | 这个
noun =>   女人 |  篮球 | 桌子 | 小猫
verb => 看着   |  坐在 |  听着 | 看见
Adj =>  蓝色的 | 好看的 | 小小的
"""

上面的语法其实可以表示成一棵语法树（Syntax Tree），对此感兴趣的话可以参考以下文章：

• 语法树：用树状图透视语法结构
• 解谜英语语法

语法说明

1. sentence => noun_phrase verb_phrase：表示一个 sentence 由 noun_phrase 和 verb_phrase 组成。
2. Adj => 蓝色的 | 好看的 | 小小的：表示 Adj 一共有 蓝色的 | 好看的 | 小小的 3个选择。

基于上面的两条规说明，我们就能够读懂上面的语法规则。

观察上面的语法，我们可以发现一共有两类词汇，左边的词汇是可以继续拓展的，右边的词汇如果不在左边，那么是不可拓展的。

我们先以adj为例，编写代码。Adj语法如下：

adj_grammar = """
Adj* => null | Adj Adj*
Adj =>  蓝色的 | 好看的 | 小小的

"""

根据上面的adj_grammar字符串语法规则，我们将其解析成字典格式：

# 解析语法
def create_grammar(grammar_str, split = '=>', line_split = '\\n'):
    grammar = 
    for line in grammar_str.split(line_split):
        if not line.strip():
            continue    # 跳过空行
        else:
            exp, stmt = line.split(split)
            grammar[exp.strip()] = [s.split() for s in stmt.split('|')]
    return grammar

结果如下：

接着我们再将上面的simple_grammar语法规则解析成字典格式：

至此，我们已经能够使用代码解析出上面的语法规则了。

生成句子

最后，我们编写代码根据上面的语法规则，自动生成句子：

# 生成句子
def generate(gram, target):
    if target not in gram:
        return target    # means target is a terminal expression
    # target in gram 意味着target是可以继续拓展下去的
    else:
        expaned = [generate(gram, t) for t in random.choice(gram[target])]
        return ''.join([e if e!='/n' else '\\n' for e in expaned if e != 'null'])

利用编写的代码，随机生成一个句子：

我们可以再定义两个语法，看一下效果如何：

# 在西部世界里
# 一个”人类“的语言可以定义为：

human = """
human = 自己 寻找 活动
自己 = 我 | 俺 | 我们 
寻找 = 找找 | 想找点 
活动 = 乐子 | 玩的
"""


# 一个“接待员”的语言可以定义为

host = """
host = 寒暄 报数 询问 业务相关 结尾 
报数 = 我是 数字 号 ,
数字 = 单个数字 | 数字 单个数字 
单个数字 = 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 
寒暄 = 称谓 打招呼 | 打招呼
称谓 = 人称 ,
人称 = 先生 | 女士 | 小朋友
打招呼 = 你好 | 您好 
询问 = 请问你要 | 您需要
业务相关 = 玩玩 具体业务
玩玩 = null
具体业务 = 喝酒 | 打牌 | 打猎 | 赌博
结尾 = 吗？
"""

“人类”和“接待员”各自随机生成5个句子：

可以看到，我们已经成功地通过自定义的语法规则来让计算机自动生成句子了。

小结

本文主要通过解析语法树，自动生成句子等方法，实现了一个自动生成句子的程序。

看完这篇文章，大家也可以设计实现自己的句子生成器。

上面生成了许多句子，但是，我们如何判断哪些句子更为合理（符合人类说话习惯），哪些句子不合理？这时候就需要用到语言模型了，关于语言模型的相关概念及代码实现，将会在后面的文章讲到，敬请期待。