如何使用 FeatureUnion 构建参数网格?

Posted

技术标签:

【中文标题】如何使用 FeatureUnion 构建参数网格?【英文标题】:How to build parameter grid with FeatureUnion? 【发布时间】:2021-08-19 23:27:09 【问题描述】:

我正在尝试运行这个包含文本和数字特征的组合模型,但我收到了错误 ValueError: Invalid parameter tfidf for estimatorparameters 合成器有问题吗? 可能有用的链接: FeatureUnion usage FeatureUnion documentation

tknzr = tokenize.word_tokenize
vect = CountVectorizer(tokenizer=tknzr, stop_words='english', max_df=0.9, min_df=2)
scl = StandardScaler(with_mean=False)
tfidf = TfidfTransformer(norm=None)
parameters = 
    'vect__ngram_range': [(1, 1), (1, 2), (1, 3), (2, 2), (2, 3), (3, 3)],
    'tfidf__use_idf': (True, False),
    'clf__alpha': tuple(10 ** (np.arange(-4, 4, dtype='float'))),
    'clf__loss': ('hinge', 'squared_hinge', 'log', 'modified_huber', 'perceptron'),
    'clf__penalty': ('l1', 'l2'),
    'clf__tol': (1e07, 1e-6, 1e-5, 1e-4, 1e-3)


combined_clf = Pipeline([
    ('features', FeatureUnion([
        ('numeric_features', Pipeline([
            ('selector', transfomer_numeric)
        ])),
        ('text_features', Pipeline([
            ('selector', transformer_text),
            ('vect', vect),
            ('tfidf', tfidf),
            ('scaler', scl),
        ]))
    ])),
    ('clf', SGDClassifier(random_state=42,
                          max_iter=int(10 ** 6 / len(X_train)), shuffle=True))
])

【问题讨论】:

【参考方案1】:

如here 所述,嵌套参数必须通过__(双下划线)语法访问。根据您要访问的参数的深度,这会递归地应用。参数use_idf在:

features > text_features > tfidf > use_idf

所以网格中的结果参数需要是:

'features__text_features__tfidf__use_idf': [True, False]

同样,ngram_range 的语法应该是:

'features__text_features__vect__ngram_range': [(1, 1), (1, 2), (1, 3), (2, 2), (2, 3), (3, 3)]

【讨论】:

以上是关于如何使用 FeatureUnion 构建参数网格?的主要内容,如果未能解决你的问题,请参考以下文章

使用 ColumnTransformer/FeatureUnion 后构建完整数据框(特征值 + 名称)的推荐方法是啥?

featureUnion vs columnTransformer?

如何使用管道和 FeatureUnion 添加功能

Sklearn - FeatureUnion - Transformer: TypeError: fit_transform() 接受 2 个位置参数,但给出了 3 个

构建用于调整超参数的网格搜索

Scikit Learn 从管道内的 FeatureUnion 中提取特征名称