带有插入符号问题的 Text2Vec 分类

Posted

技术标签:

【中文标题】带有插入符号问题的 Text2Vec 分类【英文标题】:Text2Vec classification with caret problems 【发布时间】:2016-12-10 15:29:13 【问题描述】:

一些上下文:Working with text classification and big sparse matrices in R

我一直在使用text2vec 包和caret 处理文本多类分类问题。计划是使用text2vec 构建文档术语矩阵、修剪词汇表和各种预处理内容,然后使用caret 尝试不同的模型,但我无法在训练时得到结果,插入符号会抛出一些如下所示的错误:

+ Fold02.Rep1: cost=0.25 
predictions failed for Fold01.Rep1: cost=0.25 Error in as.vector(data) : 
no method for coercing this S4 class to a vector

所有的折叠和重复都会发生这种情况。我想在将text2vec 生成的文档术语矩阵转换为向量时会出现问题,因为插入符号需要进行一些计算,但老实说我不确定,这就是这个问题的主要原因。

使用的代码,有一些跳过的部分,如下所示。请注意,我将text2vec 返回的文档术语矩阵的直接结果提供给caret,我不完全确定这是否可以。

library(text2vec)
library(caret)
data("movie_review")
train = movie_review[1:4000, ]
test = movie_review[4001:5000, ]

it <- itoken(train$review, preprocess_function = tolower, tokenizer = word_tokenizer)
vocab <- create_vocabulary(it, stopwords = tokenizers::stopwords())
pruned_vocab <- prune_vocabulary(vocab, term_count_min = 10, doc_proportion_max = 0.5, doc_proportion_min = 0.001)

vectorizer <- vocab_vectorizer(pruned_vocab)
it = itoken(train$review, tokenizer = word_tokenizer, ids = train$id)
dtm_train = create_dtm(it, vectorizer)
it = itoken(test$review, tokenizer = word_tokenizer, ids = test$id)
dtm_test = create_dtm(it, vectorizer)

ctrl.svm.1 <- trainControl(method="repeatedcv",
                           number=10,
                           repeats=5,
                           summaryFunction = multiClassSummary,
                           verboseIter = TRUE)

fit.svm.1 <- train(x = dtm_train, y= as.factor(train$sentiment), 
                   method="svmLinear2",  
                   metric="Accuracy", 
                   trControl = ctrl.svm.1, 
                   scale = FALSE, verbose = TRUE)

正如我所说,启动 train() 函数时会出现问题。 dtm_train 对象属于:

[1] "dgCMatrix"
attr(,"package")
[1] "Matrix"

结构如下:

str(dtm_train)
> Formal class 'dgCMatrix' [package "Matrix"] with 6 slots
  ..@ i       : int [1:368047] 2582 2995 3879 3233 2118 2416 2468 2471 3044 3669 ...
  ..@ p       : int [1:6566] 0 0 3 4 4 10 10 14 14 22 ...
  ..@ Dim     : int [1:2] 4000 6565
  ..@ Dimnames:List of 2
  .. ..$ : chr [1:4000] "5814_8" "2381_9" "7759_3" "3630_4" ...
  .. ..$ : chr [1:6565] "floriane" "lil" "elm" "kolchak" ...
  ..@ x       : num [1:368047] 1 1 1 1 1 1 2 2 1 3 ...
  ..@ factors : list()

我做错了什么?如果在文档中暗示可以使用这种数据,为什么插入符号无法使用?

【问题讨论】:

【参考方案1】:

Í如果您将 S4 类 dtm_train 转换为简单的矩阵,则代码将起作用。

fit.svm.1 <- train(x = as.matrix(dtm_train), y= as.factor(train$sentiment), 
                   method="svmLinear2",  
                   metric="Accuracy", 
                   trControl = ctrl.svm.1, 
                   scale = FALSE, verbose = TRUE)

不要忘记对你的 dtm_test 做同样的事情,否则 predict 函数也会报错。

pred &lt;- predict(fit.svm.1, newdata = as.matrix(dtm_test)

【讨论】:

通常 dtm 矩阵非常稀疏和大。如果您尝试将它们转换为密集格式,您可能会耗尽内存。

以上是关于带有插入符号问题的 Text2Vec 分类的主要内容,如果未能解决你的问题,请参考以下文章

为什么text2vec中的LSA每次产生不同的结果?

在text2vec中使用hash_vectorizer的ngrams

插入符号在 UITextView 和 Text Kit 中的长按空白处消失

如何使用插入符号函数来实现与此 for 循环相同的结果?分类随机森林插入符号

插入符号分类阈值

无法运行插入符号 xgboost 分类