ClassCastException：org.apache.hadoop.io.Text 无法在 K-Means Clustering Mahout 中转换为 org.apache.hadoop.io

Posted 2023-03-12

【中文标题】ClassCastException：org.apache.hadoop.io.Text 无法在 K-Means Clustering Mahout 中转换为 org.apache.hadoop.io.IntWritable

【英文标题】：ClassCastException: org.apache.hadoop.io.Text cannot be cast to org.apache.hadoop.io.IntWritable in K-Means Clustering Mahout

【发布时间】：2013-07-06 03:54:36

【问题描述】：

我正在使用 Mahout 命令进行 K-Mean 聚类，输入文件是 “KMeansData.csv”，数据就是这种格式，

John,M,30,Pepsi,US
Jack,M,25,Coke,US
David,M,34,Pepsi,UK
Ted,M,37,Limca,CAN
Robert,M,23,Limca,US
Adrian,M,31,Pepsi,US
Craig,M,37,Coke,UK
Katie,F,23,Limca,UK
Nancy,F,32,Pepsi,UK

我能够成功完成以下步骤，他们是，

./mahout seqdirectory -i /root/Mahout/Clustering/ -o /root/Mahout/temp/parsedtext-seqdir -c UTF-8 -chunk 1 

./mahout seq2sparse -i /root/Mahout/temp/parsedtext-seqdir -o /root/Mahout/temp/parsedtext-seqdir-sparse-kmeans --maxDFPercent 85 --namedVector

./mahout kmeans -i /root/Mahout/temp/parsedtext-seqdir-sparse-kmeans/tfidf-vectors/ -c /root/Mahout/temp/parsedtext-kmeans-clusters -o /root/Mahout/reuters21578/root/Mahout/temp/parsedtext-kmeans -dm org.apache.mahout.common.distance.CosineDistanceMeasure -x 10 -k 5 -ow --clustering -cl

但是当我使用 clustedump 时：

./mahout clusterdump -i  /root/Mahout/temp/parsedtext-kmeans-clusters -d  /root/Mahout/temp/parsedtext-seqdir-sparse-kmeans/dictionary.file-0 -dt sequencefile -b 100 -n 20 --evaluate -dm org.apache.mahout.common.distance.CosineDistanceMeasure --pointsDir  /root/Mahout/temp/parsedtext-kmeans-clusters -o  /root/Mahout/temp/cluster-output.txt

它给了我以下错误，

Exception in thread "main" java.lang.ClassCastException: org.apache.hadoop.io.Text cannot be cast to org.apache.hadoop.io.IntWritable
at org.apache.mahout.utils.clustering.ClusterDumper.readPoints(ClusterDumper.java:298)
at org.apache.mahout.utils.clustering.ClusterDumper.init(ClusterDumper.java:245)
at org.apache.mahout.utils.clustering.ClusterDumper.run(ClusterDumper.java:152)
at org.apache.mahout.utils.clustering.ClusterDumper.main(ClusterDumper.java:102)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
at java.lang.reflect.Method.invoke(Method.java:597)
at org.apache.hadoop.util.ProgramDriver$ProgramDescription.invoke(ProgramDriver.java:68)
at org.apache.hadoop.util.ProgramDriver.driver(ProgramDriver.java:139)
at org.apache.mahout.driver.MahoutDriver.main(MahoutDriver.java:195)

任何人都可以知道如何删除这个错误，使用命令，因为我没有任何我可以定制的 java 程序。

【参考方案1】：

clusterdump 的输入应该是

 ./mahout clusterdump -i /root/Mahout/temp/parsedtext-kmeans/clusteredPoints

这是一个序列文件

不是你原来的样子。