Linux 与 Windows,C++ 运行时性能差异超过读取 CSV 文件

Posted

技术标签:

【中文标题】Linux 与 Windows,C++ 运行时性能差异超过读取 CSV 文件【英文标题】:Linux vs Windows, C++ runtime performance difference over reading CSV file 【发布时间】:2017-04-14 03:07:26 【问题描述】:

我用 C++ 编写了一些测试代码来处理 CSV 文件。在 Windows 和 Linux 上编译和运行相同的代码会产生显着的性能差异:

CSV 文件大小:~30MB

Windows 性能(在 Windows 8 上): 80 秒

Linux 性能(在 Ubuntu 4.4.0-72-generic 上): 2 秒

在此处输入代码

两个代码都在 cmdline 上运行。 Linux 代码是用 g++ 构建的,支持 C++11。 Windows Code 是使用 Visual Studio 2017 构建的。

一开始我以为是Linux上的定时器实现有问题,所以我自己计时,结果是一样的。

谁能给我一些关于这种巨大差异来自哪里的提示?当我在调试器中运行 windows 时,我看到内存分配非常慢。但不确定是否是主要原因。

附上代码和CSV

#include <iostream>
#include <vector>
#include <cstdio>
#include <string>
#include <fstream>
#include <sstream>
#include <chrono>
#include <unordered_map>
#include <algorithm>
#include <numeric>
#include <stdlib.h>


using namespace std;

class readCSV 
private:
    vector<string> headers;
    bool set_header = true;
    string file_name;
    unordered_map<string, vector<double>*> my_map;
    unsigned int line_count = 1;
    double duration;
public:
    readCSV(string file, bool header)
        :file_name(file), set_header(header), duration(0) 
        parseCSV();
    ;
    void parseCSV();
    double find_duration() 
        return duration / 1000.0;
    
    vector<double> find_result(string names) 
        vector <double> result;
        unordered_map<string, vector<double>*>::iterator it = my_map.find(names);
        if (it == my_map.end()) 
            cout << "invalid query: " << names << endl;
            exit;
        
        cout << names << endl;
        size_t size = it->second->size();
        vector<double>* list = it->second;
        double mean = 1.0 * accumulate(list->begin(), list->end(), 0.0) / size;
        double sq_sum = inner_product(list->begin(), list->end(), list->begin(), 0.0);
        double stdev = sqrt(sq_sum / size - mean * mean);
        result.push_back(mean);
        result.push_back(stdev);
        return result;
    
    ~readCSV() 
        //release memory to prevent leak
        for (int i = 0; i < headers.size(); ++i) 
            delete my_map.find(headers[i])->second;
        
    
;

void readCSV::parseCSV() 
    ifstream file(file_name);
    string line;
    // log start time
    long start = chrono::duration_cast<chrono::milliseconds>(
        chrono::steady_clock::now().time_since_epoch()).count();
    while (getline(file, line)) 
        int count = 0;
        string cell;
        stringstream temp_line(line);
        while (getline(temp_line, cell, ',')) 
            unordered_map<string, vector<double>*>::iterator it;
            if (line_count == 1) 
                vector<double>* addr = new vector<double>();
                if (set_header) 
                    cell.erase(remove(cell.begin(), cell.end(), '\"'), cell.end());
                    headers.push_back(cell);
                    my_map.insert(make_pair(cell, addr));
                
                else 
                    string head = to_string(count);
                    headers.push_back(head);
                    my_map.insert(make_pair(head, addr));
                
                count++;
                continue;
            
            it = my_map.find(headers[count]);
            if (it != my_map.end()) 
                double num = atof(cell.c_str());
                it->second->push_back(num);
            
            else 
                cout << "CSV file corrupted!" << endl;
                return;
            
            count++;
        
        line_count++;
    
    //log finish time
    long stop = chrono::duration_cast<chrono::milliseconds>(
        chrono::steady_clock::now().time_since_epoch()).count();
    duration = stop - start;


int main(int argc, char **argv) 
    if (argc < 3) 
        cout << "wrong argument" << endl;
        return -1;
    
    string filename(argv[1]);
    string feature(argv[2]);
    readCSV file(filename, true);
    vector<double> result = file.find_result(feature);
    cout << "duration is " << file.find_duration() << " seconds" << endl;
    cout << "Mean is " << result[0] << " " << "STDev is " << result[1] << endl;
    return 0;

CSV 文件:

【问题讨论】:

你在比较苹果和苹果吗?确保您正在运行针对 Windows 进行优化的发布版本 非常感谢,蒂姆。你说得对,我想念窗户上的那个参数 【参考方案1】:

您可能正在调试模式下编译 VS 版本。将编辑器顶部的组合框从“Debug”更改为“Release”并重新编译;您应该会看到性能显着提高。

【讨论】:

以上是关于Linux 与 Windows,C++ 运行时性能差异超过读取 CSV 文件的主要内容,如果未能解决你的问题,请参考以下文章

Windows 与 Linux 上的 gSOAP C++ 代码

C++应用程序性能优化——操作系统的内存管理

Linux c++ 性能分析工具gprof

针对windows的linux c++代码修改

在 C++ 运行时获取当前操作系统

C++ 程序在 Linux 上完美运行,但不能在 Windows 上运行