python Dask分布式安装

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python Dask分布式安装相关的知识,希望对你有一定的参考价值。

%matplotlib inline
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from sklearn.preprocessing import MinMaxScaler
from dask.distributed import Client
client = Client("dask-scheduler:8786")


import dask.dataframe as dd
dfd = dd.read_csv("/tmp/header.tsv", sep="\t", na_values=[" "], infer_datetime_format=True, parse_dates=[0], sample=100000000)

以上是关于python Dask分布式安装的主要内容,如果未能解决你的问题,请参考以下文章

Airflow 中文文档:用Dask扩展

Dask分布式中如何高效提交大参数任务?

在dask.distributed群集中的计算机之间共享python模块

dask分布式数据帧上的慢len函数

深度学习核心技术精讲100篇(八十五)-Dask 分布高性能计算深入讲解

如何使用分布式 Dask 和预训练的 Keras 模型进行模型预测?