DataFrame相当于pandas的DataFrame sort_values

Question

对于任务DataFrame, pandas中的sort_values的等效值是什么?我正在尝试扩展一些有内存问题的Pandas代码，以使用任务DataFrame代替。

是否等价于:

ddf.set_index([col1, col2], sorted=True)

?

Answer 1

并行排序很困难。在Dask.dataframe

中有两个选项

set_index

现在，您可以使用单个列索引调用set_index:

In [1]: import pandas as pd
In [2]: import dask.dataframe as dd
In [3]: df = pd.DataFrame({'x': [3, 2, 1], 'y': ['a', 'b', 'c']})
In [4]: ddf = dd.from_pandas(df, npartitions=2)
In [5]: ddf.set_index('x').compute()
Out[5]: 
   y
x   
1  c
2  b
3  a
Unfortunately dask.dataframe does not (as of November 2016) support multi-column indexes
In [6]: ddf.set_index(['x', 'y']).compute()
NotImplementedError: Dask dataframe does not yet support multi-indexes.
You tried to index with this index: ['x', 'y']
Indexes must be single columns only.

nlargest

考虑到你的问题，我怀疑这并不适用于你，但通常情况下，使用排序可以通过更便宜的解决方案nlarge。

In [7]: ddf.x.nlargest(2).compute()
Out[7]: 
0    3
1    2
Name: x, dtype: int64
In [8]: ddf.nlargest(2, 'x').compute()
Out[8]: 
   x  y
0  3  a
1  2  b

Answer 2

我的首选方法是首先使用dask中的单列set_index，然后使用map_partitions分发Pandas的sort_values

# Prepare data
import dask
import dask.dataframe as dd
data = dask.datasets.timeseries()
# Sort by 'name' and 'id'
data = data.set_index('name')
data = data.map_partitions(lambda df: df.sort_values(['name', 'id']))

一个可能的问题是单个索引值不能在多个分区中。但从我在实践中看到的情况来看，Dask似乎不允许这种情况发生。不过，如果对此有一个更有根据的意见就好了。

编辑:我在Dask数据框架中问过这个问题:单个索引可以在多个分区中吗?

Answer 3

您将使用以下代码添加一个新的组合列并为其设置索引:

newcol = ddf.col1 + "|" + ddf.col2
ddf = ddf.assign(ind=newcol)
ddf = ddf.set_index('ind', sorted=True)

如果数据框已经按(col1, col2)排序，那么它也已经按newcol排序，所以你可以使用sorted=True