`datasets` Iterable 数据集分片支持

当我使用 huggingface `datasets` 时，我认为一个很好的功能是由 `load_dataset(..., streaming=True)` 创建的 IterableDataset。它具有 `shard`、`shuffle` 和 `state_dict`，在多节点训练中非常有用。我只需要调用 `shard` 来使不同的节点使用不同的数据，便于随机化和恢复。