如何在 Python 中高效读取大型 CSV 文件?

t1st system 0 信誉分
2026-01-31T22:06:22.2933333+00:00

我有一个 5GB 的 CSV 文件,直接用 pandas.read_csv() 读取会导致内存不足。

请问有什么好的方法可以处理大型 CSV 文件?

我尝试过:

  • 使用 chunksize 参数分块读取
  • 使用 dask 库

但还是想了解更多最佳实践,谢谢!

Microsoft 365 和 Office | Excel | 教育版 | 其他
0 个注释 无注释

1 个答案

排序依据: 非常有帮助
  1. davidw 15,970 信誉分
    2026-02-02T01:23:56.93+00:00

    这么大的 CSV 文件,何不在Python处理之前,先将其转为关系型数据库文件呢?

    毕竟数据库操作,一般比文本文件操作要快数量级吧。

    此答案是否有帮助?


你的答案

提问者可以将答案标记为“已接受”,审查方可以将答案标记为“已推荐”,这有助于用户了解答案是否解决了提问者的问题。