此浏览器不再受支持。
请升级到 Microsoft Edge 以使用最新的功能、安全更新和技术支持。
我有一个 5GB 的 CSV 文件,直接用 pandas.read_csv() 读取会导致内存不足。
请问有什么好的方法可以处理大型 CSV 文件?
我尝试过:
但还是想了解更多最佳实践,谢谢!
Microsoft 电子表格软件系列,其中包含用于分析、绘制图表和传达数据的工具。
这么大的 CSV 文件,何不在Python处理之前,先将其转为关系型数据库文件呢?
毕竟数据库操作,一般比文本文件操作要快数量级吧。
此答案是否有帮助?
就是C语言,处理这么大的文本文件也可能会导致内存不足或效能低下,何况一个解释型的脚本语言Python呢。