”工欲善其事,必先利其器。“—孔子《论语.录灵公》
首页 > 编程 > 如何有效处理Python 2.7中的大型CSV文件?

如何有效处理Python 2.7中的大型CSV文件?

发布于2025-03-05
浏览:375

How to Effectively Handle Large CSV Files in Python 2.7? 
在python

问题:

solution:

1。产生过程行时:避免将整个文件加载到内存中。相反,处理行是使用生成器函数生成的。 def getstuff(fileName,criterion): 以开放式(文件名,“ rb”)为csvfile: datareader = csv.reader(csvfile) 屈服Next(DataReader)#屈服行行 对于DataReader中的行: 如果行[3] ==标准: 产生行

2。使用Generator函数进行过滤:

使用Generator Functions通过文件迭代时进行过滤数据。这种方法允许匹配多个连续的行符合特定标准。

==标准, drop(lambda r:r [3]!=标准,datareader)) 返回

3。优化内存消耗: redactor getData()也使用生成器函数,确保随时仅保存一行。 对于标准的标准: 对于getStuff(文件名,标准)中的行: 屈服行速度的其他提示:

使用csv.reader具有块大小参数:

最新教程 更多>

免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。

Copyright© 2022 湘ICP备2022001581号-3