pandas修改csv文件里的值——踩坑记录

文章讲述了在处理CSV数据时,如何使用pandas添加新列并根据函数计算赋值。重点强调了在使用to_csv函数时,应选择正确的写入模式(如删除mode=a以覆盖写入而非追加),以及保留header的重要性。此外,还提醒读者注意pandas分块读取数据时的记忆特性,可能导致在双重循环中产生非预期行为。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

这两天在处理一个数据集,其中一步是在一个csv文件里再加一列,然后根据某些变换给这列的每一行分别赋相应的值,文件原貌如下:

 

正确操作代码如下:

log_message2timestamp函数代码省略。

import pandas as pd

test_log = pd.read_csv(r"D:\test\test.csv",memory_map=True)

for i in range(test_log.shape[0]):
    timestamp,day = log_message2timestamp(test_log.iloc[i]['message'])
    test_log.loc[i,'timestamp'] = timestamp
    test_log.loc[i,'datetime'] = day
# 将结果保存回CSV文件
test_log.to_csv('D:\\test\\test.csv', index = False, header=True)

修改之后文件样貌:

注意事项!

最开始我的to_csv函数里有参数mode='a',这是追加写的意思,所以导致一直不是我想要的效果,然后我就把mode='a'删了,默认是覆盖写,然后header要相应设置为True,保留列名字段,防止被内容覆盖掉。

所以在使用一个函数之前一定要读懂它的参数的含义!

pandas读取csv文件时,如果是分块读取,注意,那么块是有记忆的,什么意思呢,看下面的程序截图:

第一次运行:三个程序框都运行

 第二次运行:

只运行第三个程序框

 

第三次运行:

只运行第三个程序框

第四次运行:

只运行第三个程序框

可见已经无输出了,但是每次咱们都是 for chunk in test的语句,却没有从头遍历,所以这是有记忆的,所以当咱们如果外面再套一个循环构成双重循环时,可能可咱们之前写的双重循环思想不一样,要尤其注意这一点!!!!!!!!!!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

深海鱼肝油ya

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值