Python 如何实时储存下位机发送的数据，数据要发送一天

[cherishxyn]

python 如何实时储存下位机发送的数据，因为可能下位机要工作一天，不停的通过串口发送工作参数，本来想着储存成 excel，这样以后用的时候打开 excel 分析就行了，但是不是储存数据多，每次存储必须要打开 excel，这样的话会卡吗，有没有什么储存的方式比较快捷，有没有可能不打开 excel 追加存储，或者其他存储方式，

新手诚心请教，因为自己做下位机，很多时候只通过串口不是很方便，于是，就想着自己用 python+pyqt 做个界面，以后自己可以通用。

[whileFalse]

不考虑数据库吗

[cherishxyn]

@whileFalse
如果真的要用数据库，我就在多花些时间，我用的功能不复杂，谢谢您的回复

[ipwx]

。。。你先随便找个格式存储，每过一天批量转换成 excel 不就行了？？？

[cherishxyn]

@ipwx 你的意思是，比如果存储成 json，如果不停的向里面添加数据，数据多了会卡吗，是不是每次添加数据前都要打开，这样随着数据多，是不是意味着就卡了

[bearqq]

建议存.csv ，格式了解一下
同时数据量到一定时候就分文件
处理大量数据也不建议用 excel，建议自己撸 python
数据注重查询的话可以用数据库，否则直接存文件也没问题

[ipwx]

@cherishxyn 你为啥每次添加记录都要打开一遍文件。

保持一个开着的文件，写一个后台线程存储，前台线程接收数据不就行了么？

[Juszoe]

sqlite 不知道符不符合你的需求

[ipwx]

另外每天换一个文件。

[loading]

存 sqlite 或者更粗暴存 txt，
一个数据一行，文本好分析，配合文本工具，多大文件都能秒开。

[loading]

你只要花几分钟看看 python 如何读一个文件就行了，按行读取。

[cherishxyn]

@ipwx 因为我想着如果掉点了，就没了，不过，现在想来，省事的话就可以用这种，毕竟我要求不是特别严格，只不过占些内存而已，看大家的回答，我想这几天在学习下数据库

[ipwx]

@cherishxyn

f.flush()
open('xxx.txt', 'a')

[mazyi]

这不是 python 的问题，是设计问题

[ipwx]

@cherishxyn 而且文件缓冲区是固定的，不是说 f.close 之前就不存任何数据进去，而是 f.close 之前没打满缓冲区或者没调用 .flush() 就不写入。超过缓冲区大小会写入一批的。

[loading]

物联网用的多的是时序数据库，你了解一下，应该很适合你。

[cherishxyn]

@ipwx 谢谢，明白了

[Ediacaran]

Append csv 文件

[cherishxyn]

@loading 感谢仁兄的传授

[cherishxyn]

@bearqq 谢谢

[qile1]

检验科仪器每天都传输数据，一般通用方法是保存一份 txt 文件，同时解析一份结果保存一份到数据库

[iceecream]

csv 不香吗，既可以 tail、cat、awk 当文本打开，也可以走 excel

[Vegetable]

csv，sqlite 这两个。
别 Excel，Excel 行数有上限，一百多万行。.xls 只有 65535 行。操作 Excel 也需要更多内存，速度会比想象的慢，OOM 也来的更早。

[littlewing]

sqlite

[shm7]

没吃过没看过很多日志采用滚动记录的方式么，每个日志文件设定上限 size… 数字的话当文本存 txt csv flush 一下 多写几个 try catch

[ackoly]

csv 加 pandas 不香吗

[bitdust]

python 内置的 log 库，很香的。
1.自定义格式
2.做滚动存储
3.远程存储
4.自动打时间戳

[sintrb]

用 csv 吧，csv 有个好处是格式简单，能够直接用 excel 打开。
用追加模式打开 csv 文件，不停的往里面写入数据就行，写了之后 flush 一下，防止掉电丢失，类似下面的：

import time, random, datetime, io
def read():
return random.random()
with io.open('/tmp/t.csv', 'a', encoding='utf8') as f:
while True:
v = read()
l = '%f,%f\n' % (time.time(), v)
if type(l) != type(u''):
l = l.decode('utf8')
f.write(l)
f.flush()
time.sleep(1)

[sintrb]

@sintrb 把下划线换成空格

[sintrb]

@sintrb 把下划线换成空格

import time, random, datetime, io

def read():
__return random.random()

with io.open('/tmp/t.csv', 'a', encoding='utf8') as f:
__while True:
____v = read()
____l = '%f,%f\n' % (time.time(), v)
____if type(l) != type(u''):
______l = l.decode('utf8')
____f.write(l)
____f.flush()
____time.sleep(1)

[cherishxyn]

@sintrb 非常有用，谢谢，就用这个方式了。后面我继续学习数据库，到时候再从新做一个。楼上很多人说的非常实用，感谢，学习很多

[cherishxyn]

@Vegetable 学习了，感谢

[cherishxyn]

@bitdust 这个对我来说是新东西，我会去查看的，谢谢回复

[cherishxyn]

我还有个问题想问下，就是大家回复的对我很有帮助，我是否有必要在下面一一回复感谢，回复多了，整个页面很多客套话，后来人也不便阅读，不回复显得不礼貌，该怎么办呢

[jianghu52]

@cherishxyn 你可以最后回帖的时候 @一圈人,感谢一下就行了.另外,如果可能的话,最好把你最后修改之后的结果也贴上来,这样很多人还会帮你看看哪里还有不足.

[cherishxyn]

@jianghu52 好的，我现在最开始构思的，估计还要一段时间做出来，谢谢

[cherishxyn]

@sintrb
@bitdust
@ackoly
@shm7
@Vegetable
@iceecream
@qile1
@ipwx
@loading
@loading
@ipwx
@bearqq

谢谢各位，刚知道，可以统一感谢

[loading]

@cherishxyn 每层楼都有一个空心的爱心，点一下。