1
chunchu 2014-05-04 00:34:26 +08:00
我很好奇是什么实验数据这么大啊?
|
2
jsonline 2014-05-04 00:35:49 +08:00
叫他自己买硬盘,5T/day的数据指望上传到别人的服务器?我只能呵呵了。
|
4
sneezry OP @jsonline 哈哈,他自己是买不起了。你说他要是每天都注册个百度网盘的账号,然后把每天的数据都传上去,百度会不会疯掉(笑
|
6
jsonline 2014-05-04 00:40:10 +08:00
一定是他的思路不对。
|
7
lehui99 2014-05-04 00:40:40 +08:00 via Android
每天上传5T?网速有这么快么?
|
8
Owenjia 2014-05-04 00:41:35 +08:00 via Android
这么大光上传要上传多久~~~
|
10
shakoon 2014-05-04 00:50:35 +08:00
5TB/day -> 60.7MB/s 不压缩的话谁有这么快的网络?
|
12
lookhi 2014-05-04 00:52:53 +08:00
10*60*60=36000M/h ~ 36G/h
36x24=864G/d 距离5T还挺远的吧 貌似没算错,应该是够呛的吧 |
13
Yien 2014-05-04 00:55:23 +08:00 via iPhone
360云盘好像能到36T
|
15
sneezry OP 哈,讨论来讨论去原来卡在网速上了,看来明天我得把这个残酷的事实告诉他了。
|
16
blacktulip 2014-05-04 03:58:36 +08:00
你同学是搞不清楚 T 和 G 吧我估计
|
17
anheiyouxia 2014-05-04 08:08:52 +08:00
应该不是T吧,如果5T,他本地有这么多硬盘吗?
不会是他框你的吧? |
18
x86 2014-05-04 08:25:12 +08:00 via iPhone
每天5T?我读书少,你不要骗我
|
19
Nourl 2014-05-04 08:39:40 +08:00
这是什么实验,这么NB
|
20
hsu 2014-05-04 08:42:51 +08:00
无奇不有
|
21
qq2511296 2014-05-04 08:52:02 +08:00
5T 我们都读书少,你就不要骗我们啦
|
22
nivek 2014-05-04 08:56:33 +08:00
买个小型存储类的nas,估计也有几十T的吧,内网千兆以太网或者光纤LAN吧,几千块而已,这么大传到别人的服务器上,不合适。
|
23
usedname 2014-05-04 09:09:20 +08:00
同21楼,这难道是传说中的大数据,云计算么。。。
|
24
qian 2014-05-04 09:12:09 +08:00
围观 5T...
|
25
Numbcoder 2014-05-04 09:16:47 +08:00
你同学是新搞的领域吗,在硬盘没上 T 之前,这实验是不是就没法做了?
|
26
sneezry OP 楼上诸位,5T在物理学领域一点也不梦幻。
|
27
Pactzhao 2014-05-04 09:19:46 +08:00
365*5T...围观一下。
|
28
andyliu 2014-05-04 09:21:58 +08:00
扯淡吧 估计是5G 听错了?
|
29
jjlovegrape 2014-05-04 09:23:39 +08:00
site:pan.baidu.com 苍老师
|
30
farnan 2014-05-04 09:28:08 +08:00
付费吧 会员又不贵,free is expensive
|
31
thai9quohs6jae1C 2014-05-04 09:31:09 +08:00
一天能上传5T?
|
32
loading 2014-05-04 09:40:21 +08:00 via Android
我在提醒下,下载回来一天能下完5T?
|
33
jesonyang 2014-05-04 10:00:10 +08:00
我估计楼主同学是航空航天领域的吧
每天备份卫星数据吧 用卫星传输速度也没有不可能! |
34
Cheshire_cat 2014-05-04 10:03:51 +08:00
这种事情难道实验室导师/学长学姐没有遇到过么?按说应该有成熟的解决方法才是.
|
35
FatGhosta 2014-05-04 10:06:54 +08:00
aws吧。。。
|
36
nbabook 2014-05-04 10:08:02 +08:00
5T不科幻,每天5T也不科幻,但是每天5T还都要存起来就科幻了。。。。
|
37
carterdang 2014-05-04 10:08:44 +08:00
同搞半导体材料,被这数据震惊了,每天5T,我们每天基本就几条曲线...
|
38
MingZhe 2014-05-04 10:11:05 +08:00
貌似360是30T
|
39
dong3580 2014-05-04 11:26:17 +08:00
@sneezry
5T,汗,这些数据在没有百度网盘的之前都留在哪儿啊?。。。这么大,以后想取出来怎么办?查找是不是得好几天了。 |
40
dorentus 2014-05-04 12:08:17 +08:00
实验数据为啥要存网盘
本地多存几份呗。 |
41
cdffh 2014-05-04 12:14:03 +08:00 1
5t的问题绝对不在容量. .而是在如何移动和复制上面..
|
42
ffts 2014-05-04 12:32:35 +08:00
我觉得先找个什么方法把这5T的东西压缩一下比较好...
|
43
Orz 2014-05-04 12:33:16 +08:00 via iPhone
叫你“同学”差不多就行了,别装逼了…
这么高端珍贵的数据每天买几块硬盘不行? |
44
unnya 2014-05-04 13:26:59 +08:00
楼主同学每天的数据:
ttttt 我觉得楼上们大概都误会了把XD 或者不是ttttt,实际上是烫烫烫烫烫? |
45
unnya 2014-05-04 13:29:10 +08:00
顺带一提,如果每天产生5T数据的话,在连续不断平稳产生数据的情况下,每秒需要产生61MB的数据。
|
46
jzhone 2014-05-04 13:46:06 +08:00
一辆 F1 一场比赛下来能够有 5T 的数据
|
47
Davidwg 2014-05-04 13:48:44 +08:00 1
很奇怪原来的数据都存在哪了
|
48
bfanr 2014-05-04 13:58:16 +08:00
你们这帮人类,人家说每天存5T的数据,没说这是自己一个人产生的,没准是一实验的人产生的数据总和啊
|
49
meizhile 2014-05-04 14:17:16 +08:00
楼主像是来晒同学智商的。。。如果有日上传5T的网速,不应该买不起硬盘吧
|
50
skyworker 2014-05-04 14:36:50 +08:00
百度的运维部门会傻到每天不监控这么大流量的上传用户?
百度的市场部会傻到不kill这个每天上传5TB而又不付费的用户? |
51
misaka 2014-05-04 14:52:49 +08:00 via Android
可是数据产生出来不都是拿来用的么,5T 全部都传到网盘上去那么用的时候咋办,全部下载下来?可是就是因为没那么大的存储设备才传的啊。
结论:装逼。 |
52
no13bus 2014-05-04 14:57:30 +08:00
半导体材料,有这么多数据?
好奇是做的啥?材料这种专业需要这么大的数据量?材料学又不是精密科学。有那么大的数据量吗? |
53
Linxing 2014-05-04 17:47:17 +08:00
我觉得应该是5G吧,5T真的是太夸张了,那这样他实验室是需要多少个硬盘啊,这么多数据,分析都要分析到哭了...
|
54
xmbaozi 2014-05-04 18:24:19 +08:00 via Android
楼上专业人士,每天5t,请稍微具体点举个栗子
|
55
alexapollo 2014-05-04 18:39:32 +08:00
QQ旋风离线,会员无上限
|
56
alexapollo 2014-05-04 18:39:47 +08:00
准确的说貌似是1P
|
57
SkyLanD 2014-05-04 19:18:49 +08:00
我看标题与回复数,以为真有什么「百度云盘」的使用好方法,进来一看都在讨论 5T 的事…
|
58
ctjim 2014-05-04 19:23:28 +08:00
我想说如果实验数据这么随便的存在免费的服务上自己会觉得安全吗
|
59
czyzyzt328 2014-05-04 22:14:48 +08:00
楼上诸位难道没有体验过实验数据丢失的痛吗……
话说既然这么大数据量,之前是怎么处理的可以参考一下 |
60
fox 2014-05-04 22:25:41 +08:00
每天5T平时是存在哪里的?
|
61
akfish 2014-05-04 22:38:17 +08:00
假设数值类型是32位int,一个数字4B,5 TB=5.xxx * 10^12 B,以下只考虑数量级。
假设每帧数据是4维向量,那就是10^12帧。 一天有24*3600=86400秒。 也就是每秒11574074Hz = 11.57MHz的采样率。 很低嘛。 |
62
akfish 2014-05-04 22:41:04 +08:00
哦,少除个4,只有10^11帧数据,还要再低个数量级,1MHz的采样率。
|
63
acros 2014-05-04 22:44:46 +08:00
他是不是在研究高速网半导体材料的···每天5T是测试数据,嗯,测试用网速的数据···
|
64
akfish 2014-05-04 22:49:05 +08:00 2
再贴个大型强子对撞机的数据量:
每秒10^9次质子碰撞事件,每个事件1MB的数据,所以也就是1PB/s的数据产生速度,这多到没办法存了。 于是他们设计了ATLAS的触发器系统,来过滤掉了大量事件,实际数据量是200MB/s,每年5PB的数据。 知道他们用什么存数据么,磁带。 |
65
h2sky 2014-05-04 22:58:05 +08:00
楼主消失在假装5T的之中了~
|
68
sneezry OP @h2sky 感谢是没心情给了,都用IT的角度考虑问题,一个个这么肯定单位用错了,真是没心情和他们辩论了,我本身也是学电子的,我相信一天数据量能达到5T,物理实验中绝大部分数据都是无意义的数据,物理界是模拟的世界,计算机界是数字的世界,模拟的数据量和数字的数据量不是一个数量级的。我在这个帖子中看到的只有无知和傲慢。
|
70
qq2511296 2014-05-04 23:41:30 +08:00
其实5T 就是5吨的意思
你们都弄错啦 |
72
sneezry OP 如果大家对物理界的实验感兴趣,我不如在此处和大家简单聊一聊,因为涉及军工项目,说得太详细我自己会有麻烦。我的研究方向是图像传感器的抗辐照解决方案,应用上就是军事上的间谍卫星。电子器件在太空中受到辐照后总体上有两种效应,第一个是总剂量效应,高能粒子轰击晶格会产生位错,位错积累最终会影响器件性能,直到器件失效。轰击晶格后的数据有多少你们知道吗?晶格的边长在nm量级,一块1cm见方的测试片里有多少晶格?再有一个是单粒子翻转效应,单个高能粒子打入半导体中引起电离,在电场作用下形成局部强电流,这个粒子打入半导体并引入电离需要多长时间你们知道吗?10^-11s,电场扫走电子的时间是10^-10s,最后恢复平衡需要10^-9s,这就是单粒子效应的三个阶段,如果我们想抓住这个过程,1s要采几次样?数据又有多少?一天5T算什么,如果采样详细——由于模拟信号是连续的,我可以做到数据达到无限大,只是过大没有意义罢了,但5T不是顺嘴胡说的。以自己的知识范围来质疑自己不了解领域范围的事情已经不算明智,更何况去嘲笑别人。能体现的只有自己的无知。对不起,我本来不想说这些,毕竟v2ex是计算机领域的论坛,这么较真的谈论物理没有必要也没有意义,当初发这个帖子上来也只是博大家一笑,但既然大家都这么认真,更有甚至追着我正面给出答复,那我也不妨和诸位认真一把。
|
73
hjmnoah 2014-05-04 23:45:18 +08:00 1
学有机发光体和锂电池的物理专业学生来冒个泡
5T实验数据在一个组里是完全有可能的。我们组的数据维护是我做的,我们每个月都会对无效数据进行清除,即使在这种情况下,四月份的数据也有很大。下个月定了10块2T西数绿盘。 我其实不明白,为什么这楼里的人能对他们完全不了解的领域大放厥词,也很好意思攻击别人。中文互联网的讨论氛围本来就很差这我知道。但是你们,作为受过高等教育的 developer ,能不能对不了解的事物稍稍谦虚一些? |
74
hjmnoah 2014-05-04 23:51:34 +08:00
就我的理解,你们 developer 的工作大多是创造性的。这多多少少给你们造物主的成就感,你们的工作也在慢慢改变这个世界。我非常非常钦佩你们。
但这并不给你们轻视其他领域工作者的权力,在开始一场良好讨论的时候,请先不要站在制高点上。 有些同理心,你们也就不再会囿于互联网纷繁的争吵中。 |
76
jdqingm 2014-05-05 00:00:25 +08:00 1
|
77
sneezry OP @jdqingm 哈,现在平静多了,谢谢你的回复 :P (爪机没法感谢,掀桌……明天我想着给你补上哈,得睡觉了。
|
79
cyio 2014-05-05 00:08:38 +08:00 via Android
|
80
cchange 2014-05-05 00:13:43 +08:00 via iPhone
学习了 学习了 后面的帖子有较强的干货~
|
81
xiaket 2014-05-05 11:07:48 +08:00
因为在正常的应用领域内, 每天上传5G算是个比较靠谱的需求. 对于每天上传5T的需求, 真的不是特别正常. 而且每天上传5T到免费网盘的需求绝对是不正常的.
你能产生这么多数据是正常的, 你能处理这么多数据也是正常的. 你处理后的数据也有这么多, 而且需要上传到不那么靠谱的网盘, 真的不正常. 要存这么多数据的应该都不在乎硬盘/磁带的钱. |
82
Hubert 2014-05-05 13:05:13 +08:00
只算上传到云盘的电费都让我觉得还是自己买盘来的便宜
|
83
sicifus 2014-05-05 13:06:34 +08:00
LZ你就不要纠结大家认不认可你的5T说了。
因为瓶颈根本不在网盘空间大小,而在于上传网速! 上面的有几位小伙伴已经提到过了。 再来简单帮你算算好了, 5 TB数据=5242880 MB, 假设正好在1天内传完,不浪费1秒, 上传网速的CIR=60.68 MByte/s, 折算到通常所说的网络速率=485.45 Mbit/s 也就是说,你同学得让实验室至公网的Upload速率起码达到500Mbps, 再来考虑什么高大上的网盘用法…… |
85
lazyphp 2014-05-05 14:44:25 +08:00
试下360的吧。量比百度的大。不过接口方便就不清楚了。
还有,楼主的朋友搞这么机密的东西,上传上去不怕 泄密啊? |
86
cpp255 2014-05-06 13:03:11 +08:00
传上去又下回来,这5T每天这么折腾,看到都疯
|
87
mutoulbj 2014-05-08 13:18:40 +08:00
挺逗的。看完开心多了。
|
88
reeco 2014-05-10 20:31:44 +08:00
竟然没人提迅雷云+
年费会员,1024TB |
89
ChanneW 2014-05-12 22:18:06 +08:00
要那么多数据你看的过来么?
|
90
finalghoul 2014-05-13 08:28:55 +08:00
每天5T很正常,但每天5T还要传网盘上。这事。。。
|
91
leadfast 2014-05-13 21:48:43 +08:00
这回涨姿势了,我等果然都是山里的麻雀啊
|
92
ToughGuy 2014-06-05 20:21:50 +08:00
自己买磁带存吧....
|
93
Stof 2014-07-04 20:18:16 +08:00 via iPhone
先建立一个大容量数据储备中心,然后细划分到各个小中心(相当于卫星城),每个小中心连接不同的路由器,路由器上进行多拨功能,定时自动上传,速率自定。
总结:学校有个数据中心才是王道。 |
94
latyas 2014-07-25 17:37:16 +08:00
=0= 一开始没看回复的时候我笑百度网盘要尿了,看了回复才发现我和大家的关注点不一样…
|