分享好友 最新资讯首页 最新资讯分类 切换频道
大数据也有问题:数据量增加远超摩尔定律需要“智能遗忘”
2024-11-20 06:42

据国外媒体报道,在经济领域和人类行为的大量数据采集中,存在着一个违反直觉的弊端,而这会使我们忽略历史的教训。

大数据也有问题:数据量增加远超摩尔定律需要“智能遗忘”

大数据的问题之一是太过于关注当前,而忽略了即使最近的过去。

你或许很熟悉这样一个统计结论:世界90%的数据是过去几年里产生的。事实上,过去三十年中,全世界的数据量大约每两年增加10倍——远远超过了计算机领域的摩尔定律。

这样的信息增长速率会带来一些问题,其中之一便是现时的数据量总是远远超过即使最近的过去。想象你正在通过一本相片簿回顾人生的头18年,假设在两岁时你有两张照片,如果信息增长速率与世界数据量相同,那么在你6到8岁时,你会有惊人的2000张照片;10到12岁时有20万张照片;而在16到18岁时,照片数量会达到2亿张,相当于在最后两年中,每秒有3张以上的照片。

当然,这并非是全球数据增长情况的完美类比。首先,世界大部分数据的增长源于有更多的人创造出了更多的信息来源,同时伴随更大、更精细的格式。不过,有关比例的观点还是成立的。如果你像前述的例子那样回顾以往的记录,或者试图进行分析,那距离越久远的过去就会变得越无关紧要。

这就是目前采集和分析大数据时所面临的问题。当你开始以更长远的视角往前回溯时,会发现近期的事情太多,而以前的事情太少。短视是结构性的,对短期趋势的过度估计是压倒性的,同时却忽略了历史的经验教训。

为了理解这个问题的重要性,需要考虑社会科学中有关“近期偏差”(recency bias,又称近因效应)的研究发现。近期偏差是指在判断趋势时,认为未来事件与近期体验更加类似。这可以说是某种“可利用性法则”(availability heuristic) ——不恰当地以最容易被知觉到的信息来作为思考的基础。这还是一种普遍的心理学特征。举例来说,如果在你居住的地方,过去几年中夏季都异乎寻常地寒冷,你 可能会认为夏天正在变得更冷——或者说你当地的气候正在变冷。事实上,你不应当把任何东西都塞到数据里分析。你需要有一个长远的视角,才能认识真正有意义的气候趋势。在短时期内,你最好不进行任何猜测。不过,我们之中又有谁能真正做到这点呢?

现实生活中大部分复杂的趋势正是如此:股票市场、经济发展、企业的成功或失败、战争或和平、国家关系、帝国的崛起和衰落等等。短期分析不仅不够扎实,而且毫无益处甚至会带来误导。看看2009年金融危机即将到来的时候,还有那么多经济学家信誓旦旦地宣称这一事件不会发生。认为从那种时间尺度的数据就能做出扎实的预测,本身就有很大的问题。

我们还应当记住,在决定哪些数据是保存还是删除的时候,新颖性往往会成为主要的考虑因素。旧的淘汰,新的进来,在这个搜索算法本质上偏向于新鲜事物的数字世界中,这是明显的趋势。从高等法院的裁决,到所有的社交媒体服务平台上,我们到处都可以看到已经失效的网址。对当前的偏好已经渗透到我们身边几乎所有的技 术中,大多数人已经习惯用个四五年就把原本光鲜亮丽的机器抛弃。

我们需要更好地确定哪些数据值得优先保存。

怎么办?这不仅是一个如何更好保存旧数据的问题——尽管这并不是个坏主意,想想我们现在还有什么东西能保留10年的。更重要的是,这个问题关系到确定哪些东西值得优先保存,如何在知识的名义下,确定哪些信息最有意义。

或许我们需要的是“智能遗忘”:让我们的工具变得更会放弃最近的过去,从而在整体视角上保持更大的连续性。这有点像是重新组织一本相片簿,尽管加上了更多的 数学方法。什么时候两百万张照片的价值比两千张照片更低?什么时候较大的样品覆盖的范围反而较小?什么时候细节水平能提供有用的质疑证据,而不是虚假的自信?

许多数据集是无法缩减的,而且在完整的情况下才最宝贵,比如,基因序列、人口统计学数据、地理和物理学的原始观测数据等。科学性越弱,数据规模与数据的质量更可能呈现负相关,此时时间本身就成为更加重要的过滤工具。我们如果不仔细选择过去保存下来的有价值、有意义的东西,那它们就会悄无声息地淹没在如今日益增长的噪音之中。

今天的企业、个人和政府机构都能够获得比以往(甚至就在几年前)大许多数量级的数据,但这些数据并没有获得更多的处理时间。利用越来越高效的工具,董事会成员、首席执行官、政府官员等决策者可以就已有的信息提出更有意义的问题。单纯的堆积不是问题的答案。在一个数据量越来越大的时代,如何选择不知道哪些事情,与选择做什么事情一样重要。

最新文章
二、内容优化:提升用户体验和搜索引擎友好度
随着互联网的快速发展,越来越多的企业和个人开始关注SEO(搜索引擎优化)技术,以提高自己的网站在搜索引擎中的排名。提升网站
ai在线人工智能写作
与传统的手动写作方式相比,ai在线人工智能写作具有以下优势:快速生成:只需输入关键词和需求,短短几分钟内即可获得一篇符合要
全面总结:五款高效生成小红书内容文案的AI工具与生成器
在数字时代,内容创作成为了吸引使用者、提升作用力的关键手。特别是在小红书这一充满活力的社交平台上,优质的内容文案更是吸引
SEO网站营销的最佳实践指南
SEO网站营销的最佳实践指南在当今数字时代,SEO网站营销已成为企业在线成功的关键。通过优化搜索引擎排名,企业能够吸引更多目标
好的餐饮行业推广营销-餐饮推广策略都有哪些
在当今竞争激烈的商业世界中,餐饮行业作为人们生活中不可或缺的一部分,其推广营销显得尤为重要,好的餐饮行业推广营销能够吸引
Opera 推出旗舰 AI 浏览器新版本:Opera One R2
2024年6月26日,Opera公司发布了其于2023年首次推出的以 AI 为中心的旗舰浏览器 Opera One 的新版本。通过Opera One,这家挪威公
Sem外包:企业数字营销转型的挺好策略
随着互联网技术的发展,数字化营销已经成为企业营销策略中不可或缺的一部分。在数字化营销策略的构建中,搜索引擎营销(SEM)被
百度蜘蛛池租用:揭秘蜘蛛池目录站群源码,高效SEO策略的秘密武器
百度蜘蛛池租用揭秘:深度解析蜘蛛池目录站群源码,揭示高效SEO策略的核心秘密,助您掌握搜索引擎优化利器。本文目录导读:蜘蛛
聚焦 | 为校园公众号“降温”
本刊记者李薇薇随着信息化时代的到来,在微信公众号上发布校园新闻、展示学校动态,成为不少学校的宣传“标配”。然而,从今年上
宝塔搭建GPT+MJ+GPTs程序
目录准备 1.云服务器 2.支持ChatGPT+Midjourney的服务的秘钥 需要准备的软件(能进行ssh连接的都行) Windows版