INT:半个世纪已经过去,算法效率提升有多快?-ODAILY_bitstamp交易平台下载

过去半个世纪,集成电路产业在摩尔定律的指引下飞速发展,算法效率一直保持着大跨度提升。2018年世界上最快的计算机IBMSummit比1945年世界第一台电子计算机ENIAC计算速度提高了近30万亿倍。

然而,随着摩尔定律接近物理极限,芯片研发和生产成本大幅上升,未来依靠算力提升计算性能的空间有限。靠提升计算机硬件性能可能越发难以满足海量计算的需要,未来的解决之道在于提升算法的效率。

MIT的这篇新论文总结了过去80年来,算法效率的提升究竟有多快。

提起算法,它有点像计算机的父母,它会告诉计算机如何理解信息,而计算机反过来可以从算法中获得有用的东西。

算法的效率越高,计算机要做的工作就越少。对于计算机硬件的所有技术进步,以及备受争议的摩尔定律的寿命问题来说,计算机硬件的性能只是问题的一方面。

Paradigm发布Collaborate with Paradigm公告,介绍10个重点关注领域:7月26日消息,Paradigm 在官网发布Collaborate with Paradigm公告,称希望与更多加密领域的优秀人才进行合作,目前其有足够的能力进行3到5项新的深度合作。Paradigm公布了几个其一直在探索的加密领域:

1. 以意图为中心的协议和基础设施

2. 基于 Uniswap v4 的 Hooks(特别是那些关注 LP 盈利性和损失与再平衡的 Hooks)

3. 以 Rollup 为中心的多链世界的基础架构

4. 共享排序器

5. 链上游戏(我们会喜欢玩的那种)

6. 加密原生社交应用

7. 预测市场(创建具有真实流动性的市场)

8. 稳定币支付/金融科技(随着稳定币的成熟和银行业务变得更加麻烦)

9. 链上资金库(稳定币之后、其他现实世界资产之前的自然步骤)

10. ZKP 应用(目前存在 ZKP 能力过剩:应用发展落后于科学和应用研究)。[2023/7/26 15:58:50]

而问题另一方面则在硬件之外:算法的效率问题。如果算法的效率提升了,对同一计算任务需要的算力就会降低。

美联储发文介绍Twitter金融情绪指数(TFSI):5月24日消息,美联储于官网发文《More than Words: Twitter Chatter and Financial Market Sentiment》表示,4 位美联储的研究人员从高达 440 万条推特数据中构建出一种新的指数来追踪市场情绪,这是一种新的信贷和金融市场情绪衡量指标,有助于预测货币政策立场的变化。研究发现 Twitter 金融情绪指数(TFSI)与企业债券利差和其他基于价格和调查的金融状况度量高度相关。此外,Twitter 金融情绪有助于预测第二天股市的回报,并发现该指数包含有助于预测美国货币政策立场变化的信息,例如在 FOMC 声明发布前一天,Twitter 金融情绪的恶化可预示紧缩性货币政策冲击的规模。[2023/5/24 15:22:48]

虽然算法效率问题可能不太受关注,但你是否注意到,经常使用的搜索引擎是否突然变快了十分之一,而在大型数据集中活动,就感觉就像在泥泞中跋涉一样艰难缓慢。

动态 | 阿联酋通讯巨头EITC高管向政府代表介绍在区块链等方面取得的最新进展:据CommsMEAFaraidooni在最近一次访问Idea Hub期间与政府代表进行了会面,并与其他高管一起介绍了该公司通过物联网用例、智能计量、区块链平台服务用例、智能能源管理和人工智能开发的最新进展。[2019/5/19]

这些都与算法效率有关。

近日,麻省理工学院计算机科学与人工智能实验室(CSAIL)的科学家提出疑问:算法效率的提升速度到底有多快?

关于这个问题,现有数据大部分是叙事性的,其中很大一部分是面向特定算法的案例研究,再把这些研究结果加以推广。

媒体:比特币2021年的年内涨幅已经开始落后于主流资产:由于在收复5月失地方面举步维艰,比特币年内迄今的投资回报现已开始落到传统资产之后。比特币新近的下跌已使其年内迄今涨幅只剩下14%,不及大宗商品,也低于欧洲和亚洲的一些股票指数。比特币4月中旬一度触及接近65,000美元的历史高点,但随后从巅峰水平大幅回落,亿万富豪马斯克批评比特币过于耗能的公共言论以及中国再次出手打压比特币则进一步加剧了它的跌势。(新浪财经)[2021/6/8 23:21:01]

面对实证研究数据的不足,研究团队主要利用了来自57部教科书和1110多篇研究论文的数据,以追溯算法效率提升的历史。

其中有些论文的结论中直接给出了新的算法有多高效,有的论文则需要作者使用“伪代码”进行重构。

研究人员总共研究了113个“算法系”,即解决计算机科学教科书中最重要的同一问题的算法集。他们对每个算法族的历史进行了回顾,跟踪每次针对某一问题提出的新算法,并特别注意更高效的算法。

德勤调查:金融机构将在2021年增加区块链支出:金色财经报道,根据德勤即将发布的名为《2020年金融服务业展望》的调查,许多金融机构已准备好在2021年增加其区块链支出。初步结果显示,接受调查的机构中有27%预计其在区块链和分布式账本技术的“支出将会略有增加”,14%的机构预计将会大幅增长。另有33%的机构预计不会改变,其余受访机构则希望能略微削减开支。德勤金融服务区块链团队负责人Richard Walker在评论该报告时表示,2021年将是“区块链和数字分类帐技术实现突破的一年”。[2020/11/26 22:08:31]

图1算法发现和改进。(a)每十年发现的新算法系的数量。(b)已知算法系的比例每十年都有所提高。(c)首次发现时算法系的渐近时间复杂度分类。(d)同一时间复杂度的算法转换到另一个时间复杂度的每年平均概率。在和中“>n3”的时间复杂度表示超过多项式级,但不到指数级。

最早的算法系可追溯到上世纪40年代,每个算法系平均有8个算法,按时间顺序效率逐步提升。为了共享这一发现,团队还创建了“算法维基”页面。

研究人员绘制了图表,标识这些算法族效率提升的速度,重点关注算法分析最多的特征——这些特征往往决定了解决问题的速度有多快。

图2算法系的相对效率提升,使用渐近时间复杂度的变化计算。参考线是SPECInt基准性能。(a)与该系列中的第一个算法相比,四个算法系的历史改进。(b)算法改进对“最近邻搜索”算法系列的输入大小(n)的敏感度。为了便于比较算法改进效果随时间的变化,在图(b)中将算法系和硬件基准的起始时间段对齐。

结果显示,变数很大,但也发现了关于计算机科学变革性算法效率提升的重要信息。即:

1、对于大型计算问题,43%的算法系的效率提升带来的收益,不低于摩尔定律带来的收益。

2、在14%的问题中,算法效率提升的收益远超硬件性能提升的收益。

3、对于大数据问题,算法效率提升收益特别大,因此近年来,这一效果与摩尔定律相比越来越明显。

当算法系从指数复杂度过渡到多项式复杂度时,情况出现了最大的变化。

所谓指数复杂度算法,就像一个人猜密码锁的密码一样。如果密码盘上只有一位数,那么任务很简单。如果像自行车锁一样,表盘是4位数,估计你的自行车很难有人偷得走,但仍然可以一个个试。如果是表盘是50位的,就几乎不可能破解了,需要的步骤太多了。

图3基于渐近时间复杂度计算的110个算法系效率提升的年平均速度分布,其中问题规模为:(a)n=1000,(b)n=100万,(c)n=10亿。硬件性能提升线表示从1978年到2017年,SPECInt基准性能的平均年增长率

这类问题也是计算机面对的难题,随着问题的规模越来越大,很快就会超过计算机的处理能力,这个问题光靠摩尔定律是解决不了的。

解决之道在于找到多项式复杂度的算法。

研究人员表示,随着摩尔定律终结这个话题越来越多地被提及,我们需要将未来的解决方案的重点放在算法的效率提升上。

图4前导常数在算法性能提升中的重要性评价

研究结果表明,从历史上看,算法效率的提升带来的收益是巨大的。不过二者之间存在着频度的差异,摩尔定律带来的提升是平滑而缓慢的,而算法效率的提升是阶梯式的跃进,但出现没那么频繁。

本文通讯作者尼尔·汤普森说:

这是业界第一篇说明算法效率提升速度的论文。通过我们的分析,可以得出算法改进后,使用同样的算力可以完成多少任务。

随着问题的规模不断增大,比如达到数十亿或数万亿个数据点,算法效率的提升带来的收益,比硬件性能的提升更重要,而且重要得多。

在我们开始逐步为算力不足发愁的时代,在摩尔定律越来越显出疲态的今天,这一发现可能为未来解决超大型计算问题开辟一条新的思路。

参考链接:

https://news.mit.edu/2021/how-quickly-do-algorithms-improve-0920

https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9540991

编辑:星际视界Sue

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

区块博客

[0:15ms0-3:163ms