AG九游会MIT论文:通用计算机时代即将终结计算机产业在过去几十年里经历了一段显著的增长和稳定时期,这很大程度上象征着技术和经济的胜利。一方面,图灵和冯·诺依曼等计算机科学家实现的技术突破助推了计算机作为通用技术的崛起;另一方面,自1965年被提出以来,摩尔定律驱动着通用技术产业在处理器性能提升和市场需求增长之间实现良性的经济循环。
如今,同样是来自技术和经济的力量正在推动计算机产业向着相反方向发展——计算机时代正在告别通用,转向专用。
正如来自麻省理工学院(MIT)和亚琛大学的两位研究人员近日发表联合署名的论文称,通用计算机时代即将终结AG九游会登录j9入口。他们在论文中论证指出,摩尔定律的逐渐失效以及深度学习和数字货币挖矿等新应用需求的出现,正助推计算机行业从当前的普遍使用通用微处理器,转向一个青睐专用微处理器的时代。
论文的两位作者分别是MIT计算机科学和AI实验室的研究科学家兼哈佛大学的客座教授Neil Thompson,以及亚琛工业大学的研究生Svenja Spanuth。
文章指出,通用计算机时代当前面临三大问题:新增用户数量逐渐见顶、制造成本不断攀升、以及性能提升速度不断放缓,后两者也就是对应开头所指的经济和技术。正是这三个特征助推了计算机时代的转变。
1)首先来看经济问题。简而言之,缩小晶体管尺寸的成本变得极其高昂,这令过去几十年驱动通用计算机时代盛行的摩尔定律日渐式微。
晶体管密度稳步翻番,推动处理器性能大幅提升。这正是摩尔定律的核心所在。自1965年被提出以来,摩尔定律在过去几十年里驱动推动了通用计算模型的兴起和兴盛。
开发和制造定制芯片的固定成本在3000万到8000万美元之间。因此,即使对需要高性能微处理器的用户而言,采用专用架构的好处也荡然无存:一方面是缩小通用处理器中晶体管的尺寸会消除定制解决方案能提供的任何初始性能提升,另一方面是缩小晶体管尺寸的成本可以分摊到数百万个处理器上。
但如今,摩尔定律带来的计算经济学正在发生变化:随着基础半导体材料的物理限制开始凸显出来,缩小晶体管尺寸的成本变得极其高昂。
论文作者指出,制造芯片的固定成本正在变得异常高昂,这必然会打消半导体制造商力求生产更小尺寸的晶体管的积极性,也会令半导体制造产业整体的规模经济趋向恶化。数据显示,在过去的25年里,制造一家先进芯片制造厂的成本每年增长11%。2017年,半导体行业协会估计新建一家芯片制造厂要花费约70亿美元。
以芯片巨头英特尔为例,由于建造和运营新芯片制造厂的费用节节攀升,英特尔的固定成本有史以来第一次超过其可变成本。
前者还导致了半导体制造商的数量骤减,从2002年的25家减少到今天的4家:英特尔、台积电(TSMC)、三星和格罗方德。
Thompson和Spanuth通过一系列复杂的数学模型量化计算专用处理器的成本/收益,考虑到了开发定制芯片的固定成本、芯片数量、定制实现所带来的加速以及处理器提升的速度。由于后者与摩尔定律联系在一起,因此缓慢的步伐意味着即使预期的提升比较适中,更容易证明使用专用芯片的合理性。
论文作者声称:“因此,对于许多(但并非全部)应用而言,现在使用专用处理器在经济上是可行的,至少在硬件方面是这样。换一个角度来看,在2000年至2004年期间,市场规模约83000个处理器的应用将需要专用处理器性能提升100倍才划算。而在2008年至2013年,这种处理器只需要提升2倍就行。”
2)再者是技术问题。简而言之,如深度学习、数字货币挖矿等一些新应用的需求是通用计算无法满足的,专用处理器才能在能源效率和性能上满足这些需求,这也是促进专用处理器的另一个驱动因素。
Thompson和Spanuth指出,从整体性能和性价比两个方面衡量,都说明了通用处理器的技术进步大幅放缓。
从性能来看,由于大量技术挑战的存在,2004/2005年成为性能提升的转折点。自从2005年之后,整体性能提升的速度平均每年放缓22%。从性价比看,美国劳工统计局(BLS)的一份报告量化计算显示,微处理器性价比的提升幅度从2000年至2004年的每年48%下降到2004年至2008年的每年29%,继而下降到2008年至2013年的每年8%。
在这样的状况下,通用计算机处理器显然无法满足新出现的一批应用需求。比如,移动设备、物联网(IoT)等平台在能源效率和成本方面有很高要求,而且需要大批量部署;要求更苛严的低批量应用(比如军用和航空硬件)也需要特殊用途的设计;还有涵盖几乎各种移动环境(移动、桌面、嵌入式、云计算和超级计算等)的深度学习——这些都推动了计算从通用处理器走向专用处理器。
其中,深度学习及其青睐的硬件平台GPU是计算从通用处理器走向专用处理器的一个最明显的例子,也是让这个行业真正面临分水岭的标志。
GPU被视为一种半专用的计算架构,由于能够比CPU更有效地进行数据并行处理,已成为训练深度神经网络的事实上的平台。论文指出,虽然GPU现在还被用来加快科学工程应用,但让进一步的专门化成为可能的却是深度学习这种高容量应用。当然,GPU已经在桌面游戏领域拥有成熟的业务,GPU最初是针对桌面游戏这种应用设计的。
2018年11月的TOP500排名显示,专用处理器(主要是英伟达GPU)而不是CPU首次成为性能提升的主要来源。论文作者还对排名表进行了回归分析,结果显示,搭载专用处理器的超级计算机每瓦特所能执行的计算次数几乎是只使用通用处理器的超级计算机的五倍!
3)还有一个问题是用户红利见顶,也就是新增用户的数量正在减少。这又主要来自于两个方面:对于通用处理器的需求增速正在放缓,以及部分通用处理器的用户正转向专用处理器。
对于通用处理器的需求增速正在放缓,这方面很好理解。如前述所说,通用处理器的性能提升速度正在放缓,因此通用处理器的更新换代频率越来越低。
通用处理器的用户正转向专用处理器,这是通过两种途径瓦解通用计算机的周期:一方面,它减少了通用处理器的用户数量;另一方面,它将很多用户“锚定”在了专用处理器市场,即使通用处理器的性能提升再次加速,用户也会依旧停留在专用处理器的市场。
上述途径也正呼应了论文论证的中心。比如,深度学习是一个主要贡献者,它涵盖了大量的移动环境,也因此驱动了专用处理器市场份额的大幅增长。
摩尔定律的慢慢消亡揭示了过去的创新、市场扩张和再投资这个良性循环。但随着更多的专用芯片开始蚕食计算机行业的份额,这个周期变得支离破碎。由于较少的用户采用使用最新制造工艺的节点,为芯片制造筹集资金变得更困难,这进一步减缓了技术进步。其影响是,计算机行业分散成了多个专门领域。
影射到现实,我们正在告别此前的计算机时代,在那里几乎所有人都面对着同一种通用的计算机平台,处理器性能提的感受是广泛的;
当前我们正在慢慢转向一个新的计算机时代,不同的用户面对不同的计算机平台,处理器性能的提升也只能被一部分用户群体感受到。
论文作者表示,由于规模和对专用硬件的适用性,其中一些领域(比如深度学习)将会处于快车道。然而像数据库处理这些领域虽然广泛使用,但可能会成为一潭死水,因为这种类型的计算并不需要专用芯片。另外,气候建模等其他领域由于应用面太狭小AG九游会登录j9入口,用不着自己的定制芯片,不过它们依然有望从中得益。
论文作者预测,云计算会为较小、较偏冷的社区提供众多基础设施,在某种程度上减弱这种差异性的影响。更多的专用云资源(比如GPU、FPGA以及谷歌的TPU)越来越普遍,这意味着富人和穷人能够在更平等的平台上同台竞技AG九游会登录j9入口。
1)首先来看经济问题。简而言之,缩小晶体管尺寸的成本变得极其高昂,这令过去几十年驱动通用计算机时代盛行的摩尔定律日渐式微。
晶体管密度稳步翻番,推动处理器性能大幅提升。这正是摩尔定律的核心所在。自1965年被提出以来,摩尔定律在过去几十年里驱动推动了通用计算模型的兴起和兴盛。
开发和制造定制芯片的固定成本在3000万到8000万美元之间。因此,即使对需要高性能微处理器的用户而言,采用专用架构的好处也荡然无存:一方面是缩小通用处理器中晶体管的尺寸会消除定制解决方案能提供的任何初始性能提升,另一方面是缩小晶体管尺寸的成本可以分摊到数百万个处理器上。
但如今,摩尔定律带来的计算经济学正在发生变化:随着基础半导体材料的物理限制开始凸显出来,缩小晶体管尺寸的成本变得极其高昂。
论文作者指出,制造芯片的固定成本正在变得异常高昂,这必然会打消半导体制造商力求生产更小尺寸的晶体管的积极性,也会令半导体制造产业整体的规模经济趋向恶化。数据显示,在过去的25年里,制造一家先进芯片制造厂的成本每年增长11%。2017年,半导体行业协会估计新建一家芯片制造厂要花费约70亿美元。
以芯片巨头英特尔为例,由于建造和运营新芯片制造厂的费用节节攀升,英特尔的固定成本有史以来第一次超过其可变成本。这从根本上改变了缩小晶体管的成本/效益。
前者还导致了半导体制造商的数量骤减,从2002年的25家减少到今天的4家:英特尔、台积电(TSMC)、三星和格罗方德。
Thompson和Spanuth通过一系列复杂的数学模型量化计算专用处理器的成本/收益,考虑到了开发定制芯片的固定成本、芯片数量、定制实现所带来的加速以及处理器提升的速度。由于后者与摩尔定律联系在一起,因此缓慢的步伐意味着即使预期的提升比较适中,更容易证明使用专用芯片的合理性。
论文作者声称:“因此,对于许多(但并非全部)应用而言,现在使用专用处理器在经济上是可行的,至少在硬件方面是这样。换一个角度来看,在2000年至2004年期间,市场规模约83000个处理器的应用将需要专用处理器性能提升100倍才划算。而在2008年至2013年,这种处理器只需要提升2倍就行。”
2)再者是技术问题。简而言之,如深度学习、数字货币挖矿等一些新应用的需求是通用计算无法满足的,专用处理器才能在能源效率和性能上满足这些需求,这也是促进专用处理器的另一个驱动因素。
Thompson和Spanuth指出,从整体性能和性价比两个方面衡量,都说明了通用处理器的技术进步大幅放缓。
从性能来看,由于大量技术挑战的存在,2004/2005年成为性能提升的转折点。自从2005年之后,整体性能提升的速度平均每年放缓22%。从性价比看,美国劳工统计局(BLS)的一份报告量化计算显示,微处理器性价比的提升幅度从2000年至2004年的每年48%下降到2004年至2008年的每年29%,继而下降到2008年至2013年的每年8%。
在这样的状况下,通用计算机处理器显然无法满足新出现的一批应用需求。比如,移动设备、物联网(IoT)等平台在能源效率和成本方面有很高要求,而且需要大批量部署;要求更苛严的低批量应用(比如军用和航空硬件)也需要特殊用途的设计;还有涵盖几乎各种移动环境(移动、桌面、嵌入式、云计算和超级计算等)的深度学习——这些都推动了计算从通用处理器走向专用处理器。
其中,深度学习及其青睐的硬件平台GPU是计算从通用处理器走向专用处理器的一个最明显的例子,也是让这个行业真正面临分水岭的标志。
GPU被视为一种半专用的计算架构,由于能够比CPU更有效地进行数据并行处理,已成为训练深度神经网络的事实上的平台。论文指出,虽然GPU现在还被用来加快科学工程应用,但让进一步的专门化成为可能的却是深度学习这种高容量应用。当然,GPU已经在桌面游戏领域拥有成熟的业务,GPU最初是针对桌面游戏这种应用设计的。
2018年11月的TOP500排名显示,专用处理器(主要是英伟达GPU)而不是CPU首次成为性能提升的主要来源。论文作者还对排名表进行了回归分析,结果显示,搭载专用处理器的超级计算机每瓦特所能执行的计算次数几乎是只使用通用处理器的超级计算机的五倍!
3)还有一个问题是用户红利见顶,也就是新增用户的数量正在减少。这又主要来自于两个方面:对于通用处理器的需求增速正在放缓,以及部分通用处理器的用户正转向专用处理器。
对于通用处理器的需求增速正在放缓,这方面很好理解。如前述所说,通用处理器的性能提升速度正在放缓,因此通用处理器的更新换代频率越来越低。
通用处理器的用户正转向专用处理器,这是通过两种途径瓦解通用计算机的周期:一方面,它减少了通用处理器的用户数量;另一方面,它将很多用户“锚定”在了专用处理器市场,即使通用处理器的性能提升再次加速,用户也会依旧停留在专用处理器的市场。
上述途径也正呼应了论文论证的中心。比如,深度学习是一个主要贡献者,它涵盖了大量的移动环境,也因此驱动了专用处理器市场份额的大幅增长。
摩尔定律的慢慢消亡揭示了过去的创新、市场扩张和再投资这个良性循环。但随着更多的专用芯片开始蚕食计算机行业的份额,这个周期变得支离破碎。由于较少的用户采用使用最新制造工艺的节点,为芯片制造筹集资金变得更困难,这进一步减缓了技术进步。其影响是,计算机行业分散成了多个专门领域。
影射到现实,我们正在告别此前的计算机时代,在那里几乎所有人都面对着同一种通用的计算机平台,处理器性能提的感受是广泛的;
当前我们正在慢慢转向一个新的计算机时代,不同的用户面对不同的计算机平台,处理器性能的提升也只能被一部分用户群体感受到。
论文作者表示,由于规模和对专用硬件的适用性,其中一些领域(比如深度学习)将会处于快车道。然而像数据库处理这些领域虽然广泛使用,但可能会成为一潭死水,因为这种类型的计算并不需要专用芯片。另外,气候建模等其他领域由于应用面太狭小,用不着自己的定制芯片,不过它们依然有望从中得益。
论文作者预测,云计算会为较小、较偏冷的社区提供众多基础设施,在某种程度上减弱这种差异性的影响。更多的专用云资源(比如GPU、FPGA以及谷歌的TPU)越来越普遍,这意味着富人和穷人能够在更平等的平台上同台竞技。返回搜狐,查看更多