进入智慧时代,算力多元化发展的趋势愈加明显
文章指出,算力的重要性不言而喻,这与我们观察到的社会对算力的需求呈现爆发式的增长也是相吻合的。深度学习自2011年兴起至今,已经是目前最热门、最主流的AI算法,训练深度神经网络模型对算力的需求呈指数级增长。AI非营利组织OpenAI曾于2018年发布报告,指出自2012年以来,AI训练任务所运用的算力每3.43个月就会翻一番,到2018年,AI算力需求增长了30万倍。2020年,训练自然语言理解巨量模型GPT—3(第三代通用预训练语言模式)所需的算力达到了3640PDa,需要1万块GPU加速部件共同完成。按照这个速度,到2023年巨量模型的算力需求预计将达到百万PDa,即使用目前全球最快的超级计算机来计算,所需的时间也要两年之久。算力的供给远远追不上算力需求的增长速度。
面对算力供给“鸿沟”,计算技术与产业需要构建一个新的发展格局,简单概括起来可以描述为:要通过多元算力融合和算力供给基建化加速计算向智算转型。我们可以看到,进入智慧时代,算力多元化发展的趋势愈加明显,主要体现为计算场景和计算架构的复杂多元。多架构引发了应用系统无法兼容及执行效率不高等问题。我们需要打破传统体系结构设计,创新智算体系结构,实现算力高效聚合和按需定义。这些技术,展开了一幅面向未来的算力宏伟蓝图。
多元算力的融合将大大提升算力生产的效率,而将算力真正地服务于社会经济的各行各业,使其进入千家万户,依赖的正是算力供给模式的创新。算力将像电力、热力、水一样,由统一的社会基础设施进行供应。2020年,国家明确提出新型基础设施建设的范围包含以数据中心、智能计算中心为代表的算力基础设施,算力供给基建化已经成为趋势。可以预见,在加快推进新型基础设施建设的背景下,智能计算中心将成为未来计算力的主要生产中心、供应中心。因此,如这本书的第四篇所述,我们要加快推动算力供给基建化,要加速高质量、高能效的智能计算中心的落地。而在这个落地过程中,我们要做好网络、能源、算力、数据、应用等一体化发展规划,最终构建新型算力网络格局。
人类社会进步的步伐不会停止,社会的进步将越发依赖科学技术的革新。希望全球科技创新出现更多中国的原创技术,中国的科技工作者在计算技术革新上迈出更加坚定自信的步伐,在算力高科技发展竞争与合作的新征程上,不辜负国家的期望,为人类社会发展做出更多的贡献。
|