沈向洋谈“AI三件套”，合成数据或成大模型创业新风口｜2024 IDEA大会

11月22日，2024 IDEA大会在深圳举行。IDEA研究院创院理事长、美国国家工程院外籍院士沈向洋作主题演讲，围绕算力、算法、数据这“人工智能三件套”展开讨论。

“每年最新的大模型对算力的需求以四倍多的速度增长，十年之后，这个需求会涨多少倍？”沈向洋以一道引人深思的问题开启演讲。

2024 IDEA大会现场。

近年来，大模型蓬勃发展。从百亿参数到万亿参数，随着参数量的增加，模型计算能力不断提升，对数据的需求亦成倍增长，这种趋势使得背后的算力需求呈现出加倍增长的趋势。

“算力是关键，算力是生产力。”沈向洋进一步指出，目前的算力需求每年约增长4倍，预计未来十年，这一需求将达到现有水平的100万倍。

谈及算法，沈向洋提到了Transformer模型架构的革命性影响。自2017年以来，这一架构已成为AI、深度学习和大模型发展的基石。他特别提到了OpenAI在算法方面的最新突破，包括多模态的GPT-4o和具有新推理学习能力的OpenAI o1模型。他认为，算法创新仍是推动人工智能发展的重要驱动力。

2024 IDEA大会现场。

数据作为人工智能发展的“燃料”，其重要性在沈向洋的演讲中亦有到体现。大模型不断发展，对数据的需求也随之增加，但互联网上可用的数据资源日益减少，这一挑战该如何应对？沈向洋提出，合成数据或将成为解决这一问题的关键。通过合成数据，不仅可以为大模型提供更为丰富的训练材料，还有望催生未来百亿美金级别的创业机遇。

“互联网40年的发展历程，似乎都在为这样一个‘ChatGPT的时刻’做准备。”沈向洋表示，合成数据的应用或将进一步提升大模型的性能，开启人工智能发展的新篇章。

（主办方供图）

编辑 秦涵 审读 郭建华 二审 李怡天 三审 刘思敏