2021 年对于人工智能技术和产业,依旧是不平凡的一年。随着算力、数据、算法等要素逐渐齐备,先进的算法结构不断涌现,各个研究方向研究成果不断突破,成熟的 AI 技术逐渐向代
码库、平台和系统发展,实现产业和商业层面的落地应用,推动人工智能发展迈向新的阶段。
科研方面,2021 年,人工智能基础理论逐渐成形,研究者对于超级人工智能的发展路径,以及深度学习模型基础理论有了更深刻的见地。2021 年也是超大规模智能模型大发展的一年,
在 GPT-3 的影响下,一大批参数规模更大,训练数据量更为惊人,性能表现更强,通用任务更丰富的模型涌现出来,形成了面向“大模型”研究的新兴领域,大模型研发竞赛进入白热
化阶段,多模态预训练、模型加速和应用等领域的研究如火如荼展开。Transformer 作为一种具有优势的神经网络算法架构,在计算机视觉、强化学习、图神经网络等领域逐渐渗透,
展现出人工智能多学科领域通用架构的可能性。在机器学习、自然语言处理、计算机视觉等领域,新算法、新模型、新范式持续推动领域研究推陈出新。在芯片领域,将生物大脑与芯
片结合,研发类脑芯片的势头更为惊人;同时,以电子元器件为基础的传统芯片不断改进,实现更高性能和更低的功耗,存算一体芯片设计快速发展,产品化步伐加快;AI 辅助设计芯
片成为新趋势。预训练模型对于信息检索挖掘领域产生深远影响,有望形成基于 Web 大模型的新型信息检索范式。同时,认知神经科学研究对启发人工智能研究起到了不可忽视的作用,
脑机接口等新型技术也逐渐从实验室走向实用。此外,AI for Science 的新兴领域逐渐形成,物理学、材料学、生物学等学科已成为人工智能的下一个战场,人工智能在推动科学研究和
智能产品服务进步等方面起到了更加重要的作用;
平台和工具方面,基于超大规模智能模型的开放平台对于研发先进算法和模型更加重要,极大降低应用的研发门槛,超大规模智能模型支撑的行业应用快速进入落地阶段;同时,面向
复杂任务和基础科研的数据集和基准层出不穷,对于塑造 AI 科研和产业的标准,为人们提供客观、前沿的评价标准奠定基础;而人工智能算力基础设施已成为世界各国超算关注的发展
重点,更大规模的 AI 超算集群落地,有助于在大尺度条件下探索人工智能的性能边界,并支持 AI 在国家战略和国民社会经济等领域实现新突破。