第24章 多模态预训练大模型成为人工智能基础设施。(第2页)

 基于深度学习的多模态预训练是认知智能快速发展的重要推动力。构建多场景、多任务的预训练大模型将加速模型标准化进程，为人工智能模型成为基础设施创造条件。深度学习模型

 的不断完善、互联网海量真实数据的积累和生成式预训练的广泛应用，使得人工智能模型在自然语言理解、语音处理、计算机视觉等领域地交叉应用取得显着进展。

 2022 年，技术上的突出进展来自于 Beit-3 多模态基础模型，该模型在视觉 - 语言任务处理上具备出色表现，包括视觉问答、图片描述生成和跨模态检索等。 Beit-3 通过统一的模型框架和骨干网络（ backbone ）建模，能够更加轻松地完成多模态编码和处理不同的下