中信计算机:谷歌发布多模态模型PaLM-E,智能化水平提升较大
摘要: 计算机刘雪峰2023年3月6日,谷歌和柏林工业大学共同发表论文,对其已开发的PaLM-E多模态大模型的训练方法、训练环境及通用化效果进行了详细阐述。拥有的5620亿参数的PaLM-E大模型是在语言类模
计算机刘雪峰
2023年3月6日,谷歌和柏林工业大学共同发表论文,对其已开发的PaLM-E多模态大模型的训练方法、训练环境及通用化效果进行了详细阐述。拥有的5620亿参数的PaLM-E大模型是在语言类模型PaLM(5400亿参数)和视觉类模型ViT(220亿参数)的基础上开发的。通过在预训练的语言类大模型中嵌入图像、状态、感知等多类型数据,PaLM-E模型不仅具备通用化语言能力,还能执行视觉问答、感知推理、机器操作等复杂的任务。谷歌在AI多模态大模型的训练方法上的探索已经初见成效。PaLM-E模型应用潜力较大,商业化前景较好。AI大模型技术快速迭代,行业竞争愈发激烈。在AI大模型领域,各科技厂商能否探索出稳定、可持续的尤其是To B端的商业模式并确定合理的产业链定位将会成为下一阶段竞争的关键。数据质量和来源的广泛化与高质量是模型算法突破的重要基础条件。
风险提示:技术处于发展早期,尚未形成成熟的商业化落地模式;研发投入较大与成果落地不及预期的风险;应用领域智能化升级需求不及预期
模型,PaLME,AI