科技公司,构建 AI 工具和开源模型(如 Llama),通过开放科学推进研究,连接全球人们并推动创新。
Meta 推出的高容量多模态语言模型，基于混合专家（MoE）架构构建，拥有 128 个专家，每次前向传播激活 170 亿参数（总计 400B）。支持多语言文本和图像输入，并生成多语言文本和代码输出，支持 12 种语言。
关注我们
查看仓库
阅读博客文章