【Meta 发布 LLAMA 3.1,扎克伯格:开源引领新时代】 Meta正式发

馨蔓看科技 2024-07-24 12:07:13

【Meta 发布 LLAMA 3.1,扎克伯格:开源引领新时代】 Meta正式发布目前最强开源大模型之一Llama 3.1系列,一共有405B、70B、8B三种模型,其中405B更是期待已久的重磅开源模型。 Llama 3.1 亮点如下: instruct 模型针对多语言对话进行了优化,明确宣传了「以多语言文本和代码作为输出模式」,增加了对 8 种语言(英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语)的支持。 3 个版本的上下文窗口都从 8k 增加到 128K,足足扩大 16 倍。 在来自公开数据的约15 万亿 tokens上训练。微调数据包括公开可用的指令数据集,以及超过 2500 万个合成数据示例。 一直以来,开源与闭源的争论一直是技术领域的热点话题。开源更为透明和灵活,可以让全球的开发者都贡献自己的力量。而闭源通常由单一公司或组织开发和维护,稳定性和安全性更好。 此次,Meta CEO 扎克伯格也发文《Open Source AI Is the Path Forward》称:Meta将坚持走开源路线,致力于开发最好的前沿AI模型,本次发布的405B便是最好的承诺。在生成式AI时代,好的大模型不应该被少数公司掌握,应该与全人类共同分享。大家怎么看?#扎克伯格#

0 阅读:0