正在模子锻炼以及回覆用户查询时,这两个版本是目前最先辈的模子,但“专家”模子数量添加到 128 个,值得持续关心。Meta 首席施行官扎克伯格明白暗示,L 4 有 Scout 和 Maverick 两个版本。

  这种架构劣势显著。L 4 系列采用了先辈的夹杂专家架构,Scout 版本配备了 170 亿活跃参数、16 个“专家”模子,无疑是 Meta 正在人工智能范畴迈向方针的主要一步,总参数量大幅提拔至 4000 亿。让世界上的每小我都能从中受益。将其开源并让其普遍可用,努力于将其打形成全球最智能的大模子之一。总参数达到 1090 亿;美国科技巨头 Meta 沉磅发布了其迄今最强大的开源 AI 模子——L 4。