全球35亿下载量破纪录Llama家族暴涨10乐鱼体育倍开源帝国掀AI革命

2024-09-01

  【新智元导读】诞生一年半,Llama家族早已稳坐开源界头把交椅。最新报告称,Llama全球下载量近3.5亿,是去年同期的10倍。而模型开源让每个人最深体会是,token价格一降再降。

  Groq的创始人表示,这也太疯狂了,想想Linux花了多长时间才达到这个数字?

  官博介绍,这一数字,是去年同期的10倍。而且,仅在上个月,模型的下载量超2000万次。

  2023年2月,Llama 1首次亮相,经过多次迭代,到现在已经过去了整整18个月。

  而在这仅有的一年半里,Llama已经从一个最先进的单体基础模型,发展成为,一个面向开发者的强大生态系统。

  LeCun还不忘给自家模型宣传一波,越来越多的大公司、小公司、初创公司、政府和非营利组织,正基于此开发新的产品和服务。

  另外,值得关注的一点是,自今年5月Llama 3.1发布之后,云服务商对模型API token调用需求,翻了一番还要多。

  一些Meta最大的云服务提供商,从2024年1月到7月,Llama的每月token量增长了10倍。

  从微软云、英伟达、谷歌云等科技巨头,到Groq、Databricks等初创公司,全都支持Llama模型的使用。

  近期,OpenAI官宣降价后,GPT-4o的token成本,现在是每百万token4美元。(假设是80%输入和20%输入token混合率)

  还记得,2023年3月首发GPT-4时,每百万token的成本是36美元。

  而推动token价格不断下降的一个因素,便是开源模型(如Llama 3.1)的发布。

  这是因为,API提供商(如Anyscale、Fireworks、Together AI初创公司,以及一些大型云服务商)并不需要担心赚回开发模型所需的成本,因此他们可以直接在价格、速度等其他因素上,开启竞争。

  此外,一些芯片公司Groq(快速生成token领先者)、Samba Nova(能以114 token/s速度运行Llama 3.1 405B)、,以及英伟达、AMD、英特尔、高通等半导体巨头,在硬件上的创新,近一步拉低了模型价格。

  「到目前为止,Groq已经使用Llama模型套件和自家LPU Inference,每天向40多万开发人员提供50亿个免费token」。

  在构建用程序时,吴恩达发现,根据未来技术发展方向,进行设计是非常有用的,而非局限于当前水平。

  基于多家软硬件公司的技术路线(改进半导体、更小的模型、推理架构中的算法创新),可以预见的是,token价格还将持续下降。

  这意味着,即便你构建的智能体工作流看起来成本太高,而随着token价格不断下降,或许在某个时间,这套方案在未来也变得经济可行。

  假设你创建了一个APP帮助人类,可每秒连续输出100个token。那如果百万token 4美元,每小时只花费1.44美元。

  小扎希望,到今年年底,让Meta AI成为全球使用量最多的AI助手,超越OpenAI的ChatGPT。

  据内部2位员工透露,8月初,Meta AI(2023年9月发布)在发布不到一年时间里,收揽了至少4亿月活跃用户和4000万日活跃用户。

  这些数字从侧面反映了,超30亿用户的Meta,每天至少使用Meta旗下的一款应用中的AI助手。

  此外还包括,通过Meta AI专属网站,以及Ray-Ban智能眼镜,也收获了不少用户。

  庞大的用户群,成为大型科技公司优势,希望从ChatGPT中夺取一部分市场份额和关注度。

  其实,谷歌也向数十亿用户推广了对话式AI——Gemini,但力度却不如Meta。

  但一些使用Meta应用程序的人,在Facebook、Reddit、X上,抱怨Meta过于激进地推广AI助手,比如在其APP的键盘上添加搜索按钮。

  出于对用户参与度的担忧,Meta员工可能会不定期讨论的一个问题是,是否有些用户无意间使用了Meta AI。

  8月初使用数据显示,大约10%的月活跃用户,每天使用助手来回答问题、生成图像和执行其他任务。

  2022年11月,ChatGPT首次推出。截至目前,每周有超2亿人使用。鉴于最近的使用数据,Meta AI可能相距不远。

  数百万用户每月需要支付20美元,成为ChatGPT Plus用。


本文由:乐鱼app官方网站提供