据报道,英伟达公司正就收购AI21 Labs Ltd.展开深入洽谈,这家初创公司专注于大型语言模型及代理开发工具的研发。
Calcalist今日消息称,某笔交易的价值预计介于20亿至30亿美元。若达到该区间上限,其估值将是AI21在2023年末最后一轮公开融资时估值的两倍以上。参与此次投资的有英伟达、谷歌有限责任公司、三星电子等一众知名投资方。
据Calcalist消息,AI21在今年早些时候悄悄从投资者处募集了3亿美元资金。有消息称,该轮融资完成时的估值与2023年加息阶段的估值水平相近。相关报告还指出,AI21的年收入大约在5000万美元左右。
总部设在特拉维夫的AI21公司推出了名为Jamba的开源大型语言模型系列。该公司表示,其模型处理长提示的速度最高能达到竞争对手算法的2.5倍。Jamba系列之所以具备这样的速度优势,是因为采用了融合变换器模型元素与Mamba神经网络设计的架构。
Mamba采用了原本用于物理对象研究的数学结构——状态空间模型,以此替代了变换器中通过重要性筛选数据的注意力机制。这一改变让Mamba模型在处理较长提示时,所需内存比变换器更少,进而加快了推理速度。
AI21通过一个名为Maestro的付费软件平台实现收入。它包含帮助开发者构建和管理人工智能代理的工具。
在公司把数据集交付给AI代理处理前,会先将其整理成更便于分析的形态。大师保证能让这个流程变得更简单。它能够整合存放在不同文件格式里的文档,去除可能使AI代理产生困惑的冗余信息,还能开展其他优化工作。
在AI代理生成即时响应后,Maestro会对输出的准确性进行验证。开发者能够让平台以特定格式(例如报告)展示处理结果,同时也可以自定义其他细节,像平台生成即时响应时所需的基础设施数量等。
英伟达或许打算把Maestro整合进其显卡所附带的Nvidia AI Enterprise软件套件里。这个工具包涵盖了预先封装的大型语言模型(LLM)、开发工具,能让研究人员构建自定义模型以及其他相关资源。
此次收购发生在英伟达与Groq Inc.签署价值200亿美元的技术授权协议后不到一周。Groq是一家由风险投资支持的芯片开发商,作为初创企业,其销售的处理器专门针对推理工作负载运行进行了优化。通过这笔交易,Groq的创始首席执行官及其他核心员工将加入英伟达。