作者：子渝

编辑：王与桐

(资料图片仅供参考)

据 TechCrunch 报道，8 月 9 日，以大语言模型为基础的企业应用程序构建平台 Deepset 宣布完成 新一轮 3000 万美元融资，Balderton Capital 领投、GV 和 Harpoon Ventures 参投。截止目前，Deepset 已筹集总计 4600 万美元资金。Deepset 联合创始人兼首席执行官 Milos Rusic 表示，本轮融资将用于扩大 Deepset 以大模型为基础的产品和服务，并在今年年底前将其团队人数从 50 人左右增加到 70 至 75 人。

Deepset 大语言模型 ( LLM ) 解决了当今企业面临的最大挑战之一——如何更快、更轻松、大规模地利用自己的数据。 没有完整专业知识或时间来构建自己的 LLM 平台的企业可以使用 Deepset Cloud 来利用自然语言处理 ( NLP ) 的强大功能来构建自己的支持 LLM 的应用程序。

Deepset 的创始人 Rusic 说：" 在许多组织中，数据科学团队仍然是开发人工智能的默认选项。实际上，许多数据科学团队正在重组，重新学习和重塑他们的习惯，以满足产品团队和企业最终用户不断增长的需求。这个行业正在从人工智能实验室转向人工智能工厂——它不再是修修补补，而是创造成功的产品和价值。"

Rusic 暗示数据科学团队过度劳累和负担过重，最近的一项民意调查也显示，绝大多数数据工程师（为分析工具准备数据的数据科学家）正在经历倦怠期，可能会在 12 个月内离开他们目前的公司，并考虑完全退出这个行业。这种状况可能会给企业内部的人工智能发展带来挑战。2022 年 Gartner 的一项民意调查发现，只有大约一半的人工智能项目实现了从试点到生产的飞跃，53% 的机器学习模型从未部署过。

由此，Rusic 于 2018 年与 Malte Pietsch 和 Timo M ller 共同推出了 Deepset，通过为企业训练自定义自然语言处理模型来引导业务。这三位联合创始人密切关注谷歌在 2017 年开发的 Transformer AI 模型架构——构成 ChatGPT 和 GPT-4 等复杂 LLM 的基础架构。

基于此，2019 年，Rusic，Pietsch 和 M ller 发布了开源框架 Haystack，用于使用 Transformers 和其他 LLM 架构构建 NLP 后端服务。Rusic 说，Haystack 目标是为软件工程师提供一系列工具，以快速创建 LLM 驱动的应用程序，特别是包含特定用例的应用程序，例如帮助法律团队搜索案例文件。

但 Deepset 的野心最终超过了 Haystack。去年，这家初创公司推出了 Deepset Cloud，Rusic 将其描述为 "AI 团队的企业 LLM 平台 "。Deepset Cloud 通过提供一个平台来扩展 Haystack，客户可以在其中试用不同的 LLM，将这些 LLM 嵌入到应用程序中，将应用程序和 LLM 部署到最终用户，并在持续监控其性能的同时对 LLM 的准确性进行分析。

Deepset Cloud 还包括用于测量和缓解 LLM 常见问题的组件。这些问题甚至困扰着当今最好的 LLM，导致模型编造不基于真实事件或数据的虚假信息或事实。Rusic 说 :"Deepset Cloud 非常充分地利用了开源 NLP 技术——管道架构、核心组件、数据存储、集成等。我们的平台提供了所有的构建模块，以避免做任何‘无差别的繁重工作’，并使开发人员能够专注于交付 NLP 后端服务—— api 驱动、易于组合、易于嵌入和易于监控。"

该公司将 MLOps 领域的其他企业视为主要竞争对手。MLOps 通过提供能够处理模型生命周期每个单独阶段的工具来简化构建和管理机器学习模型的过程。除了 AWS、Azure 和谷歌云等老牌企业外，越来越多的初创公司为企业客户提供 MLOps 产品、平台和服务。

Allied Market Research 预测，到 2031 年，MLOps 行业将从 2021 年的 10 亿美元左右增长到 231 亿美元。毫无疑问，潜在市场的庞大规模将继续吸引新的进入者。

但 Rusic 指出，Deepset 的扩张证明其在行业中脱颖而出。这家初创公司的平台上运行着 " 数百个 " 客户管道，其中包括西门子和空客等。法律出版社 Manz 与 Deepset 合作推出了一款内部人工智能工具，可以帮助检索文件、相关判例等；与此同时，空客公司也正在使用 Haystack 开发应用程序，向驾驶舱内的飞行员推荐飞机操作指南。

Rusic 表示：" 与雇佣、培训和管理一个专门的团队来进行强大的后端应用程序开发相比，使用 Deepset Cloud 反复构建 NLP 和 LLM 服务通常要快 10 倍。"Deepset Cloud 允许客户同时使用各种 LLM，将它们融合在应用程序架构中，以避免锁定供应商，减轻数据隐私和模型主权的问题。"