即将推出

bloomax Token Factory

Token Factory:企业级AI推理基础设施

驱动AI的力量,转化为业务增长。

bloomax正在为企业持续使用AI准备推理服务。我们将GPU等计算基础设施与模型执行环境相结合,统一管理从基础设施配置到维护运营的全部工作,致力于以服务形式提供给客户的应用程序调用。

我们将根据您计划使用的模型、预计处理量和使用期限,逐一梳理所需配置和服务条件。

推理是指AI模型根据输入生成回答、摘要等内容的处理过程。Token Factory是一项构想中的服务,旨在以服务形式提供持续执行该处理所需的基础设施。

Services

计划提供的服务

推理API计划提供

推理API

可从应用程序调用AI模型的服务。减少自建GPU环境的负担,支持AI功能的验证和实现。

目标用户

开发AI功能的企业和开发团队

专用环境计划提供

专用推理环境

根据处理量和运营需求设计的客户专属推理环境。适用于持续使用或共享环境难以满足的需求。

目标用户

将AI用于核心业务或服务的企业

建设·运营支持计划提供

推理基础设施建设·运营支持

包括GPU、网络、模型执行环境在内,支持推理基础设施的导入和运营。也考虑现有设施的利用。

目标用户

希望自建AI基础设施的企业和基础设施运营商

各服务的提供时间、覆盖范围和价格,将在准备就绪后告知。

我们将确认模型、处理量、响应速度、数据处理方式及运营体制,并整理适合您用途的配置和服务条件。

以服务形式提供推理基础设施的运营。

企业持续使用AI,不仅需要确保计算资源,还需要持续管理执行环境的配置、处理分配、维护和扩展工作。

bloomax的Token Factory致力于管理和运营这些推理基础设施,使客户能够通过服务接口进行使用。我们将明确客户负责管理的应用程序和数据范围,以及bloomax负责的基础设施运营范围,并逐一确定服务条件。

服务架构概念图

客户应用程序
请求
服务接口
bloomax由bloomax管理运营的推理基础设施
GPU等计算资源
模型执行环境
处理分配/维护运营
将处理结果返回至客户应用程序
客户应用程序
本图为服务提供形态的概念图。实际配置和连接方式将逐一确认。

bloomax计划负责的范围

  • 支撑推理服务的基础设施配置与执行环境管理
  • 处理分配及根据使用计划进行扩展的研究
  • 基础设施设备的维护与运营管理
  • 服务条件、验收方式及支持范围的整理

与客户确认的范围

  • 所使用模型和应用程序的需求
  • 预计处理量和使用期限
  • 业务数据的处理方式与备份
  • 账户、API认证信息及访问权限的管理

具体的对应范围和责任分担,将根据提供形式及个别合同加以规定。

预期使用场景

适用于日常业务,也适用于下一代服务。

以下为预期的应用示例,不代表已有导入实绩或已提供的功能。具体支持范围将逐一确认。

内部知识活用

作为参考内部文档、为员工问题生成回答草案的推理基础设施。

查看详情

客户支持

支持问询分类、回答草案生成及应对记录摘要的基础设施。

查看详情

大量文档处理

批量执行业务文档摘要、信息提取及分类的推理基础设施。

查看详情

自有服务的AI实装

为自有应用或SaaS嵌入文本生成、对话功能的执行基础设施。

查看详情
Process

导入咨询流程

01

用途·需求调研

了解AI应用目的、预期使用量、现有系统和数据处理需求。

02

配置·验证方法研讨

整理适合用途的模型和推理环境、评估方法,研讨导入推进方式。

03

提供条件·导入计划告知

确认可覆盖范围、提供时间、费用和运营条件,单独告知。

FAQ

常见问题

Contact

将您的AI构想,转化为可持续运行的机制。

希望在自有服务中集成AI。希望重新审视推理成本。希望考虑专用AI执行环境。

bloomax正在接受Token Factory业务启动的导入咨询。即使用途和使用规模尚未确定,也欢迎告知您的想法。

返回首页

咨询类别

您提交的信息将依据隐私政策妥善管理。