Java AI Framework

为 Java 开发者
打造的 AI 框架

Astrsomn 是一个专为 Java 生态设计的企业级 AI 开发框架，让你用熟悉的 Spring Boot 风格，轻松集成大模型、构建智能应用。

@Astro 注解驱动开发

多模型提供商统一接入

全链路可观测与监控

GitHub

01 方式一：声明式注入

OrderService.java

@Service

public class OrderService {

// 自动装配

@Astro( agentKey = "order-handler", envCode = "prod", temperature = 0.3)

private OrderCreateAssistant orderAssistant;

public String createOrder() {

return

orderAssistant.chat("帮我买一个 iPhone17", UUID.randomUUID().toString());

}

02 方式二：编程式构建

TaskService.java

public class TaskService {

private final AstroAssistantFactory assistantFactory;

public String createTask() {

// 1. 构建参数

var param = AstroChatRequest.of(TaskCreateAssistant.class, "deepseek-sensor");

param.setToolStrategy(new ToolStrategy());

// 2. 创建 Assistant

TaskCreateAssistant assistant = assistantFactory.createAssistant(param);

return

assistant.chat("帮我创建一个任务", UUID.fastUUID().toString());

}

核心能力

企业级 AI 框架，为生产环境而生

架构分层

core/starter/providers/workflow/server 清晰分层，模块职责明确，便于独立发布与扩展。

扩展性设计

同时支持 SPI、插件、注解、配置化扩展，完美适配多模型厂商、工作流与工具生态。

落地实用性

完整的服务链路，非 Demo 级项目。适合中小团队快速落地 AI 能力平台原型与业务化实践。

创新差异化

AI 工作流 + 多模型 Provider + 插件化 + DB 驱动配置的独特组合，形成稳定插件生态。

为什么需要 AI 网关？

全链路追踪 (Tracing)

可视化监控每一次请求的推理耗时、Token 消耗及 Prompts 渲染。让 AI 服务的生产运行不再是“黑盒”。

Observability

统一安全治理

网关级内置敏感词过滤、多账号配额管理与实例负载均衡。确保 AI 输出合规且业务高可用。

Governance

RAG 知识库底座

标准化集成向量数据库。提供文档自动分段、嵌入生成及相似度检索，让智能体拥有私有知识。

Infrastructure

解决 Java 接入大模型的
“最后一步”工程难题

零侵入接入

Starter 自动装配，支持现有业务系统平滑升级，无需学习复杂的底层 SDK。

Provider 可插拔

屏蔽 OpenAI, DeepSeek, 智谱等模型接口差异，配置即切换，业务代码零改动。

面向生产的设计

关注成本统计、异常重试与缓存策略，满足企业级场景对稳定性的苛刻要求。

Module Architecture

astrsomn-server

配置中心 & 管理后台

astrsomn-workflow

工作流框架

Spring Boot Starter

核心装配层

LLM Providers

OpenAI

DeepSeek

智谱

通义

千帆

Vector Stores

Milvus

Qdrant

Chroma

Redis

astrsomn-core

最底层核心

Common

Entity

Mapper

Exception

为 Java 开发者打造的 AI 框架