🔌 核心定位与使命

“SaaS 业务应用与底层大模型之间的可插拔服务底座。”

定位:任意输入源(业务数据库 / 文件 / 队列 / 上传)→ AI 处理管线与任务队列 → 任意输出端(结构化 JSON / 向量库 / 动态渲染 PDF),每个业务功能独立部署、即插即用。

一、背景痛点:为什么业务直连 LLM 必将陷入混乱?

当一家企业开始在多条业务线(如教师工作台、学生学习端、内部知识库)全面接入大模型时,最常见的技术债务就是“业务代码里到处散落裸调 OpenAI API 的逻辑”:

  • 模型端点混乱:模型一旦切机、降级或限流,所有业务代码都要重编译部署;
  • 长任务拖垮 HTTP 连接:图文多模态解析、深度学情分析耗时长达几十秒,前端 HTTP 超时断开导致任务雪崩;
  • 成本与安全失控:没有统一的模型记账、Prompt 护栏与 Token 额度切分,缺乏可审计性。

二、顶层架构:三个隔离 + 一个插座面板

Agent-Base 框架通过清晰的物理分层,彻底解耦业务应用与底层算力:

Archify 交互式 Agent-Base 拓扑架构图 Blueprint Profile
全屏交互探索 ↗

核心治理原则:

  1. 数据隔离:每服务专属独立 Database 与独立账号,执行 REVOKE PUBLIC CONNECT,服务间数据物理硬隔离;
  2. 代码隔离:核心能力封装为标准 SDK(数据信封、连接器接口、任务队列驱动),业务服务只通过发版依赖引用;
  3. 运行时隔离:严禁跨服务同步长调用链;长耗时任务统一入 Redis JobQueue,返回 queue_position 与轮询句柄,前端无感等待;
  4. Nginx 即插座:网关仅维护干净的路由分发,业务服务上线或下线只需增删插座插头。

三、关键哲学:“确定性算法管数字,AI 管解释和内容”

💡 制造人视角的 AI 务实观

在学情掌握度评估或工业打分场景中,永远不要让大语言模型去计算数值或浮点数。数值必须由严格的离散数学公式、确定性统计算法负责,做到 100% 可复现与抗辩;AI 的职责被严格限定在:根据确定性的分数和薄弱点分布,生成有温度、有洞察、符合教学逻辑的文字解释与变式拓展。

四、AI 原语与 SKILL.md 资产化护栏

  • 原语化调用:禁止业务代码直接拼接裸 prompt。SDK 抽象出 ai_extract(结构化提取)、ai_classify(分类)、ai_embed(向量化)等原子能力,默认经过 JSON Schema 强类型四道护栏校验。
  • Skill 即资产:将工业与教育领域的复杂流程(如题目双图谱映射、试卷批注)沉淀为标准 SKILL.md 文件,通过 skillrunner 引擎受控执行,做到“结构校验高于框架自觉”。

五、生产高可用与监控闭环

系统内置了对 Nginx、微服务容器、PG/Redis、LiteLLM 网关乃至底层显卡节点的 全链路心跳大屏,支持 Webhook 实时报警,并在配置上做到了 100% 环境变量外置化与部署前 preflight.sh 自动化预检,杜绝了配置残留与端点失联风险。

把不确定的模型推理,包裹在确定性的微服务框架、数据契约与任务队列之中——这是 Agent 真正进入严肃生产环境的必经之路。