AIGC工程师,5年AI系统研发经验。深耕大模型应用工程化与生产系统落地,擅长结构化输出、混合检索、成本治理与AI协作式研发。主导过多个百万级用户AI产品的核心架构设计与性能优化。
AIGC工程师
专注于AIGC系统架构与工程化落地的资深工程师,具备从0到1构建生产级AI应用的能力。在模型服务、检索增强、成本治理和AI辅助研发方面有深入实践经验,致力于将前沿AI技术转化为稳定可靠的商业产品。
自我介绍
工作经历
智云科技(AI平台部)
负责公司核心AIGC平台架构设计与技术攻坚,带领4人团队支撑多业务线AI能力落地。聚焦大模型应用工程化、RAG系统优化及AI辅助研发体系建设。
企业级智能问答平台(RAG 2.0)
- 面向企业内部知识管理的智能问答系统,支持多源异构数据的自动化接入、实时索引更新与多轮对话。服务覆盖技术、法务、HR等8个部门,日均查询量超50万次。
- 基于微服务架构,采用异步任务队列处理文档解析与索引构建,通过模型路由层实现多模型动态调度。核心模块包括:文档预处理管道(OCR/分块/向量化)、混合检索引擎(稠密+稀疏+重排序)、上下文组装与引用溯源、流式响应与反馈收集。
- 担任技术负责人,负责整体架构设计、核心模块开发及团队管理。主导检索质量评测体系搭建,设计并实现自动化回归测试流程。
- 技术栈: 混合检索与重排序 上下文与引用质量 模型路由/降级/缓存 链路追踪与可观测性 评测集与回归测试
- 挑战: 混合检索召回率提升23%: 设计稠密+稀疏+重排序三级检索架构,引入查询意图分类动态调整召回策略,Top-5召回率从71%提升至94%,响应延迟P99控制在800ms内。
- 挑战: 成本下降40%的模型路由策略: 基于查询复杂度实现模型路由,简单查询走轻量模型,复杂查询路由至大模型,结合缓存命中率达62%,月度API调用成本下降40%。
- 挑战: AI协作式研发实践: 在项目中引入Claude Code与GitHub Copilot辅助开发:使用Claude Code进行任务拆解与实现方案设计,利用其代码仓库上下文理解能力生成核心模块骨架;通过Copilot辅助完成单元测试与文档更新。所有AI生成代码均经过本地验证、CI检查及人工PR审查,未引入生产故障。
- 挑战: 评测驱动的质量保障: 构建包含2000+标准问答对的评测集,建立每周自动回归测试机制,拦截模型迭代中的质量退化,保障上线稳定性。
Schema约束结构化输出引擎
- 为企业级应用提供基于JSON Schema的严格结构化输出能力,支持复杂嵌套对象、枚举约束与条件分支,用于合同解析、报表生成等关键业务场景。
- 在模型输出层增加Schema验证与修正管道,采用分层解析策略:先流式接收、再实时验证、最后自动修正或降级重试。集成权限边界的MCP协议,确保工具调用的安全性与可追溯性。
- 负责核心引擎的设计与实现,制定Schema定义规范,搭建版本管理与灰度发布机制。
- 技术栈: 基于Schema的结构化输出与工具调用 带权限边界的MCP集成 Prompt/模型版本管理 成本与延迟治理
- 挑战: Schema合规率达99.7%: 设计三层验证机制(语法校验、语义约束、业务规则),Schema合规率从开源方案的82%提升至99.7%,减少下游解析异常导致的业务中断。
- 挑战: MCP安全集成: 实现带权限边界的MCP协议封装,细化工具调用粒度至用户-角色-操作三元组,集成审计日志与异常熔断,通过等保三级安全评估。
数联智能(算法工程部)
参与公司AI中台建设,负责文本生成与内容理解模块的开发与优化,积累了大模型应用早期的工程化实践经验。
营销文案智能生成系统
- 面向电商场景的营销文案自动生成系统,支持商品标题、卖点描述、短视频脚本等多模态内容创作,服务2000+商家。
- 基于预训练语言模型微调,构建包含内容审核、风格控制、多轮优化的生成管道。采用批处理与缓存策略平衡成本与实时性,搭建A/B测试平台持续优化生成效果。
- 负责生成模块的后端开发与性能优化,参与模型选型与效果评估,推动AI工具在团队研发流程中的落地。
- 技术栈: 推理服务优化 批处理与缓存 成本与延迟治理 AI协作式研发
- 挑战: 生成效率提升3倍: 优化推理服务架构,引入动态批处理与结果缓存,单节点吞吐量从120 QPS提升至360 QPS,单位生成成本下降65%。
- 挑战: AI辅助研发早期实践: 在团队中推广GitHub Copilot与Cursor的使用:利用Cursor的仓库上下文理解能力辅助代码重构,通过Copilot生成测试用例。建立AI代码审查清单,要求所有AI生成代码必须通过本地测试与人工review,形成可复制的协作流程。
开源贡献与论文
技术社区与开源贡献
专业技能
大模型应用工程化
- 精通生产级LLM应用架构设计,包括流式响应处理、模型路由与降级策略、Prompt版本管理、多租户隔离与成本分摊
- 熟悉OpenAI、Anthropic、自研模型等多平台接入与统一抽象
检索增强与知识系统
- 深入掌握混合检索(稠密向量+稀疏关键词+图检索)、重排序模型优化、上下文窗口管理与引用溯源技术
- 具备大规模知识库索引构建、增量更新与多模态检索的实战经验
结构化输出与工具调用
- 擅长基于JSON Schema的严格结构化输出设计与实现,熟悉Function Calling、Tool Use等模式,具备带权限边界的MCP协议集成经验,保障工具调用的安全性与可审计性
系统可观测性与质量治理
- 精通链路追踪(OpenTelemetry)、指标监控(Latency/Throughput/Cost)、评测集构建与回归测试体系
- 能够设计多维度的模型效果评估方案,建立持续质量保障机制
AI协作式研发
- 熟练使用Claude Code进行复杂任务拆解与架构设计,借助Cursor实现代码仓库级上下文理解与重构,通过GitHub Copilot加速测试生成与文档编写
- 严格遵循AI代码本地验证、CI检查、人工审查、安全校验与可回滚准备的完整流程
性能优化与成本治理
- 具备推理服务性能调优、缓存策略设计、批处理优化等能力
- 擅长通过模型分级调度、请求合并、结果复用等手段实现成本与延迟的综合治理,有明确的量化优化案例
教育经历
浙江大学
研究方向:自然语言处理与知识图谱
- 核心课程:深度学习、信息检索、分布式系统、统计机器学习
- 学术成果:发表CCF-B类论文2篇,参与国家重点研发计划项目1项
- 实践经历:主导实验室智能问答系统开发,获校级优秀硕士论文


