Harness Engineering把 AI 当实习生用的工程艺术你有没有遇到过这种情况——给 AI 一个任务它每次输出的格式都不一样有时候还漏掉关键步骤。你反复改 prompt结果越改越复杂效果却越来越不稳定…其实啊问题可能不在 prompt 本身而在于你缺少一个缰绳——Harness约束框架。今天咱们就来聊聊Harness Engineering这个工程理念看看怎么用它把 AI 从薛定谔的输出变成可预期的生产力。一、从一个真实的翻车现场说起假设你在做一个智能客服系统需要 AI 根据用户问题生成回复。你的 prompt 大概长这样你是一个客服助手请根据用户问题给出专业回复。 用户问题{{question}}看起来没问题对吧但跑起来你会发现格式飘忽不定有时候回复一大段有时候只给一句话语气忽冷忽热这次很热情下次冷冰冰关键信息遗漏用户问退货流程AI 忘了说需要订单号偶尔放飞自我直接编造不存在的政策你心想那我加约束于是 prompt 变成了这样你是一个客服助手请根据用户问题给出专业回复。 要求 1. 回复要热情友好 2. 必须包含具体操作步骤 3. 步骤要用 1.2.3. 编号 4. 如果涉及退货必须提醒用户准备订单号 5. 不要编造政策不确定就说我帮您确认一下 6. 回复控制在 100-200 字 7. 开头要称呼用户亲 8. 结尾要加上如有其他问题随时联系~ 9. ...prompt 越来越长AI 越来越健忘——后面的约束经常被执行不到位。问题来了约束到底该放在哪二、Harness Engineering 是什么Harness Engineering 的核心思想是把约束从 prompt 中抽离出来用结构化的框架Harness来承载让 prompt 回归意图表达让框架负责行为规范。说白了就是给 AI 套上一个模具Prompt告诉 AI “你要做什么”意图Harness告诉 AI “你必须怎么做”约束框架Context告诉 AI “基于什么信息做”上下文三者配合才能输出稳定、可控、可预期的结果。2.1 Harness 的本质Harness 是一个结构化的输出约束系统通常包含组件作用示例Schema定义输出格式JSON Schema、XML 模板Rules定义行为规则必须包含的字段、禁止的内容Validators验证输出合规性字段非空检查、长度检查Examples提供参考样例Few-shot 示例Hooks定义后处理逻辑格式转换、敏感词过滤2.2 为什么叫Harness想象一下赛马Prompt是骑手给马的方向指令“往左”、“加速”Harness是马具——缰绳、马鞍、口衔——它限制马的行为范围保证安全可控没有 Harness马可能乱跑Harness 太紧马跑不起来Harness Engineering 就是设计一套恰到好处的马具让 AI 在自由发挥和严格约束之间找到平衡点。三、实战从裸奔 Prompt到Harness 约束咱们用一个实际例子一步步看 Harness 怎么搭。场景AI 生成商品评价回复需求电商平台上商家需要自动回复用户评价。Step 1原始 Prompt裸奔版请回复以下用户评价 用户{{username}} 评分{{rating}} 星 评价内容{{content}}问题输出完全不可控可能长这样亲感谢您的评价我们会继续努力也可能长这样非常抱歉给您带来不好的体验。关于您提到的物流问题我们已经联系了快递公司核实 预计 24 小时内给您答复。同时我们会对此次事件进行内部复盘优化我们的发货流程。 再次为此次不愉快的购物体验向您致歉希望您能给我们一次改进的机会。格式、长度、内容全看 AI “心情”。Step 2引入 Harness基础版咱们设计一个 JSON Schema 作为 Harness{$schema:http://json-schema.org/draft-07/schema#,type:object,required:[greeting,acknowledgment,action,closing],properties:{greeting:{type:string,description:称呼用户必须包含用户名,maxLength:20},acknowledgment:{type:string,description:对用户评价内容的回应,maxLength:100},action:{type:string,description:针对差评的具体改进措施或补偿方案,maxLength:150},closing:{type:string,description:结尾礼貌用语,maxLength:30}}}Prompt 改造为请根据用户评价生成商家回复严格按照以下 JSON Schema 输出 {{schema}} 用户评价 - 用户{{username}} - 评分{{rating}} 星 - 内容{{content}} 规则 - 评分 1-2 星必须包含 action 字段说明具体改进措施 - 评分 3 星action 可选简单回应即可 - 评分 4-5 星action 可为空重点表达感谢 - 严禁出现不知道、不清楚等敷衍用语效果输出格式统一了但 AI 可能还是偶尔犯规。Step 3加强 Harness完整版加上验证器和示例{schema:{// ... 同上},validators:[{field:action,condition:rating 2,rule:required length 10,error_msg:差评必须包含具体的改进措施至少10个字},{field:acknowledgment,rule:!contains([不知道, 不清楚, 不是我的问题]),error_msg:回应中不能出现敷衍用语}],examples:[{input:{username:张三,rating:1,content:物流太慢了等了5天},output:{greeting:亲您好,acknowledgment:非常抱歉让您等待了这么久物流体验确实不够好,action:我们已经与快递公司沟通后续会优先选择顺丰发货。本次订单补偿您10元优惠券请注意查收。,closing:期待再次为您服务~}},{input:{username:李四,rating:5,content:质量很好会回购},output:{greeting:亲感谢您的支持,acknowledgment:看到您喜欢我们的产品我们团队都特别开心,action:,closing:欢迎下次光临老客有专属优惠哦~}}]}Prompt 进一步精简你是一个专业的电商客服助手。请根据用户评价生成回复。 输入 - 用户{{username}} - 评分{{rating}} 星 - 评价{{content}} 请严格按照 Harness 规范输出 JSON {{harness}}注意Prompt 反而变短了因为约束都移到了 Harness 里。Step 4代码层面的 Harness 实现光定义不够还得在代码里落地# 伪代码Harness 引擎的核心逻辑classHarnessEngine:def__init__(self,harness_config):self.schemaharness_config[schema]self.validatorsharness_config.get(validators,[])self.examplesharness_config.get(examples,[])defbuild_prompt(self,user_input):# 把 Harness 注入 promptpromptf 请根据以下输入生成回复严格按照 JSON Schema 输出 Schema:{json.dumps(self.schema,indent2,ensure_asciiFalse)}参考示例{self._format_examples()}当前输入{json.dumps(user_input,ensure_asciiFalse)}returnpromptdefvalidate(self,ai_output):# 验证输出是否符合 Harnesstry:datajson.loads(ai_output)exceptjson.JSONDecodeError:returnFalse,输出不是合法的 JSON# Schema 校验validate(instancedata,schemaself.schema)# 自定义规则校验forvalidatorinself.validators:fieldvalidator[field]rulevalidator[rule]ifnotself._check_rule(data,field,rule):returnFalse,validator[error_msg]returnTrue,OKdefgenerate(self,user_input,llm_client,max_retry3):# 带重试的生成逻辑promptself.build_prompt(user_input)forattemptinrange(max_retry):raw_outputllm_client.chat(prompt)is_valid,msgself.validate(raw_output)ifis_valid:returnjson.loads(raw_output)# 失败时把错误信息反馈给 AI让它修正promptf\n\n上次输出不符合要求{msg}\n请修正后重新输出。raiseException(f生成失败已重试{max_retry}次)关键点Schema 定义格式AI 知道该输出什么结构Examples 引导风格AI 知道该怎么说话Validators 兜底AI 犯规时自动纠正Retry 机制给 AI 改错的机会四、Harness 的进阶玩法4.1 动态 Harness根据场景切换约束不同场景用不同的 Harness# 伪代码动态选择 Harnessdefget_harness(scene,user_input):ifscene客服回复:returncustomer_service_harnesselifscene内容审核:returncontent_moderation_harnesselifscene数据提取:returndata_extraction_harness# ...# 甚至可以基于输入动态调整ifuser_input[rating]2:harness.add_validator(必须包含道歉和补偿方案)4.2 分层 Harness从粗到细的约束第一层格式层必须是 JSON ↓ 第二层结构层必须包含 A/B/C 字段 ↓ 第三层内容层字段内容必须符合规则 X/Y/Z ↓ 第四层风格层语气、用词、长度等每层独立校验方便定位问题。4.3 自进化 Harness从错误中学习# 伪代码Harness 的自进化classSelfEvolvingHarness:def__init__(self):self.failure_log[]deflearn_from_failure(self,output,error_msg):# 记录失败案例self.failure_log.append({output:output,error:error_msg})# 定期分析失败模式自动生成新的 validatoriflen(self.failure_log)10:new_rulesself._analyze_patterns(self.failure_log)self.add_validators(new_rules)self.failure_log[]五、Prompt、Context、Harness 三者的关系好了到了最核心的问题这三者到底怎么分工5.1 一句话总结Prompt 是意图Context 是素材Harness 是模具。5.2 类比理解想象你在指导一个实习生做 PPT角色对应作用你产品经理提出需求实习生AI执行任务Prompt你的口头指令“做一份 Q3 销售总结 PPT”Context你给的资料销售数据、市场分析、竞品报告HarnessPPT 模板公司规范必须用公司模板、每页不超过 5 行、字体不小于 14pt没有 Harness 的实习生可能用 Word 做格式不对可能只写 3 页内容不够可能用艺术字风格不对有了 Harness 的实习生套模板 → 格式对了按大纲填充 → 结构对了检查规范 → 细节对了5.3 三者的协作流程┌─────────────────────────────────────────────────────────┐ │ 用户请求 │ └─────────────────────────────────────────────────────────┘ │ ▼ ┌─────────────────────────────────────────────────────────┐ │ Prompt Layer意图层 │ │ 请根据用户评价生成商家回复 │ └─────────────────────────────────────────────────────────┘ │ ▼ ┌─────────────────────────────────────────────────────────┐ │ Context Layer上下文层 │ │ 用户信息、评价内容、历史记录、商品信息... │ └─────────────────────────────────────────────────────────┘ │ ▼ ┌─────────────────────────────────────────────────────────┐ │ Harness Layer约束层 │ │ Schema Rules Validators Examples │ └─────────────────────────────────────────────────────────┘ │ ▼ ┌─────────────────────────────────────────────────────────┐ │ AI 生成在约束框架内自由发挥 │ └─────────────────────────────────────────────────────────┘ │ ▼ ┌─────────────────────────────────────────────────────────┐ │ Validation Layer校验层 │ │ 格式校验 → 规则校验 → 风格校验 │ │ 不通过 → 反馈修正 → 重新生成 │ └─────────────────────────────────────────────────────────┘ │ ▼ ┌─────────────────────────────────────────────────────────┐ │ 最终输出稳定、可控、可预期 │ └─────────────────────────────────────────────────────────┘5.4 各自的核心关注点维度PromptContextHarness关注点“做什么”“基于什么做”“怎么做、做成什么样”变化频率低相对固定高每次不同中随业务迭代技术实现自然语言数据注入Schema 规则引擎调试重点意图是否清晰信息是否完整约束是否合理常见问题表述模糊信息缺失/冗余约束过松或过紧5.5 一个完整的示例# 伪代码三者协作的完整示例classAIReplySystem:def__init__(self):# Harness相对固定的约束框架self.harness{schema:{...},validators:[...],examples:[...]}defreply(self,user_review):# Context动态变化的上下文context{user:user_review[username],rating:user_review[rating],content:user_review[content],order_info:self.get_order_info(user_review[order_id]),user_history:self.get_user_history(user_review[user_id])}# Prompt简洁的意图表达promptf 请根据用户评价生成商家回复。 用户订单信息{context[order_info]}用户历史评价{context[user_history]}当前评价{context[content]}请严格按照以下规范输出{json.dumps(self.harness,ensure_asciiFalse)}# 生成 校验returnself.harness_engine.generate(prompt)注意Prompt 里没有冗长的规则说明因为规则都在 Harness 里六、Harness Engineering 的最佳实践6.1 DO推荐做✅从简单开始先定义 Schema再逐步加 Validators✅用示例引导Few-shot 比长篇规则更有效✅分层校验先格式、再结构、最后内容✅保留重试机会AI 不是完美的给它改错的机会✅版本化管理Harness 也是代码要版本控制✅监控失败率哪些规则经常被触发是否需要调整6.2 DON’T不要做❌把 Harness 当万能药它解决的是可控性不是智能性❌约束过细每个字都要管AI 就成了复读机❌忽视 Prompt 质量Harness 再强也救不了模糊的意图❌一次到位Harness 是迭代出来的不是设计出来的❌忽略 Context没有上下文的 Harness 是空中楼阁6.3 什么时候需要 Harness场景是否需要 Harness原因开放式创作写诗、头脑风暴❌ 不需要需要自由度结构化输出JSON、表格✅ 必须格式必须正确多轮对话⚠️ 可选上下文本身有约束作用关键业务医疗、金融✅ 必须容错率极低批量自动化处理✅ 必须需要一致性七、总结Harness Engineering 不是什么高深理论它解决的是一个很实在的问题怎么让 AI 的输出从开盲盒变成可预期核心就三点Prompt 负责说清楚要做什么——意图清晰是第一位的Context 负责给足信息——巧妇难为无米之炊Harness 负责画好边界——让 AI 在框内自由发挥三者缺一不可没有 PromptHarness 不知道往哪约束没有 ContextHarness 约束的是空壳没有 HarnessPrompt Context 的输出就是薛定谔的猫最后送大家一句话Prompt 是方向盘Context 是导航地图Harness 是安全带。三者配合才能又快又稳地到达目的地。你在实际项目中是怎么处理 AI 输出稳定性的有没有踩过prompt 越来越长、效果越来越差的坑欢迎在评论区交流参考资料OpenAI Function Calling 规范JSON Schema 标准LangChain Output Parsers 设计Instructor - 结构化 LLM 输出框架Pydantic - Python 数据验证库Outlines - 可控文本生成LlamaIndex 结构化输出指南