第13章：人类参与环节 Human-in-the-Loop

人类参与环节（Human-in-the-Loop，HITL）模式是智能体开发和部署中的关键策略。它有意将人类认知的独特优势——例如判断力、创造力以及细腻的理解力，与人工智能的计算能力和效率相结合。这种战略性整合不仅仅是一个选择，更常常是一种必要，尤其是在人工智能系统日益嵌入关键决策过程的情况下。

HITL的核心原则是确保人工智能在伦理范围内运行，遵守安全协议，并以最佳效率实现其目标。这些问题在复杂性高、存在模糊性或风险显著的领域尤为重要，因为在这些领域中，人工智能错误或误判的影响可能非常严重。在这种情况下，完全自治——即人工智能系统完全独立运行而没有任何人类干预——可能是不明智的。HITL承认这一现实，并强调即使人工智能技术快速发展，人类的监督、战略性输入以及协作互动仍然是不可或缺的。

HITL方法的核心理念是人工智能与人类智能之间的协同作用。与其将人工智能视为人类工作的替代品，HITL将人工智能定位为一种增强和提升人类能力的工具。这种增强可以表现为多种形式，例如自动化日常任务或提供数据驱动的洞察以支持人类决策。最终目标是创建一个协作生态系统，使人类和AI智能体能够利用各自的独特优势，达成单方无法实现的成果。

在实践中，HITL可以通过多种方式实施。一种常见方法是让人类充当验证者或审查者，检查人工智能输出以确保准确性并识别潜在错误。另一种实施方式是让人类实时指导人工智能行为，提供反馈或进行纠正。在更复杂的设置中，人类可能与人工智能作为合作伙伴共同解决问题或通过交互式对话或共享界面共同做出决策。不论具体实施方式如何，HITL模式都强调保持人类的控制和监督，确保人工智能系统与人类伦理、价值观、目标以及社会期望保持一致。

人类参与环节模式概述

人类参与环节（Human-in-the-Loop，HITL）模式将人工智能与人类输入相结合，以增强智能体的能力。这种方法认识到，在复杂性高或涉及伦理考量的场景中，最佳的人工智能性能通常需要自动化处理与人类洞察的结合。HITL的目标不是取代人类输入，而是通过确保关键判断和决策受到人类理解的支持来增强人类能力。

HITL 包括几个关键方面：人工监督，即通过日志审查或实时仪表板等方式监控 AI 智能体的性能和输出，以确保遵守指导原则并防止不良结果的发生；干预与纠正，当 AI 智能体遇到错误或不明确的场景时可能请求人工干预，人工操作员可以纠正错误、提供缺失数据或指导智能体，这些操作也为未来的智能体改进提供了信息；人工反馈学习，通过收集人类反馈来优化 AI 模型，尤其是在像“基于人类反馈的强化学习”这样的方法中，人类偏好直接影响智能体的学习轨迹；决策增强，AI 智能体提供分析和建议，由人类做出最终决策，通过 AI 生成的洞察来增强人类的决策能力，而非完全自主；人机协作，是一种合作互动，人在创造性问题解决或复杂谈判中发挥优势，而智能体则处理例行的数据处理任务；最后是升级策略，即建立明确的协议，规定智能体在超出能力范围的情况下应何时以及如何将任务升级给人工操作员，从而防止错误的发生。

实施 HITL 模式使得在完全自主不可行或不被允许的敏感领域中使用智能体成为可能，同时通过反馈循环提供持续改进的机制。例如，在金融领域，大型企业贷款的最终批准需要人工贷款官评估诸如领导者品格等定性因素。同样，在法律领域，正义和问责的核心原则要求人类法官保留对涉及复杂道德推理的关键决策（如判刑）的最终权威。

注意事项：

尽管 HITL 模式具有诸多优势，但也存在显著的注意事项，其中最主要的是缺乏可扩展性。虽然人工监督提供了高准确性，但操作员无法管理数百万任务，这种基本的权衡通常需要结合自动化以实现规模化，同时通过 HITL 提供准确性。此外，这种模式的有效性在很大程度上依赖于人工操作员的专业知识。例如，虽然 AI 可以生成软件代码，但只有熟练的开发人员才能准确识别微妙的错误并提供正确的指导来修复它们。这种专业知识的需求同样适用于使用 HITL 生成训练数据的场景，因为人工标注员可能需要经过特殊培训才能学会如何以高质量的方式纠正 AI。此外，实施 HITL 还会引发显著的隐私问题，因为敏感信息通常需要在暴露给人工操作员之前进行严格匿名化处理，这增加了流程的复杂性。

实际应用与使用案例

人类参与的循环模式在许多行业和应用中至关重要，尤其是在准确性、安全性、伦理或细致理解至关重要的领域。

• 内容审核： AI智能体可以快速筛选大量在线内容以检测违规行为（例如仇恨言论、垃圾信息）。然而，对于模糊或边界模糊的案例，通常会升级至人工审核员进行审查并作出最终决定，以确保判断的细腻性以及对复杂政策的遵守。
• 自动驾驶： 虽然自动驾驶汽车能够自主完成大部分驾驶任务，但它们被设计为在复杂、不可预测或危险的情况下（例如极端天气、异常路况），将控制权交给人类驾驶员，以应对AI无法自信处理的情境。
• 金融欺诈检测： AI系统可以根据模式标记可疑交易。然而，高风险或模糊的警报通常会被发送给人工分析师进行进一步调查，他们会联系客户并最终决定交易是否存在欺诈行为。
• 法律文档审查： AI可以快速扫描并分类成千上万的法律文档，以识别相关条款或证据。人类法律专业人士随后会审查AI的发现，确保其准确性、上下文关联性以及法律影响，尤其是在关键案件中。
• 客户支持（复杂查询）： 聊天机器人可以处理常规客户咨询。如果用户的问题过于复杂、情绪化或需要AI无法提供的同理心，交谈会无缝转交给人工客服人员处理。
• 数据标注与注释： AI模型通常需要大量标注数据集进行训练。人类会参与其中，准确标注图像、文本或音频，为AI提供学习的真实数据。这是一个随着模型不断发展而持续进行的过程。
• 生成式AI优化： 当大语言模型（LLM）生成创意内容（例如营销文案、设计创意）时，人类编辑或设计师会审查并优化输出内容，以确保其符合品牌指南、与目标受众产生共鸣，并保持质量。
• 自主网络： AI系统能够通过关键性能指标（KPIs）和识别的模式分析警报，预测网络问题和流量异常。然而，关键决策——例如处理高风险警报——通常会升级至人工分析师进行进一步调查，并最终决定是否批准网络更改。

这一模式展示了AI实施的实用方法。它利用AI提高扩展性和效率，同时保持人工监督以确保质量、安全性和伦理合规性。

“人类在环”（Human-on-the-loop）是这一模式的一个变体，其中人类专家定义总体政策，而AI负责处理即时行动以确保合规。以下是两个示例：

• 自动化金融交易系统: 在这种情况下，人类金融专家设定总体的投资策略和规则。例如，人类可能定义政策为：“保持投资组合中70%为科技股，30%为债券，单个公司投资比例不得超过5%，并自动出售任何跌幅超过购买价格10%的股票。”随后，AI实时监控股市，在满足这些预定义条件时即时执行交易。AI负责基于人类操作员设定的较慢、更具战略性的政策进行即时、高速操作。

• 现代呼叫中心: 在这种设置中，人类经理为客户互动制定高层次政策。例如，经理可能设定规则为：“任何提到‘服务中断’的电话应立即转接到技术支持专家，”或“如果客户语气表明高度沮丧，系统应主动提供直接连接到人工客服的选项。”AI系统随后处理初步的客户互动，实时倾听并解释客户需求。它根据经理制定的政策自主执行操作，通过即时转接电话或提供升级选项，无需为每个个案进行人工干预。这使得AI能够根据人类操作员提供的较慢、战略性指导管理大量即时操作。

实操代码示例

为了演示“人类参与环”的模式，一个 ADK 智能体可以识别需要人类审查的场景并启动升级流程。这允许在人类干预智能体自主决策能力有限或需要复杂判断的情况下介入。这并不是一个孤立的功能；其他流行的框架也采用了类似的功能。例如，LangChain 提供了实现这些类型交互的工具。

from google.adk.agents import Agent
from google.adk.tools.tool_context import ToolContext
from google.adk.callbacks import CallbackContext
from google.adk.models.llm import LlmRequest
from google.genai import types
from typing import Optional

## 工具占位符（如有需要，请替换为实际实现）
def troubleshoot_issue(issue: str) -> dict:
    return {"status": "success", "report": f"针对 {issue} 的故障排除步骤。"}

def create_ticket(issue_type: str, details: str) -> dict:
    return {"status": "success", "ticket_id": "TICKET123"}

def escalate_to_human(issue_type: str) -> dict:
    # 在实际系统中，这通常会转接到人工队列
    return {"status": "success", "message": f"已将 {issue_type} 升级至人工专家处理。"}

technical_support_agent = Agent(
    name="technical_support_specialist",
    model="gemini-2.0-flash-exp",
    instruction="""
您是我们电子公司的一名技术支持专家。
首先，检查用户是否在 state["customer_info"]["support_history"] 中有支持记录。
如果有，请在您的回复中参考该记录。

对于技术问题：
1. 使用 troubleshoot_issue 工具分析问题。
2. 引导用户完成基本故障排除步骤。
3. 如果问题仍然存在，使用 create_ticket 工具记录问题。

对于超出基本故障排除范围的复杂问题：
1. 使用 escalate_to_human 工具转接至人工专家。

保持专业但富有同理心的语气。理解技术问题可能引发的挫败感，
同时提供清晰的解决步骤。
""",
    tools=[troubleshoot_issue, create_ticket, escalate_to_human]
)

def personalization_callback(
    callback_context: CallbackContext, llm_request: LlmRequest
) -> Optional[LlmRequest]:
    """为LLM请求添加个性化信息。"""
    # 从状态中获取客户信息
    customer_info = callback_context.state.get("customer_info")
    if customer_info:
        customer_name = customer_info.get("name", "尊贵的客户")
        customer_tier = customer_info.get("tier", "标准")
        recent_purchases = customer_info.get("recent_purchases", [])
        personalization_note = (
            f"\n重要个性化信息:\n"
            f"客户名称: {customer_name}\n"
            f"客户等级: {customer_tier}\n"
        )
        if recent_purchases:
            personalization_note += f"最近购买: {', '.join(recent_purchases)}\n"

        if llm_request.contents:
            # 在第一个内容之前添加系统消息
            system_content = types.Content(
                role="system", parts=[types.Part(text=personalization_note)]
            )
            llm_request.contents.insert(0, system_content)

    # 返回None以继续处理修改后的请求
    return None

这段代码提供了一个基于Google ADK的技术支持智能体的设计蓝图，该智能体围绕HITL框架构建。智能体充当智能的一线支持，配置了特定指令，并配备了诸如troubleshoot_issue、create_ticket和escalate_to_human等工具，以管理完整的支持工作流。升级工具是HITL设计的核心部分，确保复杂或敏感的案例能够传递给人工专家。

该架构的一个关键特性是其深度个性化能力，通过专门的回调函数实现。在联系LLM之前，该函数会动态从智能体的状态中检索客户特定数据，例如客户姓名、等级和购买历史。这些上下文信息随后作为系统消息注入到提示中，使智能体能够提供高度定制且信息丰富的响应，参考用户的历史记录。通过将结构化工作流与必要的人为监督和动态个性化相结合，这段代码展示了ADK如何促进开发复杂且稳健的AI支持解决方案。

概览

定义（What）

AI系统（包括高级LLM）通常在需要细致判断、伦理推理或深入理解复杂、模糊的上下文时表现不佳。在高风险环境中部署完全自主的AI存在显著风险，因为错误可能导致严重的安全、财务或伦理后果。这些系统缺乏人类固有的创造力和常识性推理。因此，仅依赖自动化进行关键决策通常是不明智的，可能会削弱系统的整体有效性和可信度。

设计意图（Why）

人工参与（Human-in-the-Loop，HITL）模式通过战略性地将人工监督集成到AI工作流中提供了标准化解决方案。这种智能体方法创造了一种协同关系，其中AI负责计算密集型任务和数据处理，而人类提供关键的验证、反馈和干预。通过这种方式，HITL确保AI的行为符合人类价值观和安全协议。这种协作框架不仅降低了完全自动化的风险，还通过从人类输入中不断学习增强了系统的能力。最终，这种方法能够实现更稳健、准确和符合伦理的结果，是人类和AI单独无法达到的。

使用原则（Rule of Thumb）

在部署人工智能于错误可能带来重大安全、伦理或财务后果的领域时，例如医疗保健、金融或自动驾驶系统，应使用此模式。对于涉及模糊性和细微差别的任务，例如内容审核或复杂客户支持升级，LLM无法可靠处理的情况下，这种模式尤为重要。当目标是通过高质量的人类标注数据持续改进AI模型，或精炼生成式AI输出以满足特定质量标准时，应采用“人类参与”模式。

图解 （Visual Summary）

图1：人类参与设计模式

关键要点

关键要点包括：

• 人类参与（Human-in-the-Loop，HITL）将人类智能和判断力整合到AI工作流程中。
• 在复杂或高风险场景中，对于安全性、伦理性和有效性至关重要。
• 核心方面包括人类监督、干预、学习反馈和决策增强。
• 升级策略对于智能体了解何时将任务移交给人类至关重要。
• HITL支持负责任的AI部署和持续改进。
• 人类参与的主要缺点是其固有的可扩展性不足，在准确性与处理量之间形成权衡，并且依赖高技能领域专家进行有效干预。
• 实施过程中存在操作挑战，包括需要培训人类操作员进行数据生成，以及通过匿名化敏感信息解决隐私问题。

结论

本章探讨了至关重要的人类参与（Human-in-the-Loop，HITL）模式，强调了其在构建稳健、安全和伦理AI系统中的作用。我们讨论了将人类监督、干预和反馈整合到智能体工作流程中如何显著增强其性能和可信度，尤其是在复杂和敏感领域。实际应用展示了HITL的广泛实用性，从内容审核、医疗诊断到自动驾驶和客户支持。概念代码示例提供了如何通过ADK促进这些人类与智能体交互的升级机制的初步了解。随着AI能力的不断进步，HITL仍然是负责任AI开发的基石，确保人类价值观和专业知识始终是智能系统设计的核心。

参考文献

1. 《人类参与机器学习的调查》，Xingjiao Wu, Luwei Xiao, Yixuan Sun, Junhang Zhang, Tianlong Ma, Liang He, https://arxiv.org/abs/2108.00941