📢 转载信息
原文作者：Pierre de Malliard
在医疗和生命科学领域，AI 代理能够帮助机构处理临床数据、提交监管申报、自动化医疗编码，并加速药物研发与商业化进程。然而，由于医疗数据的高度敏感性以及GxP（良好作业规范）等严格的合规要求，在关键决策点上必须引入人工监管。这就是“人在回路”（Human-in-the-loop, HITL）机制变得至关重要的原因。本文将介绍四种使用 AWS 服务实现 HITL 构建的实用方案。
为什么“人在回路”在医疗领域至关重要
医疗与生命科学组织在部署 AI 代理时面临独特挑战：
- 监管合规性： GxP 法规要求对敏感操作进行人工监督。例如，未经授权不得擅自删除患者记录或修改临床试验方案。
- 患者安全： 涉及患者护理的医疗决策在执行前必须经过临床验证。
- 审计需求： 医疗系统需要具备完整的可追溯性，明确记录谁批准了什么操作以及批准时间。
- 数据敏感性： 受保护的健康信息（PHI）在访问或修改前需要获得明确授权。
方案概览
我们提出了四种互补的 HITL 实现方式，每种方式适用于不同的场景和风险配置文件。我们利用 Strands Agents 框架、Amazon Bedrock AgentCore 运行时以及模型上下文协议（MCP）构建了这些模式。
- 代理循环中断（框架钩子系统）： 利用 Strands 代理框架的钩子系统，在工具执行前拦截调用。
- 工具上下文中断： 直接在工具逻辑内部嵌入审批逻辑，实现更细粒度的控制。
- 远程工具中断（AWS Step Functions）： 针对异步场景，通过 Amazon SNS 向第三方发送审批请求，实现后台审批。
- MCP 启发式引导（Elicitation）： 利用 MCP 协议原生的引导机制，在交互过程中实时请求用户补充信息或进行审批。
实现细节
所有架构模式的代码均已在 GitHub 仓库公开。以下是几种核心实现方法：
方法 1：代理循环钩子中断
通过钩子（Hook）系统在代理循环级别拦截工具调用，无需修改工具本身即可强制执行 HITL 策略。
class ApprovalHook(HookProvider):
SENSITIVE_TOOLS = ["get_patient_condition", "get_patient_vitals"]
def register_hooks(self, registry: HookRegistry, **kwargs: Any) -> None:
registry.add_callback(BeforeToolCallEvent, self.approve)方法 2：工具上下文中断
将审批逻辑直接嵌入工具内部，根据会话上下文（如用户角色）决定是否需要审批。
方法 3：异步工具审批（AWS Step Functions）
适用于需要第三方离线审批的场景。代理触发 Step Functions 工作流，通过电子邮件等渠道请求审批，而不阻塞代理的后续执行。
方法 4：MCP 启发式引导
利用 MCP 的 ctx.elicit() 功能，让 MCP 服务器能够向用户发起请求。这种方式通过流式传输保持连接，提供实时、交互式的审批流程。
总结
通过这些 HITL 构建方案，您可以构建安全、合规的医疗 AI 代理。无论您的需求是集中式管控、工具级细分控制还是异步审批，这些模式都能助您将 AI 代理从试点项目平稳推向企业级应用。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区