Holon.liveHOLON OF HOLONS

Human in the Loop是什么 人怎样参与AI过程

中文 · 对照英文

Human-in-the-Loop(HITL)通常指人在AI或自动化过程中参与反馈、检查或决定。参与可以发生在资料准备、训练、任务执行或结果使用等不同阶段,应说明具体角色。

有人参与不等于有人理解

如果需要检查的材料过多、结果无法解释,或人没有足够时间改变决定,形式上的确认可能并未提供有效判断。交互设计应帮助参与者理解系统能力和当前情况。

任务不同参与方式也不同

一个简单文本整理可能只需审阅结果;重要决定可能需要更早参与目标和条件的形成。本页讨论一般概念,不规定适用于所有产品的一套程序。

怎样与Agent配合

系统可以帮助准备可比较的方案、说明资料和暴露不确定性,人可以提出新的目标或拒绝某项结果。研究人机交互需要同时观察系统表现与人的实际体验。

理解这些问题时,可以结合Human Agency继续比较相关概念的含义与适用范围。

相关项目探索,可从LingoAI的人机共生方向继续了解。

常见问题:让人点击一次确认就足够了吗? 不一定。要看人知道什么、能够改变什么,以及确认对应哪项具体决定。

公开参考: Guidelines for Human-AI Interaction。