「Human-in-the-loop」とは、AIを使う工程の一つ以上に人が関わる設計です。システムに入力から最終操作まで任せきるのではなく、人が基準を定め、結果を確認し、リスクのある操作を承認します。
形式的にボタンを押すだけでは意味がありません。確認者に十分な情報と時間があり、修正または停止する権限を持つとき、確認点は役立ちます。
人が担う三つの役割
開始前：範囲を決める
利用者は目標、使用を許すデータ、ツール、禁止する操作を選びます。「顧客メールを処理して」だけでは、対象メール、読み取りと送信のどちらを許すか、スタッフに回す条件が分かりません。
実行中：進み方を確認する
複数工程の仕事では、次へ進む前に情報源、計画、変更を確認できます。小さな仕事を逐一見る必要はありませんが、最初の誤りが後続操作につながる場合は重要です。
出力後：確かめて決める
人が情報と例外を確認し、結果を使うか決定します。AIの下書きは送信前に責任者が見ます。データ分析では計算と前提を確認します。
例：問い合わせを分類する
多くの問い合わせを受けるチームを考えます。AIは与えられた基準に沿って分類や優先度を提案できます。責任ある流れは次のようになります。
- 許可された範囲でAIが問い合わせを読む。
- 根拠の引用とともにラベル案を出す。
- 情報不足、機密性の高いラベル、優先度の高い案件をスタッフが確認する。
- 権限のある人が返信または振り分け前に承認する。
- チームが誤りを記録し、基準を見直す。
この例ではAIは整理を助けるだけで、顧客の権利を決めたり返信したりしません。自動化を進めるなら、影響と復旧方法を先に評価します。
リスクに応じて確認点を決める
すべての句読点に承認は不要です。誤りの影響が大きく、元に戻しにくいほど確認を強めます。
- 低リスクで修正しやすい： 個人用の構成案やタイトルは、作成後に確認できる。
- 中程度のリスク： 社内文書の要約や問い合わせの分類は、サンプルと例外を確認する。
- 影響が大きい、または戻しにくい： 送信、記録変更、重要な判断は実行前に明確な承認を得る。
これは考えるための枠組みであり、専門手順や組織の規則に代わるものではありません。
「承認」ボタンだけでは不十分
確認者は、使われた情報源、変更内容、残る不確実性を知る必要があります。根拠が見えなければ監督は形だけになります。
よい設計では、下書き、出典、変更前後の差分、現在の権限、取り消し方法を確認できます。確認する時間も必要です。量が多すぎると、習慣的に承認してしまうおそれがあります。
確認から仕組みを改善する
出力を修正したときは、個別に直すだけでなく誤りの種類を記録します。どの用語を誤解したか、どの出典が混乱を招いたか、どの基準が不明確だったかを見ます。繰り返す傾向は、資料や依頼、確認点の改善に使えます。
これはすべての組織が内容を保存すべきという意味ではありません。記録はアクセス権とデータ方針に従い、匿名化したエラー分類だけで足りる場合もあります。
いつ停止するべきか
情報源の矛盾、必須情報の不足、ツールのエラー、範囲外の出力、新しい権限の要求など、停止条件を事前に決めます。人に確認するために止まるのは、隠すべき失敗ではなく妥当な結果です。
Agentが止まった後に誰が引き継ぐか、誤りをどう報告するか、操作後に以前の状態へ戻す方法も決めます。確認者が不在の場合の経路も必要です。
適切な確認者を選び、疲れを防ぐ
全員がすべての結果を検証できるわけではありません。専門内容には専門知識、権限の確認にはデータ範囲の理解、メッセージには受取人と組織の約束への理解が必要です。
すべてを人が確認すると、件数が増えるにつれ作業が形骸化することがあります。例外を重点的に見て、低リスクな出力はサンプルで確認し、誤りが増えたら確認を強める方法があります。適切な割合は影響と発見しやすさによって異なります。
見逃した誤りと監督時間の両方を追いましょう。同じ問題が続くなら、確認者に注意を促すだけでなく、基準や入力を改善します。
要点： 確認に関わる人には、見て、直し、止める権限が必要です。出典、リスク、実行予定の操作を理解して初めて承認に意味が生まれます。
まとめ
AIは提案、分析、操作の準備を行い、人が範囲を決め、必要な部分を確認し、重要な工程を承認します。監督の強さは誤りの影響に合わせます。
すべての操作に人を入れることが目的ではありません。背景、責任、結果に応じて、人の判断を残すべき場所を見極めることです。