ツール名と一緒にデータの経路を記録する

架空の会社で、広報は公開済みの発表文を推敲し、サポートは問い合わせを分類し、開発はエディターの補助機能で非公開のコードを扱います。いずれもAIの利用ですが、事業者に届くデータと会社が回収すべき権限は異なります。

会社が承認・管理していないツールやアカウント、連携の業務利用は「シャドーAI」と呼ばれます。チャットだけでなく、ブラウザー拡張、エディターのプラグイン、会議ボット、資料へのコネクター、APIアカウント、すでに導入したSaaSのAI機能も確認します。会議ボットは直接入力しなくても発言を取り込みます。エディターの拡張がカーソル周辺を超えて何を読めるかにも注意が必要です。導入済みSaaSで有効になった機能は、新規インストールの一覧に現れない場合があります。

最初に各部門の最近の業務とデータの種類を聞きます。原文を登録フォームに添付すると保管場所が増えるため、分類名や情報の出所、権限の範囲を記入してもらいます。会社アカウントではアプリの権限付与とインストールの記録を照合します。ツールを停止する前に、残った仕事を誰が受け持つかを確認します。退職者が案件を所有している場合は、資料や承認履歴を引き継ぎます。NISTの生成AIリスク管理プロファイル[1]

優先して確認する組み合わせ

持ち出しや権限の範囲が広く、回収が難しい利用を先に確認します。顧客対応用のフォルダー全体を個人アカウントにつないだ場合は、公開済みの原稿を一度推敲する場合より優先度が高くなります。全従業員が入れられる拡張の実際の権限が不明なら、確認できるまで新規利用を絞ります。

件数が少なくても、期限切れ間近の個人APIキーが業務バッチを動かしていれば、継続性に影響します。承認された作業環境で公開資料だけを頻繁に扱う場合は、先に入力と結果確認の運用を点検できます。データの等級、処理量、保存される権限、元に戻せるか、業務が終わる時期を記録します。

データの種類と利用目的から範囲を決める

以下は社内のデータ分類を業務に当てはめた例です。事業者の契約条件、顧客との契約、社内規定と照合します。公開ページも、公開責任者が掲載した版か確認します。作業フォルダーをまとめて送ると、非公開のメモや識別情報が混ざる場合があります。

データ架空の利用目的許可条件担当者の確認と証拠
公開済みの商品説明・発表文翻訳下書き・推敲登録済みのツールとアカウントで公開文だけ入力原文の公開先と結果を編集担当者が確認
部門内の通知・未公開日程整理・形式変更権限回収が可能で保管条件を確認した作業環境分類と共有リンクの初期設定を確認
相談履歴・添付資料分類・回答下書き個人情報や注文情報を最小化し、承認した経路で処理承認した項目、入力の見本、保管・削除の責任者
非公開コード・設計資料コードの説明・変更案承認済みのリポジトリとパスに限り、秘密情報を除外許可一覧、拡張の権限試験、アカウント回収の記録
パスワード・APIキー・署名キー・高リスク原本例外的なセキュリティ診断生データの入力を制限し、必要なら隔離環境を個別に検討キー所有者とセキュリティ担当者が環境と試験データを指定

架空のサポート部門は顧客名を消しても、注文番号と注文詳細へのリンクを残しました。社内の注文システムにアクセスできると、個人の注文を見つけられる場合があります。伏せた項目と別の値に置き換えたテストデータの違いを確認します。回答下書きに実際の注文状態が必要なら、対象の注文と属性を絞り、参照経路を別途承認します。

広報は公開済みの部分だけを承認ツールに入れます。開発は承認まで既存のコード検索や社内レビューを使えます。会議要約も参加者、添付資料、録画の保存範囲が変われば再確認します。利用できる代替ツールと承認の回答時期を従業員に示します。

サービスの仕組み

キャンペーンに必要なデータから接続 — 施策から逆算してイベントと属性を定義し、識別子、送信時点、測定ツールの役割を整えます。

事業者に確認する五つの項目

処理目的と保管を個別に確認する

入力、回答、添付、ログが改善や学習に使われるかを確認します。それぞれがどこに、何のために、いつまで保存されるかも確認します。OpenAI APIの公式資料は、学習への利用の既定値、悪用監視のログ、機能に必要なアプリケーション状態を分けています。実際のプラン、機能、契約、組織の設定を見ます。特定APIの条件をほかの事業者や個人向けサービスまで広げて解釈しません。OpenAI APIのデータ制御資料[2]

場所と再委託先を経路に記録する

保存場所と処理場所、サポート担当者が接続できる場所を確認します。連携先が索引や要約を作ったり、別のツールが結果を受け取ったりする場合は、各経路と再委託先の条件も確認します。地域設定が適用される保存先、転送、機能を個別に調べます。確認が取れない経路は保留し、既知の範囲で利用を検討します。

管理者が回収できるアカウントを使う

会社メールでも個人の作業環境を使っていれば、席の回収や所有権の移管を別途確認します。試験アカウントで管理者権限、会社の認証、無効化、監査イベント、共有リンクの期限を点検します。アカウント無効化、コネクター権限の解除、APIの認証情報の失効は別の操作になる場合があります。個人トークンで動く業務は、移行後も動くことを確認します。

コネクターの読み書き範囲を個別に確認する

ある種類の文書をアップロードする許可と、フォルダー全体を読める連携の許可は別です。対象フォルダー、検索者、ダウンロードと共有の可否を確認します。外部に書き込んだり送信したりする機能は、承認範囲を実際に強制できるかを試します。解除後の索引や会話に残る資料も確認します。OWASPのエージェントアプリケーション保護ガイド[3]

終了後に残るデータと責任者を記録する

データの出力、削除依頼、完了証拠、ログ・バックアップの例外、社内に残す資料の範囲を確認します。利用者を削除しても、共有リンク、端末の拡張、メール、添付が残り得ます。解約時には各保存先を誰が確認するか記録します。契約や法令の適用は、実際の利用条件に沿って社内担当者が確認します。

AIツール登録カード

依頼部門は目的と対象データから記入します。認証情報や対応原文を貼らず、分類名と資料へのリンクを添えます。データ責任者とIT担当者が導入、引き継ぎ、終了の条件まで記録します。

項目架空の登録例再審査が必要な変更
ツール・機能・所有者問い合わせ分類、サポート運用責任者組織所有者、契約プラン、機能の変更
目的・対象入力加工した相談の既定分類を確認会話原文、新しい顧客DB、添付
会社アカウントと権限会社環境、指定グループ、出力・編集の制限個人アカウント、外部委託、管理者不在
経路と処理条件保存先ごとの記録、確認日、再委託範囲事業者の規約、地域、保管期間、連携経路
試験と運用試験データの転送、解除後のアクセス、見直し日確認を再現できない、権限変更が失敗
承認と終了業務・データの承認者、席・リンク・トークンの回収担当承認期限、解約、退職

このカードを使えば、文章の編集を承認したまま、外部送信や会社全体の検索は個別に検討できます。試験には承認されたサンプルと試験用アカウントを使います。顧客原文は条件を確認した後で判断します。申請の窓口と回答時期を知らせ、従業員が承認を迂回せずに済むようにします。

未承認の利用が見つかった場合

データの種類、連携先、共有先、アクセスが継続中かを確認します。キーを入力した場合は、削除を依頼しつつ、発行元で失効・交換します。内部資料の外部提供が疑われる場合は、対応に必要な証拠を保全し、データ担当者と事業者の窓口をつなぎます。NISTのインシデント対応指針[4]とIXCの秘密キー露出への対応を参照できます。

退職者が再認証や既存セッション、トークンで参照できないか、後任が会社の資料にアクセスできるかを確認します。管理者セッションの設計には管理者アクセス方式の比較も参考になります。登録件数に加えて、承認の遅れで利用者が迂回した事例、解除できない連携、許可条件の変更を確認します。