2万人分を私用AIに入れた社員が、直前にしていた作業

9月3日、大手フィットネス企業が、社員が会社の許可していない外部の生成AIに顧客の個人情報を入れたと公表した。委託元の健康保険組合の公表では1万9,996人分。高血圧症や糖尿病といった病名も入っている。
この会社には、業務で使ってよいAIがあった。
それでも社員は、手元の私用AIに貼った。自分にはここが一番重い事実で、禁止リストを1行増やしても同じ形の事故は止まらないと思っている。
集計作業の途中という発生場所
起きたのは8月20日、特定保健指導の管理システムからデータを集計・抽出する作業の最中だった。
作業した本人が送信に気づいて申告し、そこで発覚している。社内の監視の仕組みは、先に反応していない。
規則を知っている人が、作業の流れの途中で起こした。本人が自分から手を挙げている以上、「教育が足りなかった」では説明がつかない。
作業の途中で手が滑るのは、たいてい締切のある集計の最中です。
許可ツールまでの距離
顧問先と単発の相談で20社ほど社内の使われ方を見てきたなかで、はっきりした傾向がある。社内で使ってよいAIが別のログインの向こうにある会社ほど、私用AIの持ち込みが多い。
データを触る作業の最中は特にそうなる。ファイルを開いて、整形して、件数を数えて、体裁を整える。この流れの途中に「別のツールを立ち上げて、使っていいか社内ルールを確認する」が挟まると、手元のスマホを開くほうが速い。
速いほうが勝ちます。締切がある作業なら、なおさら勝つ。
現場が許可したAIを開いていないなら、それは置き場所の問題です。自分はシャドーAIを、規律の話より先に距離の話として見ている。
ただし、ここで「じゃあ全部許可しよう」に飛ぶと次の事故になる。社員が審査していないサービスを十数個使い始めて、どこに何を入れたか誰も答えられなくなる。
「それは教育と検知ツールの話では」への答え
社員教育と検知の仕組み。この2つで止める、という話になりやすい。どちらも効きます。ただ、今回の事故には2つとも届きません。
研修をやれば、知らない人は減る。今回の当事者は知っていて、自分で申告している。
情シスが検知の仕組みで追えるのは、会社支給の端末を通る通信だけです。社員が私用のスマホから貼れば、そこには何も残らない。公表資料に検知の記載は出てこないので確認はできないが、情シスが先に気づけなかった理由はここだと思う。
教育も検知も入れる。後段の保険として。先に効くのは配置のほうです。
今週、1つの作業で決めること
作業をひとつ選んでください。顧客のデータを触っていて、月に何度も回るもの。請求データの突き合わせでも、名簿の集計でもいい。
その作業の手順書に、1行足す。ここで開くAIの名前と、開く場所のURL。
これだけです。禁止する側のリストは触らなくていい。
顧問先でやっているのも同じで、規程の全文を配る前に、経理の月次と問い合わせ対応だけ手順書を直した。効いたのはそっちだった。
書けない作業が残ったら、それが診断結果になる。その作業では、今も私用AIが最短経路のままだということ。
次に社内のAIルールを見直すときは、許可したAIがその作業の何クリック先にあるかを数えてほしい。20社ほど見てきた範囲だと、3クリックを超えた作業から順に、現場は私用AIへ逃げます。
自社の棚卸しから始めたい場合は、30分の無料相談で、作業を1つ選んで手順書のどこに1行足すかまで一緒に決めます。
参考
IHIグループ健保・RIZAP委託業務での生成AI参照事案(セキュリティ対策Lab) https://rocket-boys.co.jp/security-measures-lab/rizap-employee-ihi-ai-upload-incident/
森井昌克「RIZAP『シャドーAI』問題、約2万人の個人情報 〜問われる情報管理と説明責任〜」(Yahoo!ニュース エキスパート) https://news.yahoo.co.jp/expert/articles/9e9e1f838f45cee12f012a3f9fb2a45a87c89cc7
個人の生成AIと個人LINEに潜む情報漏えいリスク(サイバーセキュリティナビ) https://blog.cbsec.jp/entry/2026/09/07/080950






.jpg)
コメント