top of page

AIの未来をリードする—メルマガ登録で最新情報をゲット!

AIの未来をリードする
メルマガ登録で最新情報をゲット!

AIの最新トレンドや活用事例、業界の動向を配信します。
・2週間に1回配信します
・メルマガの購読はワンクリックで解除できます
・メールアドレスが第三者に共有されることはありません

2万人分を私用AIに入れた社員が、直前にしていた作業

1 日前
読了時間: 3分
南京錠のかかった工具箱が奥に置かれたまま、作業台に出しっぱなしのオレンジ色の柄のドライバーへ手が伸びているイラスト

9月3日、大手フィットネス企業が、社員が会社の許可していない外部の生成AIに顧客の個人情報を入れたと公表した。委託元の健康保険組合の公表では1万9,996人分。高血圧症や糖尿病といった病名も入っている。


この会社には、業務で使ってよいAIがあった。


それでも社員は、手元の私用AIに貼った。自分にはここが一番重い事実で、禁止リストを1行増やしても同じ形の事故は止まらないと思っている。


集計作業の途中という発生場所

起きたのは8月20日、特定保健指導の管理システムからデータを集計・抽出する作業の最中だった。


作業した本人が送信に気づいて申告し、そこで発覚している。社内の監視の仕組みは、先に反応していない。


規則を知っている人が、作業の流れの途中で起こした。本人が自分から手を挙げている以上、「教育が足りなかった」では説明がつかない。


作業の途中で手が滑るのは、たいてい締切のある集計の最中です。


許可ツールまでの距離

顧問先と単発の相談で20社ほど社内の使われ方を見てきたなかで、はっきりした傾向がある。社内で使ってよいAIが別のログインの向こうにある会社ほど、私用AIの持ち込みが多い。


データを触る作業の最中は特にそうなる。ファイルを開いて、整形して、件数を数えて、体裁を整える。この流れの途中に「別のツールを立ち上げて、使っていいか社内ルールを確認する」が挟まると、手元のスマホを開くほうが速い。


速いほうが勝ちます。締切がある作業なら、なおさら勝つ。


現場が許可したAIを開いていないなら、それは置き場所の問題です。自分はシャドーAIを、規律の話より先に距離の話として見ている。


ただし、ここで「じゃあ全部許可しよう」に飛ぶと次の事故になる。社員が審査していないサービスを十数個使い始めて、どこに何を入れたか誰も答えられなくなる。


「それは教育と検知ツールの話では」への答え

社員教育と検知の仕組み。この2つで止める、という話になりやすい。どちらも効きます。ただ、今回の事故には2つとも届きません。


研修をやれば、知らない人は減る。今回の当事者は知っていて、自分で申告している。


情シスが検知の仕組みで追えるのは、会社支給の端末を通る通信だけです。社員が私用のスマホから貼れば、そこには何も残らない。公表資料に検知の記載は出てこないので確認はできないが、情シスが先に気づけなかった理由はここだと思う。


教育も検知も入れる。後段の保険として。先に効くのは配置のほうです。


今週、1つの作業で決めること

作業をひとつ選んでください。顧客のデータを触っていて、月に何度も回るもの。請求データの突き合わせでも、名簿の集計でもいい。


その作業の手順書に、1行足す。ここで開くAIの名前と、開く場所のURL。


これだけです。禁止する側のリストは触らなくていい。


顧問先でやっているのも同じで、規程の全文を配る前に、経理の月次と問い合わせ対応だけ手順書を直した。効いたのはそっちだった。


書けない作業が残ったら、それが診断結果になる。その作業では、今も私用AIが最短経路のままだということ。


次に社内のAIルールを見直すときは、許可したAIがその作業の何クリック先にあるかを数えてほしい。20社ほど見てきた範囲だと、3クリックを超えた作業から順に、現場は私用AIへ逃げます。


自社の棚卸しから始めたい場合は、30分の無料相談で、作業を1つ選んで手順書のどこに1行足すかまで一緒に決めます。


参考

  • IHIグループ健保・RIZAP委託業務での生成AI参照事案(セキュリティ対策Lab) https://rocket-boys.co.jp/security-measures-lab/rizap-employee-ihi-ai-upload-incident/

  • 森井昌克「RIZAP『シャドーAI』問題、約2万人の個人情報 〜問われる情報管理と説明責任〜」(Yahoo!ニュース エキスパート) https://news.yahoo.co.jp/expert/articles/9e9e1f838f45cee12f012a3f9fb2a45a87c89cc7

  • 個人の生成AIと個人LINEに潜む情報漏えいリスク(サイバーセキュリティナビ) https://blog.cbsec.jp/entry/2026/09/07/080950

コメント


b367c377-a8c4-411a-a21e-e5d603bcd498 (1).jpg

スノーリーズ株式会社​

代表取締役

石黒翔也

​執筆者プロフィール

約7年間にわたりモバイルアプリケーションやWebアプリケーションの開発、AzureやAWSを活用したサーバー構築に従事。

その後、2021年にスノーリーズ株式会社を設立し、AIで問い合わせ業務の効率化を実現する「AIbox」を開発。

AIboxは最新のRAG技術(Retrieval-Augmented Generation)を活用し、問い合わせ業務に課題を抱える企業に採用されています。

現在は、企業の技術顧問としても活動しながら、AIやクラウド技術の普及に取り組んでいます。

bottom of page