1. ホーム
  2. ブログ
  3. AIに社内の文書を渡して、実際に何が起きたか|日本で続いた2つの事故と、それでも使う会社の線の引き方

AIに社内の文書を渡して、実際に何が起きたか|日本で続いた2つの事故と、それでも使う会社の線の引き方

「この議事録、AIに要約させればいいじゃないか」「契約書の下書きもAIで」。使い始めると、社内の文書を次々に読ませたくなります。

一方で、「怖いから全面禁止」という会社もあります。どちらが正しいのでしょうか。

結論から言うと、全面禁止の会社でも事故は起きています。 しかも2026年の秋、日本の大手で2件続けて。この記事では、実際に起きたことを会社名を伏せて並べ、そのうえで中小企業がどこに線を引けばよいかを書きます。

日本で2026年に続いた、2つの事故

事故1:禁止されていたAIに、33万人分の人事データ

2026年10月、国内の大手電機メーカーのグループ会社が公表した事故です。

  • 人事情報システムを新しくするプロジェクトの担当者が、社内で利用を禁止されていた外部の生成AIに、人事データの一部をアップロードした
  • 対象は、従業員約7万5千人、元従業員約17万8千人、さらに緊急連絡先として登録されていた家族の氏名・住所。合わせて約33万4千人分
  • 外部からの攻撃ではなく、社内のルール違反。アップロードした本人は発覚後すぐに履歴と端末のデータを削除し、AI側は「学習に使う機能は無効だった」と回答

数字の大きさより、見てほしいのは2点です。ルールで禁止していたこと。そして、本人は悪意ではなく、仕事を早く終わらせたかっただけだろうということ。データを整える作業をAIに手伝わせたかった、という場面は、どの会社の事務にもあります。

事故2:個人のAIアカウントに、約2万人の健康データ

2026年9月、健康関連サービスの大手が公表した事故です。

  • 健康保険組合や自治体から「特定保健指導」の仕事を受けていた会社で、社員がデータの集計中に、業務で使うことが許可されていない個人用の生成AIに対象者のデータをアップロードした
  • 含まれていたのは、氏名、保険証の記号番号、生年月日、病名などの疾患情報。委託元の1つが公表した数字では、約2万人分
  • 発覚のきっかけは、本人の申告。その後、委託元の健保組合や自治体が、それぞれ自分のところの対象者数を公表する事態になった

こちらは「自分のAIで、ちょっと集計を楽にしよう」です。会社のAIが無いか、使いにくいか、申請が面倒か。理由は分かりませんが、会社が用意していない所で、社員が自分のAIを使った形です。

箱の中に束ねられた書類を手で整理している様子
どちらの事故も「書類を整理する作業を楽にしたい」から始まっています。動機そのものは、まともです。

海外で先に起きていたこと

日本の2件は、突然起きたわけではありません。

2023年・韓国の大手電機メーカーでは、社内でAIの利用を許可してから20日もたたないうちに、社員が機密のソースコードや、会議の録音を文字にしたものをAIに入力した事例が3件見つかりました。会社はいったん社内でのAI利用を止め、その後、自前のAIを作る方向に進みました。

2023年・米国の弁護士は、裁判所に出す書面をAIに手伝わせ、AIが作った存在しない判例をそのまま引用しました。裁判所に「その判例の原文を出せ」と言われ、またAIに頼んで、今度は判決文そのものを作らせて提出。もちろん全部でたらめで、制裁を受けました。

2024年・オーストラリアの州政府では、児童保護の担当者が裁判所への報告書をAIに書かせ、子どもや家族の名前、リスク評価を入力していました。生成された文には事実と違う記述も混ざっていました。

そして実は、AIより前からあります。2015年・日本で、無料のオンライン翻訳サイトに入力した文章が、誰でも検索で見られる状態になっていたことが分かりました。中央省庁や企業の業務メールらしきものも含まれていて、IPA(情報処理推進機構)が注意を呼びかけました。「便利な入力欄に、業務の文章を貼る」ことの危なさは、10年以上前から同じです。

「じゃあ禁止すれば安心」ではなかった

ここまで読むと「やっぱり禁止だ」と思いたくなります。でも、日本の2件はどちらも禁止・未許可の状態で起きています。禁止は、事故を止めたのではなく、見えない所で起きるようにしただけでした。

社員が会社に黙って自分のAIを仕事に使うことを「シャドーAI」と呼びます。2025年に国内で行われた会社員300人への調査では、約15%がこの状態でした。サポート担当者に限った別の調査では、会社が承認していないAIを使っている割合は日本で76%という数字も出ています。

×

「うちはAI禁止だから関係ない」

禁止している会社ほど、社員は自分のスマホのAIを使います。会社のパソコンの画面を、スマホで撮って読ませる人もいます。
禁止の張り紙は、事故を減らす効果より、「起きたときに会社が知らない」効果のほうが大きい。

逆に、全社員に使わせて事故ゼロの会社

同じ時期に、反対のやり方をした会社があります。国内の製造業大手のグループ会社で、2023年2月から国内の全社員約1万2千人に、会社が用意した生成AIを使わせました。

  • 1年間で、社員の申告ベースで延べ18.6万時間の作業時間が減った(1回あたり平均20分)
  • 情報漏えいや著作権の問題は、16か月間で0件
  • 導入の目的の1つに、最初から「勝手に個人のAIを使われるリスクを減らす」が入っていた

やったことは、禁止の反対です。会社が安全な入口を用意して、そこを通らせた。 入力した内容が学習に使われない契約で、何を入れてよいかの決まりを示して、使い方を教えた。だから社員は自分のAIを持ち込む必要がなかった。

数字は社員の自己申告なので割り引いて見る必要はありますが、方向ははっきりしています。

会社がどこまで許すかで、差がつく

ここからが本題です。私は、「会社がどこまで許容するか」を決めた会社と、決めずに禁止か放置かのどちらかになっている会社で、これから数年の差がつくと思っています。

全面禁止の会社は、表向き事故は起きず、裏で起きます。そして社員は、AIを使って仕事を早く終わらせる同業他社に、じわじわ負けていきます。全面解禁の会社は、いつか事故1や事故2の当事者になります。

真ん中を取るのは難しそうに見えますが、決めることは2つだけです。

線1:どこまで渡すか

社内の文書を、渡してよいもの・だめなものに分けます。基準は「漏れたときに、誰が困るか」です。

区分例AIに渡すか
社外に出しても困らない公開済みの会社案内、自社で作った手順書(固有名詞なし)渡してよい
自社だけが困る社内の売上の数字、原価、見積の根拠会社として判断して決める
他社・他人が困る取引先の名前入りの契約書、顧客名簿、社員の個人情報、給与、健康の情報原則渡さない。渡すなら名前と数字を伏せる

3段目が線です。事故1は社員と家族の個人情報、事故2は病名を含む健康の情報。どちらも3段目でした。

要約や下書きが欲しいなら、固有名詞を「A社」「担当者B」に置き換えてから渡します。置き換えは事務の担当者が5分で終わり、要約はAIが数十秒で返します。

!

「有料だから安全」「学習に使わない設定だから安全」とは限りません

事故1のAIも、学習に使う機能は無効でした。それでも「会社の外のサーバーに33万人分を送った」事実は消えません。
会社で使うなら、学習に使わない設定にしたうえで、それでも3段目の文書はそのまま渡さない。この線は変えません。
なお、個人情報保護委員会は2023年6月に、生成AIへ個人情報を入力するときは利用目的の範囲内かを確認するよう、事業者に注意を出しています。

線2:誰が、何を確かめるか

AIの出力は、もっともらしく、間違っていることがあります。弁護士の架空判例と、州政府の報告書がそれです。「最後に人が確かめる」を、誰が・どこを、まで決めておきます。

AIにやらせること確かめる人確かめる所
議事録の要約会議に出た人決定事項と担当・期限が落ちていないか
マニュアルの下書きその作業をしている人手順の順番と、例外の扱い
契約書の下書き社長(+必要なら専門家)金額・期限・解約の条件。AIの出力をそのまま相手に送らない
問い合わせへの返信案送る人事実関係と、約束していないことを書いていないか

「全部読む」と決めると続きません。どこを見るかを決めておくと、確認が1〜2分で済みます。

2つの線を、1枚にまとめて貼る

決めたことは、使う人が見える所に1枚で置きます。長いルールは読まれません。事故を起こした大手にも、立派な規程はあったはずです。

【AIに文書を渡すときの決まり】
1. 取引先名・個人名・金額・口座・健康の情報は、伏せてから渡す(A社、担当者B、○○万円)
2. 顧客名簿・給与・契約書の原本は渡さない
3. 使うのは会社が決めたAIだけ。自分のアカウントで仕事の文書を扱わない
4. AIの出力は、担当者が「決定事項・金額・期限」を確かめてから使う
5. 社外に出す文書は、AIの出力をそのまま送らない

3番が、2026年の2件から足した1行です。そして3番を守ってもらうには、会社が「使ってよいAI」を用意しておく必要があります。禁止だけでは、この1行は機能しません。

細かい使い方のルールは 生成AIの社内ルールの記事 に書きました。先に決めるのは、この2本の線で十分です。

今日やってみること

  1. 社内で、誰がどのAIを使っているかを聞いてみる

    「禁止している」会社ほど、聞くと出てきます。怒らずに聞くのがコツ。

  2. AIに読ませたい文書を3つ挙げ、3段階の表に当てはめる

    他社・他人が困るものに印を付ける。

  3. 印の付いた文書は、名前と数字を伏せるひな形を作る
  4. 出力を確かめる人と、見る所を決める

    1つの文書につき1行。

  5. 会社として使うAIを1つ決め、5行の決まりを1枚にして渡す

次に読むとよい記事


SUPRAXは、AIを「入れるかどうか」の前に、何を渡して何を人が確かめるかの線引きから一緒に決めています。現状のヒアリングと課題整理は無料です。

この記事で参照した公表資料・報道(2026年11月2日確認)

  • 事故1:当該企業の公表(2026年10月23日)と、ITmedia エンタープライズ(2026年10月28日)ほか各社の報道
  • 事故2:当該企業の公表(2026年9月3日)と、委託元の国民健康保険組合・自治体の公表、CNET Japan の報道
  • 韓国の電機メーカー:Forbes JAPAN、Gizmodo Japan(2023年4〜5月)
  • 米国の弁護士:CNBC、NBC News(2023年5〜6月)
  • 豪州の州政府:ビクトリア州情報コミッショナー事務局の報告(2024年9月)
  • 翻訳サイト:INTERNET Watch「IPA、クラウドサービス利用に関する注意喚起」(2015年2月)
  • シャドーAIの割合:サイバーセキュリティクラウド調査(2025年、300人)、Zendesk CXトレンドレポート2025
  • 事故ゼロで18.6万時間:当該企業のプレスリリース(2024年6月25日)、MONOist、BCN の報道
  • 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(2023年6月2日)

※会社名は伏せています。公表資料は各社名で検索すれば確認できます。

#AI活用#生成AI#情報漏えい#社内ルール#情報管理

この記事について

SUPRAXは、林業・製造・運送の現場経験をもとに、中小企業の業務改善・AI活用・GISの支援を行っています。 記事の内容について「うちの場合はどうか」を聞きたい方は、無料相談をご利用ください。

無料で相談してみる

あわせて読みたい

記事一覧へ戻る