「この議事録、AIに要約させればいいじゃないか」「契約書の下書きもAIで」。使い始めると、社内の文書を次々に読ませたくなります。
一方で、「怖いから全面禁止」という会社もあります。どちらが正しいのでしょうか。
結論から言うと、全面禁止の会社でも事故は起きています。 しかも2026年の秋、日本の大手で2件続けて。この記事では、実際に起きたことを会社名を伏せて並べ、そのうえで中小企業がどこに線を引けばよいかを書きます。
日本で2026年に続いた、2つの事故
事故1:禁止されていたAIに、33万人分の人事データ
2026年10月、国内の大手電機メーカーのグループ会社が公表した事故です。
- 人事情報システムを新しくするプロジェクトの担当者が、社内で利用を禁止されていた外部の生成AIに、人事データの一部をアップロードした
- 対象は、従業員約7万5千人、元従業員約17万8千人、さらに緊急連絡先として登録されていた家族の氏名・住所。合わせて約33万4千人分
- 外部からの攻撃ではなく、社内のルール違反。アップロードした本人は発覚後すぐに履歴と端末のデータを削除し、AI側は「学習に使う機能は無効だった」と回答
数字の大きさより、見てほしいのは2点です。ルールで禁止していたこと。そして、本人は悪意ではなく、仕事を早く終わらせたかっただけだろうということ。データを整える作業をAIに手伝わせたかった、という場面は、どの会社の事務にもあります。
事故2:個人のAIアカウントに、約2万人の健康データ
2026年9月、健康関連サービスの大手が公表した事故です。
- 健康保険組合や自治体から「特定保健指導」の仕事を受けていた会社で、社員がデータの集計中に、業務で使うことが許可されていない個人用の生成AIに対象者のデータをアップロードした
- 含まれていたのは、氏名、保険証の記号番号、生年月日、病名などの疾患情報。委託元の1つが公表した数字では、約2万人分
- 発覚のきっかけは、本人の申告。その後、委託元の健保組合や自治体が、それぞれ自分のところの対象者数を公表する事態になった
こちらは「自分のAIで、ちょっと集計を楽にしよう」です。会社のAIが無いか、使いにくいか、申請が面倒か。理由は分かりませんが、会社が用意していない所で、社員が自分のAIを使った形です。
海外で先に起きていたこと
日本の2件は、突然起きたわけではありません。
2023年・韓国の大手電機メーカーでは、社内でAIの利用を許可してから20日もたたないうちに、社員が機密のソースコードや、会議の録音を文字にしたものをAIに入力した事例が3件見つかりました。会社はいったん社内でのAI利用を止め、その後、自前のAIを作る方向に進みました。
2023年・米国の弁護士は、裁判所に出す書面をAIに手伝わせ、AIが作った存在しない判例をそのまま引用しました。裁判所に「その判例の原文を出せ」と言われ、またAIに頼んで、今度は判決文そのものを作らせて提出。もちろん全部でたらめで、制裁を受けました。
2024年・オーストラリアの州政府では、児童保護の担当者が裁判所への報告書をAIに書かせ、子どもや家族の名前、リスク評価を入力していました。生成された文には事実と違う記述も混ざっていました。
そして実は、AIより前からあります。2015年・日本で、無料のオンライン翻訳サイトに入力した文章が、誰でも検索で見られる状態になっていたことが分かりました。中央省庁や企業の業務メールらしきものも含まれていて、IPA(情報処理推進機構)が注意を呼びかけました。「便利な入力欄に、業務の文章を貼る」ことの危なさは、10年以上前から同じです。
「じゃあ禁止すれば安心」ではなかった
ここまで読むと「やっぱり禁止だ」と思いたくなります。でも、日本の2件はどちらも禁止・未許可の状態で起きています。禁止は、事故を止めたのではなく、見えない所で起きるようにしただけでした。
社員が会社に黙って自分のAIを仕事に使うことを「シャドーAI」と呼びます。2025年に国内で行われた会社員300人への調査では、約15%がこの状態でした。サポート担当者に限った別の調査では、会社が承認していないAIを使っている割合は日本で76%という数字も出ています。
「うちはAI禁止だから関係ない」
禁止している会社ほど、社員は自分のスマホのAIを使います。会社のパソコンの画面を、スマホで撮って読ませる人もいます。
禁止の張り紙は、事故を減らす効果より、「起きたときに会社が知らない」効果のほうが大きい。
逆に、全社員に使わせて事故ゼロの会社
同じ時期に、反対のやり方をした会社があります。国内の製造業大手のグループ会社で、2023年2月から国内の全社員約1万2千人に、会社が用意した生成AIを使わせました。
- 1年間で、社員の申告ベースで延べ18.6万時間の作業時間が減った(1回あたり平均20分)
- 情報漏えいや著作権の問題は、16か月間で0件
- 導入の目的の1つに、最初から「勝手に個人のAIを使われるリスクを減らす」が入っていた
やったことは、禁止の反対です。会社が安全な入口を用意して、そこを通らせた。 入力した内容が学習に使われない契約で、何を入れてよいかの決まりを示して、使い方を教えた。だから社員は自分のAIを持ち込む必要がなかった。
数字は社員の自己申告なので割り引いて見る必要はありますが、方向ははっきりしています。
会社がどこまで許すかで、差がつく
ここからが本題です。私は、「会社がどこまで許容するか」を決めた会社と、決めずに禁止か放置かのどちらかになっている会社で、これから数年の差がつくと思っています。
全面禁止の会社は、表向き事故は起きず、裏で起きます。そして社員は、AIを使って仕事を早く終わらせる同業他社に、じわじわ負けていきます。全面解禁の会社は、いつか事故1や事故2の当事者になります。
真ん中を取るのは難しそうに見えますが、決めることは2つだけです。
線1:どこまで渡すか
社内の文書を、渡してよいもの・だめなものに分けます。基準は「漏れたときに、誰が困るか」です。
| 区分 | 例 | AIに渡すか |
|---|---|---|
| 社外に出しても困らない | 公開済みの会社案内、自社で作った手順書(固有名詞なし) | 渡してよい |
| 自社だけが困る | 社内の売上の数字、原価、見積の根拠 | 会社として判断して決める |
| 他社・他人が困る | 取引先の名前入りの契約書、顧客名簿、社員の個人情報、給与、健康の情報 | 原則渡さない。渡すなら名前と数字を伏せる |
3段目が線です。事故1は社員と家族の個人情報、事故2は病名を含む健康の情報。どちらも3段目でした。
要約や下書きが欲しいなら、固有名詞を「A社」「担当者B」に置き換えてから渡します。置き換えは事務の担当者が5分で終わり、要約はAIが数十秒で返します。
「有料だから安全」「学習に使わない設定だから安全」とは限りません
事故1のAIも、学習に使う機能は無効でした。それでも「会社の外のサーバーに33万人分を送った」事実は消えません。
会社で使うなら、学習に使わない設定にしたうえで、それでも3段目の文書はそのまま渡さない。この線は変えません。
なお、個人情報保護委員会は2023年6月に、生成AIへ個人情報を入力するときは利用目的の範囲内かを確認するよう、事業者に注意を出しています。
線2:誰が、何を確かめるか
AIの出力は、もっともらしく、間違っていることがあります。弁護士の架空判例と、州政府の報告書がそれです。「最後に人が確かめる」を、誰が・どこを、まで決めておきます。
| AIにやらせること | 確かめる人 | 確かめる所 |
|---|---|---|
| 議事録の要約 | 会議に出た人 | 決定事項と担当・期限が落ちていないか |
| マニュアルの下書き | その作業をしている人 | 手順の順番と、例外の扱い |
| 契約書の下書き | 社長(+必要なら専門家) | 金額・期限・解約の条件。AIの出力をそのまま相手に送らない |
| 問い合わせへの返信案 | 送る人 | 事実関係と、約束していないことを書いていないか |
「全部読む」と決めると続きません。どこを見るかを決めておくと、確認が1〜2分で済みます。
2つの線を、1枚にまとめて貼る
決めたことは、使う人が見える所に1枚で置きます。長いルールは読まれません。事故を起こした大手にも、立派な規程はあったはずです。
【AIに文書を渡すときの決まり】
1. 取引先名・個人名・金額・口座・健康の情報は、伏せてから渡す(A社、担当者B、○○万円)
2. 顧客名簿・給与・契約書の原本は渡さない
3. 使うのは会社が決めたAIだけ。自分のアカウントで仕事の文書を扱わない
4. AIの出力は、担当者が「決定事項・金額・期限」を確かめてから使う
5. 社外に出す文書は、AIの出力をそのまま送らない
3番が、2026年の2件から足した1行です。そして3番を守ってもらうには、会社が「使ってよいAI」を用意しておく必要があります。禁止だけでは、この1行は機能しません。
細かい使い方のルールは 生成AIの社内ルールの記事 に書きました。先に決めるのは、この2本の線で十分です。
今日やってみること
- 社内で、誰がどのAIを使っているかを聞いてみる
「禁止している」会社ほど、聞くと出てきます。怒らずに聞くのがコツ。
- AIに読ませたい文書を3つ挙げ、3段階の表に当てはめる
他社・他人が困るものに印を付ける。
- 印の付いた文書は、名前と数字を伏せるひな形を作る
- 出力を確かめる人と、見る所を決める
1つの文書につき1行。
- 会社として使うAIを1つ決め、5行の決まりを1枚にして渡す
次に読むとよい記事
- 生成AIの社内ルールの作り方 → 生成AIの社内ルール
- 「AIで何かできませんか」と言われたら → AIで何かできませんかと言われたときに、私が最初に聞くこと
- AIに任せてよい仕事の見分け方 → AIに任せる仕事、任せない仕事
SUPRAXは、AIを「入れるかどうか」の前に、何を渡して何を人が確かめるかの線引きから一緒に決めています。現状のヒアリングと課題整理は無料です。
この記事で参照した公表資料・報道(2026年11月2日確認)
- 事故1:当該企業の公表(2026年10月23日)と、ITmedia エンタープライズ(2026年10月28日)ほか各社の報道
- 事故2:当該企業の公表(2026年9月3日)と、委託元の国民健康保険組合・自治体の公表、CNET Japan の報道
- 韓国の電機メーカー:Forbes JAPAN、Gizmodo Japan(2023年4〜5月)
- 米国の弁護士:CNBC、NBC News(2023年5〜6月)
- 豪州の州政府:ビクトリア州情報コミッショナー事務局の報告(2024年9月)
- 翻訳サイト:INTERNET Watch「IPA、クラウドサービス利用に関する注意喚起」(2015年2月)
- シャドーAIの割合:サイバーセキュリティクラウド調査(2025年、300人)、Zendesk CXトレンドレポート2025
- 事故ゼロで18.6万時間:当該企業のプレスリリース(2024年6月25日)、MONOist、BCN の報道
- 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(2023年6月2日)
※会社名は伏せています。公表資料は各社名で検索すれば確認できます。
この記事について
SUPRAXは、林業・製造・運送の現場経験をもとに、中小企業の業務改善・AI活用・GISの支援を行っています。 記事の内容について「うちの場合はどうか」を聞きたい方は、無料相談をご利用ください。
あわせて読みたい
中小企業が生成AIを使うとき、最初に決めるべき社内ルール
生成AI(文章で質問すると、文章で答えを返してくれるAI)を、仕事で使う人が増えています。 ところが社内を見ると、「使っていいのか分からないので使ってい…
「AIで何かできませんか」と言われたときに、私が最初に聞くこと
「AIで何かできませんか」。この1年でいちばん増えた相談の入り方です。 正直に書くと、この入り方で始まった相談でも、AIを使わずに片付くことは珍しくあり…
AIに任せていい仕事と、任せてはいけない仕事の分け方
「AIを使っていいのは、どこまでですか」 社内でAIを使い始めると、必ずこの質問が出ます。使っていい仕事と、使ってはいけない仕事の線が引けていないと、ま…