熊本市の特定社会保険労務士、荻生清高です。

全10回にわたり、中小企業の人事労務における、生成AI活用とリスク管理について説明します。
4回目の今回は、生成AIの「ハルシネーション」が起こる仕組みと、実務での対応を紹介します。

なお、2025年4月28日に行った、当事務所セミナーの内容をまとめています。

 

---

ハルシネーションの仕組みと発生事例解説

生成AIの利便性が急速に高まる一方で、労務管理の現場において特に注意すべきリスクの一つが「ハルシネーション」と呼ばれる現象です。

ハルシネーションとは、AIがあたかも真実であるかのように見える、しかし事実とは異なる虚偽の情報や誤った内容を生成してしまうことを指します。今回は、生成AIの仕組みからこのハルシネーションがなぜ発生するのか、そして労務分野で実際に起こり得る具体的事例を解説いたします。

 

生成AIの基本的な動作原理と、ハルシネーションの具体的事例

まず、生成AIの基本的な動作原理を理解することが重要です。生成AIは、大量のテキストデータを学習し、そのデータに基づいて次に続く単語や文のパターンを「統計的に予測」して文章を生成します。つまり、AIは「正しいかどうか」を判断するのではなく、「過去に見られたパターンに最も近い」と予測した結果を出力しています。このため、現実の事実と乖離した内容も、形としては自然な文章で生成されることがあるのです。

この性質が原因で、労務管理においては特に次のようなリスクが生じます。例えば、AIに「労働基準法に関する最新の判例」を尋ねた場合、実際には存在しない判例や架空の法解釈を「それらしく」提示してしまうケースです。誤った判例情報が人事評価や就業規則の改正に反映されてしまうと、企業は不当な処遇や法令違反のリスクを負うことになります。また、助成金申請の手続きについて虚偽の条件や申請方法を示される事態も想定され、中小企業の信頼を損ねかねません。

もう一つの具体的な事例としては、社員の労働時間管理や休暇取得に関する規定をAIに作成させた際、実際の労働基準法や育児介護休業法に違反する表現が含まれた文書が作成されるリスクがあります。ハルシネーションにより、企業が法令遵守義務を果たせず、労働基準監督署から指導を受けるケースも現実的です。さらに、雇用契約書の条項や解雇通知書の文言に誤解を生む表現や根拠のない法律解釈が入り込み、労務トラブルに発展する恐れもあります。

ハルシネーションの原因は、AIがあくまで「言語モデル」である点に尽きます。AIは現実世界の意味理解や判断能力を持っていないため、情報の正確性や法的妥当性を保証できません。こうした背景を踏まえ、生成AIの出力を信じ切らずに「必ず人間が専門的に確認・修正する体制」を整備することが不可欠です。特に労務管理のような法令順守が重視される分野では、社労士や法務担当者がチェックポイントとなり、ハルシネーションによる誤情報を未然に防ぐ運用ルールを設ける必要があります。

また、企業内では、生成AIの利用者がハルシネーションのリスクを認識し、AIの回答を鵜呑みにするのではなく、「ファクトチェックを必須とする社内教育」も肝要です。疑問点があれば公式な法令文書や専門家に確認し、AIの生成物はあくまで参考資料の一つとして活用する姿勢を徹底してください。

最後に、ハルシネーションのリスクは技術の進化とともに軽減される可能性もありますが、現状ではAIの回答が完全無欠ではないことを前提として運用することに変わりありません。生成AIを利用する際は、当該AIの更新情報や改善点を常にチェックし、リスク管理体制をアップデートし続けることが、中小企業の労務管理における安全かつ効率的なAI活用の鍵となるでしょう。

次章では、このハルシネーションをはじめとした生成AI特有のリスクに対応する労務管理上の具体的な対策方法について、社内ルールの整備や従業員教育の進め方を詳述します。前述の事例を踏まえ、生成AIを正しく労務管理に活用するための実務的な知識を深めてまいりましょう。

 

労務文書・社員評価で誤情報を正しく見抜く｜社労士の取り組み

生成AIのもたらす利便性は人事労務の領域でも非常に大きいですが、その一方で「ハルシネーション」と呼ばれる誤情報生成リスクは無視できません。労務文書や社員評価の分野では特に、この誤情報を見抜き、正しく対応する専門家としての実践的ノウハウが不可欠です。私は社労士として多数の中小企業にAI導入支援を行う中で、誤情報の検出とリスク管理の重要性を痛感しています。その具体的なポイントを解説します。

まず、労務文書や社員評価におけるAI生成情報の特徴として、内容が一見「もっともらしい」表現で提示されることが挙げられます。例えば存在しない判例を引用したり、法的根拠の曖昧な解釈が記述されたりと、これらは特に法令遵守が厳格に求められる労務管理では深刻な問題に繋がります。そのため、AIのアウトプットを「鵜呑みにしない」ことが第一の鉄則です。

実務の現場で私が心掛けているのは、AI生成文書を専門的知識で精査する「人間のダブルチェック体制」の構築です。具体的には、AIが作成した就業規則案や評価制度の文案については、最新の労働法令・判例情報と照合し、不正確な表現や誤解を生みやすい曖昧な記述がないかを精密に確認します。例えば、育児・介護休業法関連の規定作成時には、制度改正内容が盛り込まれているかや、個社の運用実態に合わせた文言かどうかをしっかり見極める必要があります。

また、社員評価に生成AIを活用する場合は特に注意が必要です。AIは過去データや公開情報に基づくパターン認識が得意ですが、評価の公正性・客観性、個別事情の把握までは対応できません。AI生成の評価文章に過度に依存すると、虚偽の内容や偏った印象形成に繋がり、労使関係の問題化を招く恐れがあります。私は評価文書の下書きをAIに委ねるケースでも、必ず社労士や担当者が「事実確認」と「表現の適切性チェック」を行い、社員の実態と法的観点を踏まえて修正しています。

誤情報の見抜き方としては、以下の３つの視点が重要です。

1. 法令や判例の公式文書と照らし合わせる
2. 曖昧・断定できない表現が含まれていないかの検証
3. 社内の実務運用ルール・制度趣旨に即した記述かどうかの整合性確認

この中でも、私が特に重視するのは原典照合の徹底です。例えば、AIが提示した判例が本当に存在するのか、厚生労働省発行のガイドラインに基づいているかを実際に検索・確認しています。もしAIの提示が不確かな場合は、判例データベースや政府公式サイトを参照し、正確な情報に置き換えます。

さらに、AIの特徴として同じ質問でも回答が変動しうる点を踏まえ、複数回の質問や表現の変えた問い合わせを実施し、その回答の一貫性や信頼性を検証する手法も取り入れています。この「クロスチェック」によって誤情報の発見率が飛躍的に高まります。

私の事務所ではクライアント向けにこのチェック体制構築支援も提供しており、生成AIの出力単独で業務を進める危険性を回避しつつ、AIの時間短縮効果を最大限発揮させる運用フローを設計しています。具体的には、AIが作成したドラフトを必ず社労士がレビューし、必要に応じて法改正・自治体条例・最新判例も加味した修正を加えたうえで最終承認するルール化を推奨しています。

教育面では、利用者である人事担当者や管理職に対し、「AIの回答はあくまで参考情報であり、必ず人が確認すること」「疑問があれば必ず専門家に相談する」というリスク意識を徹底しています。その上で、生成AIの特徴やハルシネーションの実例を共有し、誤情報を看破するスキル向上を図る研修を定期的に行っています。こうした継続的な教育は企業内のリスク管理に欠かせません。

以上のように、労務文書や社員評価における生成AIの活用は、誤情報を生み出すリスクと隣り合わせです。しかし、AIを適切に活用しつつ、社労士等の専門的な目線で精査・修正を加えること、そして組織的なチェック体制と教育を講じることによって、このリスクは十分に抑制可能です。AIの力を否定せず、むしろ「人間とAIが協調する形」で誤情報を正しく見抜き、法令遵守と社員の権利保護を堅持しながら活用するのが、いま私が提案する最良のアプローチです。

 

---

10回の記事は、こちらのタグ「生成AIの基礎知識」にまとめています。

タグ「生成AIの基礎知識」

---

特定社会保険労務士 荻生 清高｜社会保険労務士　荻生労務研究所（熊本市）
中小企業の労務トラブル防止・職場環境改善をサポートします。お気軽にご相談ください。

お問合せフォームはこちら