2026 年 5 月、「否定の無視」（Negation Neglect）という研究論文が、はっきり「これは偽」と書いた文書で言語モデルを微調整しても、モデルはその偽の主張を事実として覚えうることを示した。研究者は、英国の歌手 Ed Sheeran が 2024 年の五輪の 100 メートルで金メダルを取った、という話をでっち上げ、文書の中で何度もそれが偽だと警告した。あるモデルでは、微調整の前にこれを信じる割合は平均 2.5% だったが、この「否定付きの文書」で微調整したあとは 88.6% に上がり、否定のまったくない文書の場合（92.4%）とほとんど変わらなかった。
さらに注目すべき点が二つある。一つは、主張に触れる文のすべての前後に、それが偽だと言う文をぴったり置いても、効果が残ったこと。もう一つは、「Ed Sheeran は 100 メートルの金メダルを取っていない」のように否定を文そのものに入れたときだけ、モデルがおおむね正しく学んだことだ。研究者は、同じ文書を会話の中で直接モデルに見せれば、モデルは偽だと見抜けることも確かめている。問題は、それを学習に使うときに起きる。
だから誤ったデータを本当だと思わせないためには、横に「これは偽」と書くだけでは足りない。否定を文の中に書き込むか、真偽の状態をシステムが読める欄に置き、学習や回答に入る前に止めるようにする。
モデルの学習は、人のようには文書を読まない
人は文書を読むとき、見出し、レイアウト、横の警告をまとめて読む。モデルの学習はそういう読み方をしない。研究者は、モデルには読んだ主張を本当のこととして表す傾向があると推測している。否定ごと学ぶ解き方もあるが、さらに学習を続けると不安定になる。研究はまた、この現象が「架空」のような印にも広がることを示した。架空と印を付けた内容も本当のこととして学ばれる。悪意があると印を付けた会話で学習させると、モデルがその振る舞いを身につけることもある。
これは AI のコンテンツのラベルの問題と似ている。ラベル一つがふるい分けてくれるわけではない。AI コンテンツのラベルはふるい分けてくれない。問うべきは出典と責任の所在だも参考になる。
データの行き先で扱い方を決める
人だけが読む教材： 反例は残してよい。人は前後の文脈と一緒に読む。見出しと区分けをはっきりさせる。
検索用のナレッジベース： 研究によれば、会話の中に置かれればモデルは否定を見抜ける。だがナレッジベースの文書は細かく切り分けられ、警告と主張が離れて、主張だけが取り出されることがある。古くなったものや取り下げたものは、状態と有効期限を欄で示し、索引を作るときや取り出すときに外す。文章の警告に頼らない。
学習や評価のデータ： 研究がまさに指摘しているリスクだ。誤った例は文の中の否定に書き換えるか、「主張」と「状態：誤り」の二つの欄に分け、本番のデータとは別に置く。要らないものは取り除く。
支払い、権限、医療、法律、外部への約束に響く答え： データにどう印を付けたかにかかわらず、出力には出典を付け、有効かを確かめ、人が確認する。
言い方を変えて試し、誤りが出てこないかを見る
もとの文で試すだけでは足りない。研究のモデルは、関連する質問をされると偽の主張を本当のこととして答えた。試すときは人物、時期、言い方を変えて聞き、言い換えたあとも同じ誤りを繰り返さないかを確かめる。大事な流れには固定の問題を用意して流し直し、見比べる方法は、AI の回答が急に悪くなったときのために、繰り返し使える固定の問題を用意しておくを参考にしてほしい。
この研究が試したのは微調整だ
この研究が試したのは微調整で、対象には Qwen、Kimi、GPT-4.1 などが含まれ、試したすべてのモデルで効果が出た。ただし程度はモデルや学習の方法によって違いうるし、研究自体もまだ発展の途中だ。検索については、モデルが会話の中では否定を見抜けると研究が示しているので、そこでのリスクは主に切り分けで警告と主張が離れることから来る。これは推論で、自分のデータで確かめる必要がある。
以前の研究でも、言語モデルは否定の文をそもそも誤りやすいとわかっている。たまたまの結果ではなく、データの流れを設計するときに前提にすべき弱点だ。
AI 整理カード
私たちのデータには、誤った例、古い内容、反例があり、横に「誤り」や「使用禁止」と書いてある。AI がそれを事実と思わないかを確かめたい。
判断方法はこの記事による：https://boosterminiclass.com/ja/posts/negation-neglect-llm-training-warning/
記事の見方はこうだ。「これは偽」と何度も書いた文書で微調整しても、モデルは偽の主張を事実として覚えうると研究は示した。比較的正しく学べるのは、否定を文そのものに入れたときだ。真偽の状態をシステムが読める欄に置くか、書き換えるか、取り除く。横の一言の警告に頼らない。
私が許可したナレッジベース、学習や評価のデータだけを読み取り専用で確認してほしい。ファイルを直したり、索引を作り直したりしないこと。
1. 文そのものは肯定で書かれ、横に文章の警告しかない誤り、古い内容、反例を見つけ、ファイル名や欄を引用する；
2. それぞれがどこに入るかを判断する。人が読む教材、検索用のナレッジベース、学習や評価のデータ；
3. システムが読める状態の欄（状態、有効期限、出どころなど）があるか、検索のときに外されるかを確かめる；
4. それぞれの扱い方を提案する。残して欄を足す、文の中の否定に書き換える、隔離の場所に移す、取り除く。そして言い方を変えた試しの質問を三つ考える。
読めないところは「要確認」とする。どんな変更も担当者の判断に任せること。
参考資料
- arXiv：Negation Neglect: When models fail to learn negations in training — https://arxiv.org/abs/2605.13829（2026-05-13）
- Ars Technica：LLMs believe false statements even after explicit warnings that they’re false — https://arstechnica.com/ai/2026/05/llms-believe-false-statements-even-after-explicit-warnings-that-theyre-false/（2026-05-21）
- ACL Anthology（EMNLP 2023 論文）：This is not a Dataset: A Large Negation Benchmark to Challenge Large Language Models — https://aclanthology.org/2023.emnlp-main.531/（2023-12）
