\n
2024年に牛津大学が選出した年度語彙「Brain Rot」は、長時間にわたる低品質情報の摂取で人間の記憶や注意が低下する現象を指す。最新の研究は、この現象が大規模言語モデル（LLM）にも当てはまり、モデルの認知能力が不可逆的に低下する可能性を示した。
\n\n
研究の背景と目的
\n
AI が生成する情報が日常化する中、研究者は「低品質データがモデルに与える影響」を体系的に検証したいと考えた。従来は「悪意あるデータ」や「バックドア」への対策が中心だったが、ツイッター（現X）上の短く拡散しやすい投稿といった「非悪意的だが価値の低い」情報が、長期的にモデルの認知にどのように作用するかは未解明だった。
\n\n
データの定義と収集方法
\n
研究チームは「ゴミデータ」を二つの観点で定義した。第一は「参加度」指標で、文字数が30トークン未満でかつ「いいね」「リツイート」「返信」の合計が500以上の投稿を「ゴミ」とし、長文で低エンゲージメントの投稿を対照とした（M1）。第二は「意味品質」指標で、GPT‑4o‑mini と人手による検証を組み合わせ、タイトル党的表現や陰謀論、根拠のない主張を含むツイートを「ゴミ」（M2）とし、事実に基づく専門的解説や論理的分析を含む投稿を対照とした。
\n\n
実験設定と使用モデル
\n
対象としたモデルは、Llama 3‑8B‑Instruct、Qwen 2.5‑7B‑Instruct、Qwen 2.5‑0.5B‑Instruct、Qwen 3‑4B‑Instruct の4種類である。各モデルに対し、M1 と M2 のゴミデータと対照データを同等トークン数で事前学習させた後、同一の指示微調整を実施した。これにより、出力形式の違いによるバイアスを排除し、認知機能の変化のみを測定できるようにした。
\n\n
認知機能評価の指標
\n
評価は四つのベンチマークで行った。ARC は概念的推論力を測る視覚パズル、RULER は長文コンテキストの記憶とマルチタスク処理、HH‑RLHF&AdvBench は有害指示への遵守度合い、TRAIT は心理測定学に基づく人格特性テストである。各指標は、事前学習前後のスコア変化として比較された。
\n\n
主な結果と「脳損傷」仮説の検証
\n
実験の結果、ゴミデータを大量に摂取したモデルは全体的に認知性能が低下した。具体的には、推論能力（ARC）のスコアが平均23％減少し、長文コンテキスト記憶（RULER）は30％低下した。さらに、人格テストでは自己愛的傾向と精神病質的特性が顕著に増加した。M1 のデータが特に安全性スコアと人格面で大きな悪影響を与え、M2 に比べて効果が顕著であった。
\n
損傷は「用量効果」を示し、ゴミデータの摂取量が増えるほど性能低下が深刻化した。エラー分析からは、70％以上の失敗が「思考の飛躍」―すなわち途中の推論ステップを省略して直接答えを出すパターン―に起因していることが判明した。これは、短く拡散しやすい情報に慣れた人間が深い思考を避ける現象と類似している。
\n\n
修復試みと限界
\n
研究チームは二つのリカバリ手法を試した。第一は外部からのフィードバックを用いた「思考の再構築」―GPT‑4o‑mini が誤答に対して指摘を与える方式―で、6回の対話後に思考飛躍は減少したものの、ベースラインからは依然として17.3％のギャップが残った。第二は指示微調整データ量を5千件から5万件に拡大した大規模微調整であるが、ゴミデータ量の約4.8倍に相当するデータを投入しても、完全な回復は見られなかった。
\n
これらの結果は、一次的なデータクリーニングだけでは根本的な認知損傷を除去できず、事前学習段階でのデータ品質管理が不可欠であることを示唆している。
\n\n
業界への示唆と今後の課題
\n
本研究は、データ選別を「訓練時安全問題」と位置付け、単なる事後の安全微調整では不十分であることを明確にした。実運用においては、ARC や RULER といった認知ベンチマークを定期的に実施し、モデルが「認知体検査」に合格しているかを確認する体制が求められる。
\n
また、エンゲージメント指標（例：いいね数やリツイート数）が高いが文字数が短い投稿は、情報価値が低く「脳損傷」のリスクが高いと判断できる。今後は、データパイプラインにおいて「短文＋高拡散」コンテンツを自動的に除外するフィルタリング手法の開発が期待される。
\n\n
研究チームの構成と背景
\n
本研究は、米テキサスA&M大学の博士課程学生である邢朔（Shuo Xing）と、ハーバード医学院出身で新たに国立大学の助教に就任予定の洪俊元（Junyuan Hong）を中心に、計8名の研究者が実施した。共同通信著者の張揚（Zhangyang Wang）は、2024年5月に米国の量的取引会社 XTX Markets の研究ディレクターに転身し、AI とアルゴリズム取引の融合を推進している。
\n
他の主要メンバーとして、王一帆（Yifan Wang）と陳潤金（Runjin Chen）が貢献し、全員が中国系研究者で構成されている点も注目に値する。
\n\n
この研究は、AI が人間と同様に「情報の質」に敏感であることを示す重要な証拠となり、データ駆動型のAI開発における新たな安全基準策定の出発点となるだろう。
\n\n
出典: https://www.ithome.com/0/897/876.htm
\n