The Registerは10月24日、BBCが欧州放送連合（EBU）と実施した大規模調査の結果を報じました。
References:The Register
ChatGPT、Copilot、Gemini、Perplexityの計3,000超の応答を評価したところ、45％が「重大な問題（significant issues）」を含み、81％は何らかの間違いがあったというもの。
とりわけGeminiは76％で重大問題が確認され、情報源の取り扱いに起因する不正確さが72％と突出しました（ChatGPT24％、Perplexity/Copilotは各15％）。
報道の要点：数字で見る「AI×ニュース」の危うさ
- 母集団と方法：
18カ国・22の公共メディアが参加し、ニュースに関する質問へのAI応答3,000件超を網羅評価。
45％が重大問題、31％が深刻なソーシング問題、約20％が“重大な正確性の問題”（幻覚や古い情報）。
軽微なミスまで含めると81％がエラーを含みました。 - モデル別の傾向：
Geminiの重大問題76％が最大。
ソースの不正確さ72％はChatGPTの3倍、Perplexity/Copilotの約5倍に。 - 代表的な失敗例：
歴史・宇宙・政治など既報の事実関係を取り違えた要約、引用の欠落や改変、古い出来事の“現在化”など。
研究チームは「見栄えのよい自信ある文体が誤りを目立たなくする」点も懸念として挙げています。 - 世論の受け止め：
同時公表のIpsos調査（英2,000人）では、42％がAI要約を信頼すると答える一方、84％が“1つの誤り”で信頼が大きく損なわれると回答。
使うが、1回のミスに極めて敏感という姿が浮き彫りです。
背景にはBBC/EBUの継続研究があり、今年2月の段階でもAI要約の半数超に問題があるとの報告が出ていました。
何が起きているのか：失敗のメカニズム
- “過剰自信”の設計
OpenAI自身も「知らないときに断言しがち」という挙動を認め、自信の高い口調が強化学習で報われる設計上の癖を指摘しています。
ニュース要約では不確実性の提示（曖昧さの表明）が十分でないと、誤り×断言の組み合わせが致命傷になります。 - ソーシングの脆弱さ
出典リンクの欠落、権威性や更新日の評価不足、引用の非忠実（要約の“言い換え”が原義から逸脱）が、読者に検証手段を与えないまま誤りを拡散させます。
今回の調査で「深刻なソーシング問題」31％という数値が示すのは、RAGや引用設計の未熟さです。 - “古い真実”の現在化
ニュースは時間依存性が極めて高いジャンル。
最新性のチェックや発言・判決などの文脈メタデータが落ちると、過去の情報が“今の事実”として再提示されます。
これは昨冬にAppleのAIニュース要約が停止に追い込まれた件とも地続きの課題です。
影響：読者・メディア・開発者それぞれのリスク
- 読者：
出典なしの“キレイな要約”ほど危険。
誤った自信が判断を狂わせ、政治や健康の話題ではリアルな被害につながり得ます。 - メディア：
ブランド毀損の“外部要因”が増大。
BBCニュースの内容がAIで歪むとの指摘は今年前半から続き、一次発信者の信用が外部モデルに左右される構造が問題化しています。 - 開発者/プラットフォーム：
誤要約は規制・契約・訴訟リスク。
EBUは開発者向けツールキットを公表し、出典表示・信頼度表示・不確実性の明示など実装ガイドを提示しました。
現実的な打ち手（編集側）
- “引用→要約”の順序を固定
まず原文の引用（リンク・発言・日付）を機械可読に付与し、その後に要約を乗せる。
引用の忠実性を機械評価するルールをCMSに内蔵する。 - “更新日”の強制提示
見出し横に更新日時を必須のデータフィールドとして提供。
AI側は更新日を閾値判定に使って旧記事を除外。 - “要約権”のライセンシング
一括引用・要約の許諾APIを提供し、改変不可の引用ブロックやメタデータ（発言者、地名、裁判所、政党名の正規表現）をセットで返す。
誤変換を機械的に減らす。 - エラー申告の回路
媒体↔AI事業者の誤要約レポートSLA（修正までの時間、告知方法）を合意。
“誤りの見える化”で再発防止に資する。
現実的な打ち手（モデル側）
- 「低確信なら要約しない」制御：
回答拒否や要約保留を選べるようにする。 - 出典の“多様性×整合性”検査：
複数信頼ソースの合意が取れない場合は警告バナーを出す。 - 引用の差分検査：
原文→生成文の論理差分を自動検査し、引用句の改変や主語の置換を検知したら強い注意喚起。 - 時制・立場の監査：
人物役職・判決時期・国名などニュース固有の属性をナレッジベースで再検証。 - UIでの“不確実性表示”：
信頼度メーター／更新日／出典数を一目で分かるUIで提示。
こうした「保守的な要約ガバナンス」は、BBC/EBUの指針が促す方向性でもあります。
ユーザーへの実務的ヒント
- 要約だけでなく出典リンクを必ず開く。
- 人物の役職・日付・数値は2ソース以上でクロスチェック。
- 政治・医療など高リスク分野では一次発表（省庁・学会・裁判所）に当たる。
- “うますぎる断言”には保留を。
1つの誤りが信頼を急落させるという世論の直感は、データでも裏づけられています。
まとめ：「速い要約」から「正しい要約」へ
- 3,000件超の評価で、重大問題45％／何らかの誤り81％という厳しい現実。
Geminiは重大問題76％で最も厳しい評価に。 - 過剰自信・ソーシング・最新性という要約3大リスクが可視化されました。
Appleの要約停止事例が示すように、製品リスクはもはや周縁ではありません。 - 編集・モデル・UIの三位一体で「誤らない仕組み」を作ること。
要約をやめる勇気、根拠を出すUI、保守的なガバナンスが信頼を支えます。 - 読者も“出典を開く”習慣を。
AIがニュースの入口になるほど、入口の作法が民主社会の情報衛生を左右します。
コメント