あなたが読んだ記事は「本物」か——1日6万本のAI生成ニュースが流通する世界で何が起きているのか

3,000サイトではなく、「なぜ3,000サイトが成立するのか」を見る

AIコンテンツファームの検出数が3,000超に達し、月300〜500件のペースで増えている。この数字だけ見ると「AIで偽情報が拡散している」という技術的な問題に見える。だが構造を見ると、これは広告の問題だ。

Pangram Labsの分析によれば、AIコンテンツファームの相当数は「MFA（Made for Advertising）」——広告収入を目的に作られたサイトだ。記事の内容ではなく、広告を表示する場所としてサイトが存在している。プログラマティック広告と呼ばれる自動入札型の広告配信は、サイトの訪問者数やページビューに基づいて広告を配信する。コンテンツの質は評価しない。その結果、「Times Business News」や「Business Post」のような実在しそうな名前を持つAI生成サイトに、ExpediaやAT&Tの広告が表示される。141のブランドがこの事実を知らなかった（NewsGuard調査）。広告主が自分の広告がどこに出ているかを把握できないというのは、広告エコシステムの構造的な不透明さの帰結だ。

「検出する側」と「生成する側」の非対称な戦い

NewsGuardとPangram Labsが構築したシステムは、Pangramの検出AIがサイト全体をスキャンし、AIコンテンツファームの疑いがあるサイトをフラグし、NewsGuardの人間アナリストが手動で確認するという仕組みだ。精度は高い。だがこのプロセスは「すでに存在するサイト」を後追いで検出する構造になっている。

一方、生成側は新しいサイトを月に300〜500件立ち上げている。ドメインを取得し、テンプレートを適用し、AIに記事を生成させる。コストはほぼゼロだ。検出には人間のレビューが必要だが、生成には人間がほぼ不要。この非対称性がある限り、検出側は追いかけ続けるしかない。ウイルスと抗体の関係に似ている。ただし、ウイルスの増殖速度が抗体の生成速度をはるかに上回っている。

「1日6万本」が意味すること

Pangram Labsの調査によれば、全世界で1日に公開されるニュース記事の約7%——約6万本——がAI生成だ（2024年7月時点のデータ。現在はさらに増加していると推定される）。7%という数字は小さく見えるが、ニュースの消費構造を考えると印象が変わる。

読者がGoogleニュースやSNSのタイムラインで記事に触れるとき、出典を確認する人は少数だ。「Times Business News」という名前のサイトに掲載された記事は、タイムラインに流れてくる限り、他のニュースと区別がつかない。AI生成の記事は読者の滞在時間が人間が書いた記事の約半分であり、再訪率も3.6分の1だとPangram Labsは報告している。つまり、コンテンツとしての質は低い。だが「1回読まれれば広告は表示される」ビジネスモデルにおいて、質の低さはペナルティにならない。1回のページビューが1回の広告表示を生む。それが6万本分、毎日繰り返されている。

映像も、テキストも——情報インフラの侵食が進む

2週間前、AI生成映像と偽の戦争映像が区別できなくなった現実を取り上げた。映像の真偽が検証不能になりつつあるという話だった。今回のAIコンテンツファームの問題は、同じ侵食がテキストにも進行していることを示している。映像もテキストも、「本物かどうか分からない」が常態になりつつある。

ロシアの影響工作「Storm-1516」に関連する多数のサイトが確認されたという事実は、この情報インフラの脆弱性が国家レベルで利用されていることを意味する。偽の米国ニュースサイトを作り、偽の記事を掲載し、それをロシア国営メディアが「米国メディアの報道によると」と引用する（NewsGuard調査）。AIコンテンツファームは偽情報の生成装置であると同時に、偽情報にロンダリングされた信頼性を付与する装置としても機能している。

日本語圏でも同じ構造は成立しうる。日本語のAIコンテンツファームが現時点でどの程度存在するかのデータは限定的だが、プログラマティック広告のエコシステムはグローバルに共通している。情報を消費する側の対策は、結局のところ「出典を確認する習慣」に行き着く。だがそれは個人の努力に依存する解決策であり、構造的な問題——広告費がコンテンツの質を問わず流れるパイプライン——を解決するものではない。