Content keyword · Issue

AI生成物の判別

文章、画像、音声などがAI生成かどうかを識別・表示・検証する論点。

系統
論点
実践記事
0件
ニュース
19件

Practice

実践記事

AI生成物の判別を仕事でどう使うか、実際に試した記事です。

0件

News

ニュース

AI生成物の判別に関するニュースを、新しい順に確認できます。

19件
火 1本

AI検出のPangram、Gmailの受信メールも判定

WIRED

AIが書いた文を見分けるPangramが、Gmailの受信メールも判定できるようになりました。月20ドルからの有料プランが必要です。WIREDの筆者が試すと108件のやり取りのうち8件がAI、37件が人、残りは混在と判定されました。AIと判定したメールは迷惑メールへ振り分けることもできます。

関連するプロダクト

AI生成物の判別
土 1本

AIと分かっていても、人はチャットボットに人格を感じる

Nautilus

ドイツのマインツ大学の研究者は、70人とChatGPTなどのチャットボット7つに性格検査に答えさせ、自己紹介文を書かせました。AIか人かを正しく見分けた割合は人の判定者で約83%、AIの判定者で67%でした。人はAIの文と知っていても人格があるように扱い、過信につながりうると結論づけています。

関連するプロダクト

AI倫理 AI生成物の判別
月 1本

無料のAIで書いた偽論文、IEEEは今は見抜ける

IEEE Spectrum

応用数学の博士でライターのBenjamin Skuse氏は、AIで作った論文をIEEEの審査に通るか試しました。人による審査と不正を調べるプログラムの組み合わせは、無料のAIを使った論文には今のところ対応できています。ただし高性能なAIは、無料版と同じ誤りをもうしません。

AIスロップ AI生成物の判別
日 2本

AI製と判定されないよう、書き手が記号や言い回しを避ける

Techmeme

Bloombergは、Pangramなど、AIが書いた文章かを見分ける判定ツールが、人の書き方を変えていると報じました。書き手は人が書いたように見せるため、ダッシュ記号や「XではなくY」という言い回し、「delve(探る)」などの語を避けたり、わざと誤字を入れたりしています。

AI生成物の判別

Claudeが書く文章の電子透かし、旧2モデルは設定で外れる

THE DECODER

Anthropicは、EUのAI法が求める12月の期限に向け、Claudeの文章に入れる見えない電子透かしを4つのモデルへ広げます。透かしに利用者の情報は含みません。ただしOpus 4.6とSonnet 4.6は、言葉選びの揺らぎを決める設定を初期値から1つでも変えると、透かしが入りません。

関連するプロダクト

関連する会社・組織

AI生成物の判別 AI規制
日 1本

BBC自然番組、AI製でないと示すため濁った映像を採用

The Guardian

BBCの自然番組「Blue Planet III」は、動物がAI製ではないと視聴者に示すため、濁りのある映像をあえて入れました。以前ならプランクトンの多い場面や、船やブイの映り込みは外すこともあったといいます。BBCの担当者は、生成AIは1コマも使っていないと説明しました。

AI生成物の判別 コンテンツ戦略
土 1本

Etsy、AIによるレシピや作り方ガイドの販売を禁止

CNBC

Etsyは、かぎ針編みや裁縫の図案、料理のレシピなど、AIで作成した作り方ガイドの販売を禁止しました。人が関わらない自動生成の出品も禁じ、無加工の実物写真を1枚以上載せるよう求めます。買い手の多くがAIを使った商品か見分けられないことが、買い物を増やす妨げの上位3つに入ったとしています。

AI生成物の判別 AIスロップ
木 1本

Wikipedia、AIの文章を探して消す編集者たち

IEEE Spectrum

Wikipediaの有志は2023年から、決まりに反するAIの文章を探して消しています。最近は、実在する出典を引きながら中身を取り違える例がとても多いといいます。見分ける道具で調べると、AIの文章とされた新しい記事と下書きは2025年末の約20%から2026年初めに15〜16%へ減りました。

関連するプロダクト

AI生成物の判別 編集
日 1本

人かAIかを当てる試験、元の設計で行うと97%が見抜く

Tech Xplore

カンタベリー大学の研究者は、人と機械を見分ける「チューリングテスト」を考案者の元の設計で初めて実施しました。時間を区切らずGPT-4-Turboと人の両方と話すと、37人中36人がAIを見抜きました。元の設計での合格例はまだなく、新しいモデルでは結果が違う可能性もあるとしています。

AI生成物の判別 ベンチマーク
木 2本

YouTube Music、AIで作った曲にラベルを表示

TechCrunch

YouTube Musicは、作曲や歌声などにAIを使った曲に、再生画面でラベルを付け始めました。押すとAIの関わり方が分かり、通常のYouTubeアプリにも広げます。音楽の提供元は「全部AI」「一部AI」「AIなし」の3つから申告します。AIを使っただけでは収益化の対象から外れません。

関連するプロダクト

音楽 AI生成物の判別

受賞作はAI生成との指摘、ジンバブエの作家が否定

The Guardian

文学賞のケイン賞を受けた短編について、The Atlanticが、AI検出ソフトでほぼ全編AI生成と出たと報じました。作者は生成AIの使用を否定しています。賞の運営は調査中で、委員長は検出ソフトを最終判断に使うことに反対しました。記事の筆者も、精度を検証した外部の研究は少ないと認めました。

関連する会社・組織

AI生成物の判別
木 1本

GoogleがAI生成メディア判別サイトを一般公開

TechCrunch

Googleは、画像・動画・音声にSynthIDの透かしが入っているかを誰でも確かめられるサイトを公開した。自社モデルに加え、SynthIDを採用するOpenAIやNvidia、Kakaoのツールで作られたコンテンツも判別できる。透かしを手がかりにするため、透かしのない生成物は見分けられない。

関連する会社・組織

AI生成物の判別
水 1本

OpenAI、ChatGPTの文章に透かし EUで標準装備へ

Computerworld

OpenAIは数週間以内に、ChatGPTとCodexが生成した文章にデジタル透かしを導入すると発表した。EUの新規制対応でEU圏では標準で有効になるが、他地域では任意で選べる形。Anthropicは8月に同種の機能を導入済みで、編集で消せる可能性もあり効果には疑問も出ている。

関連するプロダクト

関連する会社・組織

AI生成物の判別
月 1本

AI生成動画で量刑覆る、司法の新たな課題

NYT

アリゾナ州の控訴裁判所が、AI生成の「被害者が加害者を許す」映像が法廷で上映されたことを理由に、過失致死で有罪となった男の量刑を破棄した。AI生成物が司法判断を揺るがした前例のない事例として注目される。

ディープフェイク AI生成物の判別
日 1本

Google、AI生成の偽バイラインに罰則へ

Futurism

Googleが検索品質ガイドラインを更新し、AI生成のヘッドショットや偽名・虚偽の経歴で記事を人間の専門家が書いたように偽装する「偽バイライン」を欺瞞と明記した。Futurismの調査報道を受けた措置で、違反サイトは検索で優先されなくなる。

関連する会社・組織

AI生成物の判別 生成AI
土 1本

再浮上した「死者のインターネット」、相手は人かAIか

The Atlantic

OpenAIがChatGPTのiMessage連携を発表し、かつて陰謀論とされた「死者のインターネット」理論が再び注目されている。AI生成文がWebサイトやビジネスメールに広がる中、私信で相手が人間かAIか分からなくなる時代が迫っていると論じる。連携はデスクトップ版で、送信は承認後のみだ。

関連するプロダクト

AI情報操作 AI生成物の判別
金 1本

AI検出ツールの精度に大差、人間の文章を誤判定する製品も

THE DECODER

全米作家協会が5つのAI検出ツールを人間が書いた文章で試した。PangramとGrammarlyは全て正しく判定した一方、SidekickerとZeroGPTは人間の文章をAI生成と誤判定し、製品間で精度に大きな差が出た。

AI生成物の判別
水 1本

イングランド銀行、AIディープフェイク詐欺に警告。偽の対立動画が拡散

The Guardian

イングランド銀行が、AIで生成された詐欺への注意を呼びかけた。ファラージ氏とベイリー総裁が討論番組で衝突したように見せる偽動画がXで拡散しており、総裁は本物と信じ込まず、該当動画を通報するよう促した。

AI生成物の判別
火 1本

「タイポは人間の証」AI時代に手書きの誤字が信頼の記号になる

Futurism

完全な文章ほどAI生成を疑われる時代に入った。ユーザーがあえて誤字を残してSNSや業務メールを送ることで「人間が書いた」と示す動きが広がっている。AIの校正力が上がるほど、不完全さが信頼の記号になる逆説が起きている。

AI生成物の判別