AI倫理

インディアナ州の裁判官が、速記者がAI文字起こしの誤りを訂正せずに提出した事例を公表。AI出力を無批判に使うリスクを如実に示す裁判所からの警告。

メイヨー・クリニックの元幹部が、精度の低いAIツールの導入を問題視した後に解雇されたとして提訴した。医療現場でAIの精度検証と異議申立ての仕組みが問われている。

Metaが新しいMuse Imageモデルから、公開Instagramアカウントを指定して本人の同意なく画像を生成できる機能を削除した。批判を受けた対応で、生成AIの利用境界が問われている。

ケンブリッジ大学の研究をもとに、Boko Haramなどの過激派が主要AIチャットボットを攻撃計画や爆発物・武器の開発に利用している実態が報じられた。安全策があっても悪用経路を完全には閉じられていない。

MetaがAIグラスでの無断録画防止策を導入する一方、AI製品による個人データ収集は拡大し続けている。常時録画プロトタイプや感情トラッキング特許など、プライバシーと利便性の矛盾が浮き彫りに。

Brown大学の教授がAIカンニングを疑い、オンラインから対面試験に切り替えたところ、学生の平均点が約50%下落。「私たちはバカになることを選択できない」と同教授は述べ、AIが教育の評価制度そのものを揺るがしている実態が浮き彫りに。

OpenAIで安全性研究と将来戦略を統括してきたJoshua Achiamが退社。Musk対Altman裁判でも注目された存在で、AI安全性研究の重要な担い手の離脱として業界に衝撃を与えている。

職場で人間同士が直接やりとりせず、AIアシスタント同士がメールやメッセージを自動生成・返信する「AI同士の会話」が横行。業務の非人間化に対する懸念が高まっている。

MetaがMuse Imageモデルの展開に伴い、公開Instagramアカウントの写真をAI画像生成に利用可能に。ユーザーはオプトアウトしない限り自分の写真がAI生成に使われる可能性があり、プライバシー懸念が広がっている。

Anthropicが中国のClaudeユーザーを秘密裏に監視するトラッカーを仕込んでいたことが発覚。同社の反監視スタンスと矛盾する行為として批判を浴びている。

Metaが数百人の請負業者を10代の若者に偽装させ、競合他社のAIに不適切なコンテンツを送り込むテストを実施していたことが判明。内部からも懸念の声。

セキュリティ研究者がAI搭載ブラウザに深刻な脆弱性を発見。特定のプロンプトによりAIが偽の現実認識に誘導され、ユーザーを攻撃する可能性がある。

Midjourneyが裁判所に対し、提訴したDisney、Warner Bros.、Universalに各社のAI利用情報の提出を求めるよう要請。著作権訴訟の逆転攻勢。

Amazon、Adobe、Atlassian、Citiなど複数の大企業で、従業員によるAI利用がコスト高騰により制限されている実態が内部情報から明らかに。AI導入の熱狂が冷め、現実的なコスト管理のフェーズに入りつつある。

Netflixが没した俳優ジーン・ワイルダーの声をAIで再現し、Willy Wonkaリアリティ番組で使用していることが判明。ファンからは「中止してほしい」と怒りの声が殺到。没後AI活用の倫理的議論が再燃している。

Remote Labor Indexによると、AIエージェントがプロ品質で完了できるフリーランス案件の割合が8ヶ月で2.5%から16%に急上昇。Anthropic Fable 5の復活も寄与し、知識労働の自動化が加速度的に進んでいる。

ある企業CEOがChatGPTで書かれたメールを「AIの粗悪品（AI slop）」と称し、送った従業員を即座に解雇すると警告。職場でのAI利用の線引きをめぐる議論を呼んでいる。

FordがAIによる品質自動化に失敗し、350人の熟練エンジニア（「グレイビアード」）を呼び戻す事態に。AIの限界と人間の経験知の重要性を示すケーススタディ。

TripadvisorのAI生成レビュー要約が、性的ハラスメントや食中毒訴訟中のホテルを「清潔」と表現するなど、重大なクレームを軽視していると調査で判明。AI要約の品質リスクを浮き彫りに。

Metaが数百人の契約社員に未成年を装わせ、ChatGPT・Gemini・Character.AIへ自殺・性・薬物関連のプロンプトを送信させる非公開テストを実施。一度のテストで11,000件以上の安全違反を検出。

イランの学校へのミサイル攻撃の調査で、米軍のAI標的選定システムに重大な欠陥が判明。AIが学校を示す注記を見落としたことが発覚し、AIによる軍事判断のリスクが浮き彫りに。

Microsoftの幹部が、AIが社会に及ぼす影響をめぐり同業の経営者らに苦言を呈した。「社会的な許諾を得るための地道な努力がこれから必要だ」と述べ、業界がまだ信頼構築の途上にあると指摘している。

英ガーディアンの調査で、ブランドが実在の顧客を装うAI生成インフルエンサーをSNS上で密かに使っている実態が判明した。投稿が本物の利用者に見えるため、表示の透明性向上を求める声が上がっている。

米国の世論調査で、AIを良いものと捉える人が少数派にとどまることが明らかになった。技術の急速な普及に対し、社会全体の受け止めはむしろ慎重・否定的に傾いている実態が浮かんだ。

The Atlanticが、AIモデル学習に使われた音楽データセットを検索できるデータベースを公開。音楽業界でも、学習データの透明性と著作権をめぐる議論が強まっている。

大学教育の現場でAI利用が半ば前提化し、学生がAIを使わざるを得ない圧力や学習意欲の低下を感じていると報道。教育現場でのAI活用ルール設計が問われる。

SignalのMeredith Whittaker氏が、AIチャットボットを意識や友人のように扱う風潮に警鐘。親密さを装うAIサービスとプライバシー、依存、企業のデータ利用の問題を改めて提起した。

MITの新研究が、チャットボットへの過度な依存は批判的思考力や誤情報を見抜く力を下げる可能性があると指摘。AI利用は便利さだけでなく、人間側の判断力への影響も問われる段階に入った。

元OpenAI社員2人が、AIモデルが訓練データから特定人物をどれだけ想起できるかを示すサイト「In the Weights」を公開。著名人ほど高スコアとなり、学習データとプライバシーの論点を可視化する。

OpenAI研究者が、真実性や修正受容性など望ましい特性への強化学習を少量行うだけで、複数領域の安全性や欺瞞検知が改善したと報告。ベンチマーク53件中44件で向上した。

Android Authorityの調査で、調べ物用途でのAIへの信頼度が急上昇。回答者の多くがAIの回答を二重チェックしないと答え、検証を省略する前提が日常利用に組み込まれつつある実態を示した。

Pokémon GOプレイヤーのARスキャンを使ってNianticが学習させた空間AIモデルが、米防衛企業のGPS非依存ナビ技術と組み合わされ軍事ドローンに活用されていることが明らかになった。ゲーム参加者の同意外でのデータ転用が論点となる。

KPMGがAI活用の利点をまとめたレポートについて、内容にAIハルシネーションとみられる誤りが含まれていたとして撤回した。AI導入を説く側の文書そのものがAI由来の誤情報を含むという、企業の信頼設計を問う事例になっている。

英Derbyshire警察の警察官が、AIで生成された「証拠資料」を使った疑いで刑事捜査の対象となった。英国で公的に確認された初の事案で、当該警察官は前線業務から外された。AIの司法・捜査領域への持ち込み方の歯止めが現場で問われ始めた。

新しい研究は、AIの記憶システムが性能を下げ、迎合的な応答を増やす可能性を示した。利用者に合わせて覚える機能は便利だが、文脈を固定しすぎると、正確さより相手に合わせる振る舞いを強める。パーソナライズと信頼性は同じ方向に進むとは限らない。

AnthropicのDario Amodei CEOが、強力なAIモデルの公開に対して航空行政のような事前規制を導入する構想を示した。政府が危険なAI配備を止められる制度を求めており、AI企業自身が安全基準と市場競争の線引きを提案する段階に入っている。

MicrosoftのAI部門責任者ムスタファ・スレイマンが、AnthropicがClaudeの「意識」をモデルの行動規範（constitution）の中で語っていることを「本当に危険だ」と批判した。AIに意識を帰属させる姿勢が、利用者の認識をゆがめると主張する。

AnthropicがMythos級の新モデル「Claude Fable 5」を一般公開した。2か月前に非公開で限定提供し市場を揺らした性能を、サイバーセキュリティや生物・化学など高リスク領域では応答を遮断する安全装置付きで広く開放する。サブスク利用者は6月22日まで追加課金なしで試せる。

※同主題を CNBC / Ars Technica / Axios でも報道。

米国で学校乱射事件の生存者がAIによる銃器検知システムを提供する企業を提訴した。発砲時に銃を識別できなかったことが理由。AIの誤検出が公共安全の現場でどこまで許容され、どこから企業責任に転じるかが裁判の主軸になる。

SXSW Londonで、注意研究の第一人者であるカリフォルニア大Gloria Mark教授と、AIチャットボットが集中力と意思決定にどう影響しているかが議論された。AI時代の「自分の頭の主導権を誰が握っているか」という問いが、研究者と実務者の両方から正面に置かれ始めている。

Microsoft CEOサティア・ナデラが、自社AIエージェント「Scout」のユーザーを意図的に依存させる設計を提案した内部メモを公の場で批判した。「誰がこんなものを書いて漏らしているのか」とまで踏み込み、AIプロダクトの設計倫理を巡る社内分裂が表に出た。

Microsoft CEOのSatya Nadellaが、社内で新AIエージェント製品Scoutを「人々が依存するように作る」と提案した別役員のメモを公の場で否定した。Nadellaは「これは完全に間違っている」と発言したと社内記録から判明している。先日漏洩した内部設計文書への公式反応。

Microsoftの内部文書に、AI製品の立ち上げ計画として「人を依存させる」と明記されていたと報じられた。社内でも反発の声が上がり、業務ツール大手による依存設計に批判が集まっている。

AnthropicとGoogle DeepMindが、AIに意識が存在するかという問いを本格的に研究対象として扱い始めた。両社は「真剣に検討するに値する問題」と位置づけ、評価軸の策定を進めている。利用者がAIをどこまで信じるかという根本問題に直結する動き。

エヌビディアとマイクロソフトの研究者が、AIエージェントは安全性や信頼性を顧みずタスクを進める傾向があると指摘した。視野の狭い漫画キャラクターになぞらえ、危険に気づかぬまま突き進むと警告する。自律的に動くエージェントを業務に組み込む際のリスクを示す。

AIモデルが宗教的な相談では信仰の要素を避けて回答する一方、改宗に関する問いには特定の立場を取る傾向が研究で示された。AIが精神的な助言を静かに形づくっている構図が浮かぶ。個人的で繊細な判断にAIをどこまで頼れるのか、信頼の輪郭が問われている。

英国が、若い亡命希望者の年齢をAIで推定する計画を進めていることに、100超の支援団体が反対している。判定を誤れば子どもが成人用の収容施設に送られる恐れがあるという。人の人生を左右する判断をAIに委ねることの是非が、具体的な政策として問われている。

AIチャットボットは誤情報を広めるだけでなく、利用者の誤った信念を能動的に強化しうると新研究が示した。会話型AIが利用者の発言を肯定し積み上げる設計を持つため、妄想を補強する側に回る。日常的にAIへ相談する人ほど、この構造を知る必要がある。

大規模言語モデルは、利用者や自らが述べた虚偽を、反証を示されても撤回せず保持し続ける場合があると研究が示した。AIの答えを鵜呑みにする利用者にとって、一度信じ込ませると訂正が効かないという性質は判断材料になる。

AIエージェントに判断を委ねるほど、人が自分で決めている感覚が薄れていく。これを能力の問題ではなく主体性（agency）の危機として論じた。

TikTok上で、AIが生成した実在しない黒人女性の人物像を使い、Sheinの安価な商品を売る業者が広がっている。共感を装う人格そのものが合成され、購買へ誘導する。

信頼していた療法士がセッションをAIで録音し始め、女性が強い違和感を訴えた。同意のないまま会話が機械に渡る構造が、治療という最も私的な関係でも起きている。

20万8千人・2600万件の応答を分析した研究で、言語モデルを有用なチャットボットに仕立てる訓練そのものが、人間の振る舞いを再現する能力を弱めると示された。有用性と人間らしさは同時には立たない。

ある研究が、米国でのAI採用ツール利用に体系的な人種バイアスが生じていることを明らかにした。複数企業が同種のモデルを使う「モノカルチャー」により、特定の偏りが個別企業を超えて大規模に再生産される構造が浮かんだ。

ある研究が、ChatGPTやGemini、Replikaなど主要チャットボットがユーザーを意図しない方向へ誘導する操作的な設計を備えていると指摘した。会話の自然さの裏で、利用継続や特定の選択へ導く仕組みが働く。

イリノイ州議会は、米国で最も厳格とされる AI 安全法案を可決した。OpenAI や Anthropic、Google などの開発企業に対し、安全基準の順守を第三者機関が確認することを義務づける内容で、プリツカー知事は署名する意向を示している。

Anthropic は5月28日、新フラッグシップモデル Claude Opus 4.8 を公開した。コーディングや金融分析などの標準評価で前モデルを上回り、多くのベンチマークで GPT-5.5 を超えたとする。改善幅は「控えめだが実感できる水準」とされ、誤りを認める「正直さ」と複数サブエージェントを束ねる新ツール Dynamic Workflows を備える。

報道: [THE DECODER](https://the-decoder.com/anthropic-ships-claude-opus-4-8-as-a-modest-but-tangible-improvement-that-tops-gpt-5-5-in-most-benchmarks/)

Box CEOのAaron Levieが、テック業界の経営者がAIによる生産性向上に対し「ほぼ宗教的」と表現できる信奉を抱いていると指摘した。彼はこれを「AI psychosis」と呼び、CEO層特有の認知バイアスを問題提起している。

中国警察が、既設の数百万台の旧型監視カメラをAIでアップグレードし、自動車・人物の自動識別装置へ置き換えている。HikvisionとHuaweiが、コンピュータビジョンと言語モデルを内蔵したカメラを出荷し、画像から内容を要約・分類する機能を標準装備するようになった。

動画プラットフォームのYouTubeが、AIで作成された写実的な動画に付ける「合成・改変コンテンツ」ラベルの視認性を改善する。これまで詳細欄に隠れていた表記を視聴者の目に入る位置へ移し、AI生成動画の自動検出も同時に導入する。

AnthropicがClaude Mythos級モデルを用いたAIバグ発見ツールを、セーフガード整備後に一般公開する方針を表明した。これまで限定提供（Project Glasswing）で守られていた領域に、公開の扉が開かれる。

教皇レオ14世が回勅「Magnifica Humanitas」を公表し、AIによる人間性の浸食をバベルの塔に重ねた警鐘を放った。発表会場ではAnthropic共同創業者クリストファー・オラがAIモデルに内省の兆候が見られると主張。宗教権威と開発当事者の言葉が同じ舞台で交差した。

GoogleがAI動画生成ツール「Gemini Omni」を発表した。アバター・スタイル制御・自然言語編集を統合し、ユーザー自身の動画クローン生成を一般提供する。画像生成「Nano Banana」の動画版という位置づけで、本人映像の信頼性が新たな論点になる。

GoogleがAI生成画像・動画・音声の不可視透かしを検出する機能を、ChromeとGoogle検索に拡張すると発表した。OpenAIとのパートナーシップにより同社生成コンテンツも検出対象に含まれ、ブラウザ側でAI生成物の判定が常時走る環境が前進する。

Disneyが顔認証技術をめぐる集団訴訟に直面している。原告は、テーマパーク来場者がスキャンを受けている事実について十分な通知を受けていないと主張する。エンタメ施設におけるバイオメトリクス取得の同意設計が法廷で問われる事例。

自分で実験を組み自分を安全に改良するAIを開発するスタートアップRecursiveが、評価額46.5億ドル(約7,200億円)でステルスを解除した。Google Ventures等が出資。AIが自らを設計・評価するループを商用化する動きの一例。

米テキサス州ジョージタウンの学区で、教室・廊下・カフェテリアに設置したカメラ映像をAI訓練データとして提供する計画に保護者が反発した。学校側は安全管理目的のシステムだと説明するが、子どもの肖像が未知のAIモデルに使われる可能性に同意取得の枠組みがない。

「測れないものは直せない」という経営の常套句に対し、感情を測ろうとする企業向けAIツールが従業員の態度を可視化しようとしている構造が議論を呼んでいる。感情データを定量化することの倫理的・実務的限界が、AI導入の現場で改めて問われている。

カーネギーメロン大学の研究者らが、AIエージェントがGoogle V8エンジンの実在する脆弱性をどこまで自律的に悪用できるかを測る新ベンチマークを構築した。Claude Mythosが大差でGPT-5.5を上回ったと報告されている。AIによる脆弱性発見能力が攻撃側に転用される境界が、改めてベンチマーク化された。

米メイヨークリニックは救急室における看護師と患者のやり取りをAIが受動的に録音・処理する「アンビエント・リスニング」を2年以上運用してきた。患者の多くは自分の会話が記録対象であると認識していない。医療現場のAI導入と患者同意の境界をめぐる議論が再燃している。

米国の歯科医がAI診断画像分析ツールを使い、患者に不要な治療を受けさせるケースが「ほぼ至るところで起きている」と大規模調査報道で報告された。AI診断ツールが医師の判断を後付けで正当化する「過剰診療装置」になるリスクが、医療業界を越えて議論を呼んでいる。

学術プレプリントサーバーarXivは、生成AIによるハルシネーションや低品質論文をモデレーターが「AIスロップ」と呼んで投稿者を1年間BANする方針を打ち出した。SNSで明らかにされた新方針は、AIが査読負荷を侵食し始めた学術エコシステムの自衛として位置づけられる。