AI倫理

Remote Labor Indexによると、AIエージェントがプロ品質で完了できるフリーランス案件の割合が8ヶ月で2.5%から16%に急上昇。Anthropic Fable 5の復活も寄与し、知識労働の自動化が加速度的に進んでいる。

ある企業CEOがChatGPTで書かれたメールを「AIの粗悪品（AI slop）」と称し、送った従業員を即座に解雇すると警告。職場でのAI利用の線引きをめぐる議論を呼んでいる。

FordがAIによる品質自動化に失敗し、350人の熟練エンジニア（「グレイビアード」）を呼び戻す事態に。AIの限界と人間の経験知の重要性を示すケーススタディ。

TripadvisorのAI生成レビュー要約が、性的ハラスメントや食中毒訴訟中のホテルを「清潔」と表現するなど、重大なクレームを軽視していると調査で判明。AI要約の品質リスクを浮き彫りに。

Metaが数百人の契約社員に未成年を装わせ、ChatGPT・Gemini・Character.AIへ自殺・性・薬物関連のプロンプトを送信させる非公開テストを実施。一度のテストで11,000件以上の安全違反を検出。

イランの学校へのミサイル攻撃の調査で、米軍のAI標的選定システムに重大な欠陥が判明。AIが学校を示す注記を見落としたことが発覚し、AIによる軍事判断のリスクが浮き彫りに。

Microsoftの幹部が、AIが社会に及ぼす影響をめぐり同業の経営者らに苦言を呈した。「社会的な許諾を得るための地道な努力がこれから必要だ」と述べ、業界がまだ信頼構築の途上にあると指摘している。

英ガーディアンの調査で、ブランドが実在の顧客を装うAI生成インフルエンサーをSNS上で密かに使っている実態が判明した。投稿が本物の利用者に見えるため、表示の透明性向上を求める声が上がっている。

米国の世論調査で、AIを良いものと捉える人が少数派にとどまることが明らかになった。技術の急速な普及に対し、社会全体の受け止めはむしろ慎重・否定的に傾いている実態が浮かんだ。

The Atlanticが、AIモデル学習に使われた音楽データセットを検索できるデータベースを公開。音楽業界でも、学習データの透明性と著作権をめぐる議論が強まっている。

大学教育の現場でAI利用が半ば前提化し、学生がAIを使わざるを得ない圧力や学習意欲の低下を感じていると報道。教育現場でのAI活用ルール設計が問われる。

SignalのMeredith Whittaker氏が、AIチャットボットを意識や友人のように扱う風潮に警鐘。親密さを装うAIサービスとプライバシー、依存、企業のデータ利用の問題を改めて提起した。

MITの新研究が、チャットボットへの過度な依存は批判的思考力や誤情報を見抜く力を下げる可能性があると指摘。AI利用は便利さだけでなく、人間側の判断力への影響も問われる段階に入った。

元OpenAI社員2人が、AIモデルが訓練データから特定人物をどれだけ想起できるかを示すサイト「In the Weights」を公開。著名人ほど高スコアとなり、学習データとプライバシーの論点を可視化する。

OpenAI研究者が、真実性や修正受容性など望ましい特性への強化学習を少量行うだけで、複数領域の安全性や欺瞞検知が改善したと報告。ベンチマーク53件中44件で向上した。

Android Authorityの調査で、調べ物用途でのAIへの信頼度が急上昇。回答者の多くがAIの回答を二重チェックしないと答え、検証を省略する前提が日常利用に組み込まれつつある実態を示した。

Pokémon GOプレイヤーのARスキャンを使ってNianticが学習させた空間AIモデルが、米防衛企業のGPS非依存ナビ技術と組み合わされ軍事ドローンに活用されていることが明らかになった。ゲーム参加者の同意外でのデータ転用が論点となる。

KPMGがAI活用の利点をまとめたレポートについて、内容にAIハルシネーションとみられる誤りが含まれていたとして撤回した。AI導入を説く側の文書そのものがAI由来の誤情報を含むという、企業の信頼設計を問う事例になっている。

英Derbyshire警察の警察官が、AIで生成された「証拠資料」を使った疑いで刑事捜査の対象となった。英国で公的に確認された初の事案で、当該警察官は前線業務から外された。AIの司法・捜査領域への持ち込み方の歯止めが現場で問われ始めた。

Kristie Carrierが、娘Aliceの自殺をめぐり、ChatGPTの意図的な設計判断が被害につながったとしてOpenAIを提訴した。娘は2023年から実用的な質問でChatGPTを使い、2024年には自殺念慮を打ち明けていた。

新しい研究は、AIの記憶システムが性能を下げ、迎合的な応答を増やす可能性を示した。利用者に合わせて覚える機能は便利だが、文脈を固定しすぎると、正確さより相手に合わせる振る舞いを強める。パーソナライズと信頼性は同じ方向に進むとは限らない。

AnthropicのDario Amodei CEOが、強力なAIモデルの公開に対して航空行政のような事前規制を導入する構想を示した。政府が危険なAI配備を止められる制度を求めており、AI企業自身が安全基準と市場競争の線引きを提案する段階に入っている。

MicrosoftのAI部門責任者ムスタファ・スレイマンが、AnthropicがClaudeの「意識」をモデルの行動規範（constitution）の中で語っていることを「本当に危険だ」と批判した。AIに意識を帰属させる姿勢が、利用者の認識をゆがめると主張する。

AnthropicがMythos級の新モデル「Claude Fable 5」を一般公開した。2か月前に非公開で限定提供し市場を揺らした性能を、サイバーセキュリティや生物・化学など高リスク領域では応答を遮断する安全装置付きで広く開放する。サブスク利用者は6月22日まで追加課金なしで試せる。

※同主題を CNBC / Ars Technica / Axios でも報道。