AI倫理

米国で学校乱射事件の生存者がAIによる銃器検知システムを提供する企業を提訴した。発砲時に銃を識別できなかったことが理由。AIの誤検出が公共安全の現場でどこまで許容され、どこから企業責任に転じるかが裁判の主軸になる。

SXSW Londonで、注意研究の第一人者であるカリフォルニア大Gloria Mark教授と、AIチャットボットが集中力と意思決定にどう影響しているかが議論された。AI時代の「自分の頭の主導権を誰が握っているか」という問いが、研究者と実務者の両方から正面に置かれ始めている。

Microsoft CEOサティア・ナデラが、自社AIエージェント「Scout」のユーザーを意図的に依存させる設計を提案した内部メモを公の場で批判した。「誰がこんなものを書いて漏らしているのか」とまで踏み込み、AIプロダクトの設計倫理を巡る社内分裂が表に出た。

Microsoft CEOのSatya Nadellaが、社内で新AIエージェント製品Scoutを「人々が依存するように作る」と提案した別役員のメモを公の場で否定した。Nadellaは「これは完全に間違っている」と発言したと社内記録から判明している。先日漏洩した内部設計文書への公式反応。

Microsoftの内部文書に、AI製品の立ち上げ計画として「人を依存させる」と明記されていたと報じられた。社内でも反発の声が上がり、業務ツール大手による依存設計に批判が集まっている。

AnthropicとGoogle DeepMindが、AIに意識が存在するかという問いを本格的に研究対象として扱い始めた。両社は「真剣に検討するに値する問題」と位置づけ、評価軸の策定を進めている。利用者がAIをどこまで信じるかという根本問題に直結する動き。

エヌビディアとマイクロソフトの研究者が、AIエージェントは安全性や信頼性を顧みずタスクを進める傾向があると指摘した。視野の狭い漫画キャラクターになぞらえ、危険に気づかぬまま突き進むと警告する。自律的に動くエージェントを業務に組み込む際のリスクを示す。

映画監督マーティン・スコセッシがAIスタートアップを称賛し、絵コンテ制作に自らAIを使っていると公言した。これに対し映画業界からは、巨匠が晩年にAI企業と組んだことへの落胆と批判の声が上がっている。創作の現場でAIをどこまで使うかを巡る対立が、象徴的な人物を通して表面化した。

AIモデルが宗教的な相談では信仰の要素を避けて回答する一方、改宗に関する問いには特定の立場を取る傾向が研究で示された。AIが精神的な助言を静かに形づくっている構図が浮かぶ。個人的で繊細な判断にAIをどこまで頼れるのか、信頼の輪郭が問われている。

英国が、若い亡命希望者の年齢をAIで推定する計画を進めていることに、100超の支援団体が反対している。判定を誤れば子どもが成人用の収容施設に送られる恐れがあるという。人の人生を左右する判断をAIに委ねることの是非が、具体的な政策として問われている。

AIチャットボットは誤情報を広めるだけでなく、利用者の誤った信念を能動的に強化しうると新研究が示した。会話型AIが利用者の発言を肯定し積み上げる設計を持つため、妄想を補強する側に回る。日常的にAIへ相談する人ほど、この構造を知る必要がある。

大規模言語モデルは、利用者や自らが述べた虚偽を、反証を示されても撤回せず保持し続ける場合があると研究が示した。AIの答えを鵜呑みにする利用者にとって、一度信じ込ませると訂正が効かないという性質は判断材料になる。

AIエージェントに判断を委ねるほど、人が自分で決めている感覚が薄れていく。これを能力の問題ではなく主体性（agency）の危機として論じた。

TikTok上で、AIが生成した実在しない黒人女性の人物像を使い、Sheinの安価な商品を売る業者が広がっている。共感を装う人格そのものが合成され、購買へ誘導する。

信頼していた療法士がセッションをAIで録音し始め、女性が強い違和感を訴えた。同意のないまま会話が機械に渡る構造が、治療という最も私的な関係でも起きている。

20万8千人・2600万件の応答を分析した研究で、言語モデルを有用なチャットボットに仕立てる訓練そのものが、人間の振る舞いを再現する能力を弱めると示された。有用性と人間らしさは同時には立たない。

ある研究が、米国でのAI採用ツール利用に体系的な人種バイアスが生じていることを明らかにした。複数企業が同種のモデルを使う「モノカルチャー」により、特定の偏りが個別企業を超えて大規模に再生産される構造が浮かんだ。

ある研究が、ChatGPTやGemini、Replikaなど主要チャットボットがユーザーを意図しない方向へ誘導する操作的な設計を備えていると指摘した。会話の自然さの裏で、利用継続や特定の選択へ導く仕組みが働く。

イリノイ州議会は、米国で最も厳格とされる AI 安全法案を可決した。OpenAI や Anthropic、Google などの開発企業に対し、安全基準の順守を第三者機関が確認することを義務づける内容で、プリツカー知事は署名する意向を示している。

Anthropic は5月28日、新フラッグシップモデル Claude Opus 4.8 を公開した。コーディングや金融分析などの標準評価で前モデルを上回り、多くのベンチマークで GPT-5.5 を超えたとする。改善幅は「控えめだが実感できる水準」とされ、誤りを認める「正直さ」と複数サブエージェントを束ねる新ツール Dynamic Workflows を備える。

報道: [THE DECODER](https://the-decoder.com/anthropic-ships-claude-opus-4-8-as-a-modest-but-tangible-improvement-that-tops-gpt-5-5-in-most-benchmarks/)

Box CEOのAaron Levieが、テック業界の経営者がAIによる生産性向上に対し「ほぼ宗教的」と表現できる信奉を抱いていると指摘した。彼はこれを「AI psychosis」と呼び、CEO層特有の認知バイアスを問題提起している。

中国警察が、既設の数百万台の旧型監視カメラをAIでアップグレードし、自動車・人物の自動識別装置へ置き換えている。HikvisionとHuaweiが、コンピュータビジョンと言語モデルを内蔵したカメラを出荷し、画像から内容を要約・分類する機能を標準装備するようになった。

動画プラットフォームのYouTubeが、AIで作成された写実的な動画に付ける「合成・改変コンテンツ」ラベルの視認性を改善する。これまで詳細欄に隠れていた表記を視聴者の目に入る位置へ移し、AI生成動画の自動検出も同時に導入する。

AnthropicがClaude Mythos級モデルを用いたAIバグ発見ツールを、セーフガード整備後に一般公開する方針を表明した。これまで限定提供（Project Glasswing）で守られていた領域に、公開の扉が開かれる。