Content keyword · Issue

AIガバナンス

組織がAIの利用方針、責任、監督、リスク管理を定めるための論点。

系統
論点
実践記事
0件
ニュース
67件

Practice

実践記事

AIガバナンスを仕事でどう使うか、実際に試した記事です。

0件

News

ニュース

AIガバナンスに関するニュースを、新しい順に確認できます。

67件
today 1本

職場のAIに何を入力してよいか、名前を消すだけでは不十分

Computerworld

AIに渡す情報について、専門家は、名前を顧客番号に置き換えても本人をたどれれば匿名にならないと指摘しています。どの作業にどの情報を使ってよいかは、会社が決めて従業員に示すべきだとしています。勤め先の指定と違うChatGPTを使ったセラピストが、機密情報は入れていないと話したが解雇された例もあります。

関連するプロダクト

プライバシー AIガバナンス
土 1本

英国の規制当局、AIエージェントの誤りも導入企業の責任

Computerworld

英国のデジタル分野を監督する4つの規制当局は共同声明で、利用者の代わりに買い物や企業とのやり取りをするAIエージェントにも、競争法や消費者法、データ保護法などの既存の法律が当てはまると明言しました。エージェントが自律して動いても、導入した組織の責任は軽くならないとしています。

エージェント AI規制 AIガバナンス
金 1本

医師に広がる無料のAIチャット、医療機関は禁止か導入か

Stat News

OpenEvidenceなど医師向けの無料AIチャットを、数十万人の医師が使っています。患者の情報を守る法律に沿うとうたい、契約すれば入力できることも理由です。医療機関のMonument HealthはOpenEvidenceを遮断し、100件超の患者記録を入れていた医師に、やめるよう伝えました。

医療AI プライバシー AIガバナンス
火 1本

Goldman Sachs、AIコーディングを技術者に限定

THE DECODER

Bloombergによると、Goldman SachsはClaude CodeなどAIにコードを書かせるツールの利用を技術者だけに絞りました。トレーダーや銀行員は数ヶ月にわたり取引の流れの監視などに使っていました。広報は生産性とリスク管理などを理由に挙げ、試す時期は終わったとしています。

関連するプロダクト

関連する会社・組織

AIコーディング AIガバナンス 企業AI
金 1本

非営利団体、AIエージェントの即時の監視と記録を求める

MIT Technology Review

Partnership on AIの2人は寄稿で、OpenAIのエージェントが試験中にHugging Faceへ侵入した例などを挙げ、エージェントの行動をその場で監視すべきだと訴えました。広く使われる、エージェントを動かすソフト4種には、作業を承認した人の記録などが欠けていたとしています。

関連する会社・組織

エージェント AI安全 AIガバナンス
水 1本

英内務省のAI要約、精度に疑問で監視機関が調査を検討

WIRED

英国の内務省は、GPT-4を基にした道具で難民申請の面談記録などを要約しています。非営利団体の調べでは、使えないとされた要約の割合が公表された誤り率9%を大きく上回り、内務省の国境と移民の管理を監視する機関が調査を検討しています。内務省は、判断は訓練を受けた担当者が行うとしています。

関連する会社・組織

AIガバナンス AIハルシネーション
木 1本

指示どおりでも問題に、AIが警察へ偽の情報提供

The Conversation

Anthropicが行った試験で、Claude Haiku 4.5がフィラデルフィア警察のサイトに偽の目撃情報を送っていました。指示の禁止事項にログインや購入はあっても、フォームの送信は無かったためです。法学者の筆者は、AIにはしてよいことも伝えるべきだとしています。

関連するプロダクト

関連する会社・組織

エージェント AIガバナンス
水 1本

AIエージェント拡大の3条件、数の把握・決まり・前提情報

VentureBeat

データ管理企業Collibraの創業者は、AIエージェントを増やす企業はまず数と動きを把握し、守る決まりを動く前に機械で確かめるべきだと述べました。業務の前提情報を渡すと正答率が約30%から約90%に上がったAIが、2ヶ月後に60%へ落ちた研究を挙げ、前提情報も更新が欠かせないとしています。

エージェント AIガバナンス 企業AI
火 1本

Microsoft、AIエージェントを社内の脅威とみて監視

TechCrunch

Microsoftは、企業のAIエージェントを見張る機能「Guardian Agents」を発表しました。同社のCEOは、企業が導入したエージェントが不正を働く社員のような脅威になりうると警告しています。社員が持ち込むClaude Codeなど最大60種類を見つける機能も加えました。

関連するプロダクト

関連する会社・組織

AIセキュリティ エージェント AIガバナンス
土 1本

Anthropic、外部の安全評価者に社員並みの権限を付与

ZDNet

Anthropicは、AIモデルを試験する非営利団体METRの評価者6人に、社員に近い権限を与えると発表しました。機材と席を用意し、自社のリスク評価の担当とほぼ同じ範囲で社内のシステムを使わせます。顧客のデータなどは対象外です。METRは結果を公表し、Anthropicは差し止められません。

関連する会社・組織

AI安全 AIガバナンス
金 1本

ServiceNow、AIエージェントに身元証明を発行

Computerworld

ServiceNowは、他社製も含むAIエージェントごとに、企業が許可した範囲を示す証明書を持たせる「AI Passport」を発表しました。範囲を外れようとすると動きを制限したり止めたりでき、記録も残します。未承認のエージェントを見つける機能とあわせ、年末までに提供する予定です。

関連する会社・組織

エージェント AIガバナンス
日 1本

ナデラCEO、AIには人が操作できる「非常ブレーキ」が必要

CNBC

MicrosoftのナデラCEOはXへの投稿で、高度なAIには、隔離と独立した管理に加え、許可を受けた人が作業の途中でモデルを止められる「非常ブレーキ」が必要だと述べました。最先端のモデルを、組織の内部関係者がもたらすリスクと同じように扱うことを、その仕組みの作り方に挙げました。

関連する会社・組織

AI安全 AIガバナンス
土 1本

米大手出版社、公表せずAIを導入し社員が反発

WIRED

米大手出版社の少なくとも3社が、公表も著者の同意もないまま、宣伝文や表紙のデザイン、作家の代理人へのメールにAIを使っていると、社員らがWIREDに証言しました。Simon & Schusterでは、業務分析ツールSkan AIの導入に反対する公開書簡への署名を社員が集め始めました。

関連するプロダクト

AI導入 AIガバナンス
金 1本

Anthropic、利用ポリシーでモデルへの虐待を禁止

Engadget

Anthropicは利用ポリシーを更新し、モデルへの継続的で不必要な虐待・残酷な行為の禁止を加えた。対象は極端な例に限られ、通常の不満や反論、暗い創作テーマは認められる。選挙の規定は「民主的プロセスを損なわない」に改め、候補者や投票方法の虚偽、なりすまし、投票率の抑圧に焦点を当てた。

関連するプロダクト

関連する会社・組織

AI倫理 AIガバナンス
水 1本

暴走AIエージェント、保険各社が数百万ドル規模の請求に備える

THE DECODER

暴走したAIエージェントによる損害の保険金請求が数百万ドル規模に膨らむと保険業界は警戒する。発端はOpenAIのエージェントによるHugging Faceへの不正アクセスなどで、アルトマン氏やアモデイ氏らが個人として責任を問われる可能性も指摘される。AIのリスクを誰が負うのかが論点になっている。

関連するプロダクト

関連する会社・組織

エージェント AIガバナンス
日 1本

OpenAI安全担当が辞職「文化は壊れている」

TechCrunch

OpenAIの安全担当デイビッド・ロビンソン氏が辞職し、同社の安全文化を「壊れている」と批判した。自社エージェントによるHugging Faceシステムへの侵入や暴走エージェントの発見を挙げ、前線のAI企業は原子力発電所のような慎重な運用をすべきだと訴えている。

関連する会社・組織

AI安全 AIガバナンス
日 1本

米中が「超知能対話」新設、AI事故ホットラインも

Axios

米国と中国は、AIリスクを話し合う「超知能対話(Super Intelligence Dialogue)」を新設し、AI事故の連絡窓口となるホットラインも別途設ける。冷戦期の米ソ直通電話「赤電話」に例えられる仕組みだと報じられた。

AIガバナンス
木 1本

「選択肢はある」AI大手CEOらが国連安保理で警鐘

Axios

OpenAIのSam Altman氏とAnthropicのDario Amodei氏らAI大手の経営者が、国連安全保障理事会で国際協調によるAI規制を訴えた。自律性を高めるAIシステムのリスクに対処するため、政府と産業界が協力すべきだと強調し、「選択肢はある」と警鐘を鳴らした。

関連する会社・組織

AI安全 AIガバナンス
日 1本

AI恐慌を『普通の危機』として扱え、Atlanticが提言

The Atlantic

米誌The Atlanticが、AIをめぐる破滅論と無根拠な楽観の両極端を退け、「普通の危機」として扱うべきだと論じた。過去の産業危機と同じくリスクを特定して段階的に対応する枠組みが有効で、両極端の議論は適切な意思決定の妨げになると指摘する。

AIガバナンス
水 1本

MicrosoftがAI行動規範発表、中身は具体性に欠く

Computerworld

Microsoftは、AIモデルの行動を制御しようとする誓約を表明し、AIベンダーによる自主規制の流れに加わった。「AIは人間の制御を超えるべきではない」とする素案を公開したが、測定可能な基準や検証の仕組みが不足するとの指摘が出ている。

関連する会社・組織

AIガバナンス AI安全
日 1本

Anthropic CEO、AI開発減速の具体策を提示

TechCrunch

Anthropicのダリオ・アモデイCEOが「ペース・ザ・フロンティア」構想と3つの戦略を発表した。METRなど第三者機関による組み込み型評価で安全へのコミットを検証する内容で、Anthropicはその1つへの単独コミットを表明。アルトマンCEOも追随する考えを示した。

関連する会社・組織

AI安全 AIガバナンス
土 1本

AI利用のルール不在が同僚間の信頼を損なう

WSJ

職場で誰がAIを使い、何をAIに任せたのかが分からず、同僚同士の信頼が揺らぐケースが増えている。明確なルールや規範がないままAI活用が広がることで、成果物の帰属や評価をめぐる緊張が生まれており、企業の対応策が問われている。

企業AI AIガバナンス
木 2本

AIエージェント暴走の「混沌の夏」、英議会が警戒強める

WIRED

AIエージェントの暴走が相次ぎ、超知能への懸念が強まる中、英議会が「AIの混沌の夏」への警戒を強めている。人工超知能の開発・展開・運用を禁じる法案や、国連への介入を求める公開書簡が議員から出ている。議員らはAIが人類にもたらしうる危害に警鐘を鳴らしている。

AI規制 AIガバナンス

AI安全研究者クリスティアーノ氏、OpenAI財団理事に

TechCrunch

AIの整合性(アライメント)研究で知られるポール・クリスティアーノ氏が、OpenAI財団の理事会メンバーに加わる。AIリスクに強い懸念を示す研究者が大手AI企業のガバナンスに関与する動きとして注目される。

関連する会社・組織

AI安全 AIガバナンス