AI監視

ユアン・ブレア氏が共同創業した技術訓練企業Multiverseの講師たちが、AIによる授業監視・評価システムに「容赦ない」「不気味」と内部告発した。オンライン授業の文字起こしをAIが採点し、接続トラブルの対処の遅れや「えーと」などの口癖まで警告する仕組みで、不眠や治療が必要になったスタッフもいるという。

新たな報告書で、Anthropicが抗議活動家の監視や反対意見の把握に乗り出している可能性が指摘された。反AI運動への先回りした対応を意味する「事前犯罪」監視だとの懸念が広がり、AI企業による市民監視の是非が論点となっている。

顔認識企業のClearview AIが、特定人物の交友関係やSNSアカウントなどオンライン上の痕跡を瞬時に集める警察向け試作ツール「InquiryIQ」をテストしている。Grokを手がけるSpaceXAI（旧xAI）のモデルを利用した、これまで報じられていなかった試作品だと米WIREDが伝えた。

WSJによると、大規模言語モデルが公開情報を断片的につなぎ合わせ、偽名のソーシャルメディアアカウントの本人を驚くほどの精度で特定できることが分かった。匿名で発言している人にとっては、プライバシー上の新たな脅威となる。

AIを使った新しい顔認識技術が、誤検出と検出漏れの両方を減らし個人を特定する精度を高めている。監視カメラや本人確認での利用が広がる一方、同意なく顔をスキャンされる懸念も強まる。自分の顔データがどこで使われるかを考える材料になる。

中国警察が、既設の数百万台の旧型監視カメラをAIでアップグレードし、自動車・人物の自動識別装置へ置き換えている。HikvisionとHuaweiが、コンピュータビジョンと言語モデルを内蔵したカメラを出荷し、画像から内容を要約・分類する機能を標準装備するようになった。

米国の数万台のスクールバスにAIカメラを搭載するBusPatrolが、捜査機関に車両ナンバープレートのスキャンデータへのアクセスを開放する計画を進めている。通学路インフラが事実上の常時監視網へ転用される構図となる。