ローカルLLM

The Vergeの筆者は、個人のデータをクラウドに預けたくないため、手元のMac StudioでAIに作業を任せるアプリHermes Agentを使い始めました。メールと予定から毎朝の要約を作らせ、クラウドに上げたくない財務記録の分析にも使う一方、要約は何度も動かなくなったと記しています。

Perplexityが、ユーザー所有のハードウェア上で動作するAIエージェント「Portable Computer」を発表した。モデルもファイルも端末内にとどまり、応答が速くコストを抑えられる。Nvidia DGX OSやUbuntuで動作し、AIを外部サービスに預けたくない企業にも選択肢となる。

米国の開発者が、十分な品質と低コストを理由にDeepSeekなど中国発AIを選ぶ動きが広がる。大手米国モデルだけが標準ではなくなり、価格と実用性で選ぶ段階に入っている。

Google は Synaptics と組み、生成AIモデル Gemma 3 をクラウドに接続せずローカルで動かせる小型開発ボード「Coralboard」を投入した。Synaptics Astra SL2619 を搭載し、Gemma 3 270M をオンデバイスで推論できる。通信やプライバシーの制約がある現場でも AI を組み込める選択肢を広げる。

報道: [THE DECODER](https://the-decoder.com/google-launches-a-tiny-board-that-runs-gemma-3-locally/)

Google Chromeが端末に最大4GBのオンデバイスAIモデルを自動ダウンロードしていることが指摘された。Gemini Nano系で、ユーザーへの明示的告知がないままディスクと帯域を消費する。ローカルLLM配備の競争が、同意設計より先に進んでいる構造を可視化した一件。

Stability AIが新しい音声生成モデル群「Stable Audio 3.0」を公開した。最上位モデルは最大6分の楽曲生成、小型版「Small」はオンデバイス動作で最大2分のトラック生成に対応する。音楽生成AIがクラウドからローカル実行へ降りる転換点となる。