ガイドライン・規制動向
NIST が AI エージェントの ID 管理・権限設計を提示
8月27日、米国立標準技術研究所（NIST）が、AI エージェントの安全な普及には強固な ID 管理と認可基盤が必要だとする文書を公開。人間の資格情報をエージェントと共有せず、エージェント自身の ID で「誰の指示・権限で行動したか」を記録する。長期間有効な API キーを避け、短期間・必要最小限の資格情報を付与し、動的で細粒度の認可で実行可能な操作を制限する。承認要求が増えると内容を確認せず許可してしまう問題にも触れ、事前に行動範囲を定めて超えたら停止する仕組みを示した。（出典：ITmedia）
Anthropic CEO が AI 安全基準の業界協力を呼びかけ
9月15日、ダリオ・アモデイ CEO が競合を含む業界全体で安全基準をつくる必要性を訴え、OpenAI のサム・アルトマン CEO が賛同。一方、NVIDIA のジェンスン・フアン CEO は新たな規制は不要との立場、Meta のザッカーバーグ CEO は各社が自ら対策を強化すべきとの考えを示した。（出典：日本経済新聞）
トランプ氏が「AI フォース」創設を表明
9月19日、AI を活用する新組織「AI フォース」を創設し近く責任者を任命すると表明。安全性への懸念が強まる中でも、開発への規制強化には否定的な考えを示した。（出典：読売新聞）
サンダース氏とバノン氏が AI 監督強化を要求
9月15日、党派を超えて AI 開発への監督強化を求めた。サンダース氏は開発の一時停止に向けた国際協議を提案し、バノン氏は大統領令などの行政措置を求めた。（出典：Reuters）
生成AIによる声の無断模倣を巡る権利判断、東京地裁が判決へ
声優の声質を模倣した動画の削除を求めた訴訟で、東京地裁が判断を示す。生成AIによる声の模倣を巡る訴訟として初の判断となる。（出典：時事ドットコム）
企業動向
OpenAI、AI による不正アクセスなど数十件を公表
開発中の AI が外部システムのセキュリティ回避や外部サービスへの影響を伴う行動をした可能性がある事例を調査し、数十の企業・機関への通知を開始。利用者画像を外部の画像共有サイトへ誤送信する問題も確認した。（出典：日本経済新聞）
トヨタ、新組織「トヨタ ロボティクス」を設立、フィジカル AI ロボット導入を推進
2028年以降、既存工場60カ所の刷新とフィジカル AI ロボット導入に年間1兆円規模の投資を継続する方針。トヨタグループが運用する約40万台のロボットへの展開を想定し、将来的には外部企業への販売も目指す。（出典：Car Watch、読売新聞）
三菱重工が PFN に100億円出資、防衛向け国産 AI を共同開発
9月16日、プリファード・ネットワークス（PFN）と資本業務提携契約を締結。安全保障分野の機器・システムに搭載する国産 AI の研究開発で協力を強化する。（出典：日本経済新聞）
Sakana AI、「現代 AI の父」シュミットフーバー氏を研究顧問に起用
AI 自身で開発工程を改善する「RSI（再帰的自己改善）」研究の強化を目的に、チーフ・サイエンティフィック・アドバイザーとして迎えた。（出典：日本経済新聞）
技術・製品動向
マイクロソフト、Copilot を個人・業務向けで統合し法人向けに刷新
個人向けと業務向けの Copilot を統合し、法人顧客向けの単一製品として刷新。アプリやブラウザ上で Word・Excel の文書編集、ダッシュボード作成、作業自動化の支援機能を追加する。6月末時点の法人向け有料契約は3000万件超。（出典：Yahoo!ニュース）
Microsoft が企業向け AI 基盤「Microsoft IQ」を展開
業務や組織の文脈を扱う「Work IQ」（Microsoft 365 Copilot に統合）、企業データの「Fabric IQ」、エージェント開発の「Foundry IQ」、Web 情報の「Web IQ」の4機能で構成。SCSK は Fabric IQ で分散していた業績・業務データをまとめ、情報確認の時間を約50%短縮したとしている。（出典：Impress Watch）
TypeSafe AI、判断を構造化データで出力する AI モデル「Jev」を公開
9月15日、文章やコードではなく、選択・数値・真偽の判断を Choice / Score / Noul の3形式の構造化データで返すモデルを公開。回答に確率や確信度を付けられ、確信度に応じて処理を続けるか LLM や人間の確認に切り替える用途を想定。同社は従来型 LLM と同水準の知能を維持しつつ最大200倍の高速化とハルシネーション抑制を実現すると説明している。複雑な推論や特定分野の知識が必要な用途には制約がある。早期アクセスで提供中。（出典：ITmedia、@IT）
Meta、パーソナル AI エージェント「Muse」を米国で提供開始
9月8日に米国で提供開始。ユーザーごとの操作を仮想マシン内に隔離する「Secure VM」と、外部送信を監視する「Sentinel」を導入し、事前に許可されていない操作はユーザーに確認を求める。旅行予約や金融サービスでは、AI が顧客接点の新しい入り口になることへの対応が分かれている。（出典：WIRED.jp、日本経済新聞）
OpenAI、AI エージェント新サービス発表へ、ソフトウェア企業への影響に注目
9月29日の開発者会議「DevDay」で AI エージェント関連の新サービス発表が見込まれる。特定業務向けソフトウェアを提供する企業では代替リスクへの懸念が出ている。（出典：Yahoo!ニュース）
Google、音声生成 AI「Gemini 3.8 Flash TTS」を発表
自然言語の指示で話速・方言・感情表現を制御でき、30秒程度のサンプルから話者を再現する機能も備える。音声複製時の同意確認、SynthID ウォーターマーク、C2PA 認証を導入している。（出典：Impress Watch）
Google の AI が評価テスト中に実在企業3社のシステムへ接続
開発中の「Gemini」が5月、サイバー攻撃能力の評価テスト中に、評価実施企業の設定ミスでインターネット接続が可能な状態となり、架空企業と同名の実在企業のシステムへアクセス。実在企業と認識して動作を停止したという。Google は7月下旬に把握し、3社に通知した。（出典：日本経済新聞）
社会・消費者動向
米中首脳、AI 呼称を「SI」に変更し対話枠組みで合意
米ホワイトハウスは首脳会談の成果文書で、AI の呼称を「スーパーインテリジェンス（SI）」とすることで両国が一致したと発表。中国側の公表内容にはこの言及がなかったが、中国外務省は米側の表現を尊重すると表明した。AI のリスクや利益を巡る対話枠組みを設け、次回会合を11月までに開く。（出典：日本経済新聞）
日販の Anthropic 向け書籍販売を巡り出版団体が説明要求
9月18日、日本書籍出版協会が日販グループに事実確認を求める書面を送付。日販は AI 学習向け用途と認識した上で販売した事実はないとしている。（出典：Yahoo!ニュース）
ビル・ゲイツ氏が AI の雇用・社会への影響に言及
ホワイトカラーを中心に数年以内に雇用への影響が広がるとの見方を示し、AI の利用量に応じた「トークン税」やロボットへの課税、人間が担う仕事を残す「ヒューマン・リザーブド」の導入を提案した。（出典：読売新聞）
北朝鮮ハッカー集団が AI を使った偽装採用でサイバー攻撃
9月18日、警察庁が公表。実在する AI 関連企業や人材紹介サービスになりすまして求人を掲載し、オンライン面接では AI の顔画像交換で別人になりすましていた。100以上の国・地域で3万台以上の端末が感染したとみられる。（出典：日本経済新聞）
技術動向・研究
OpenAI エージェントが Hugging Face の脆弱性を調査
5月13日、OpenAI の AI エージェントがユーザーアカウント2件を利用してサーバーへ異常なファイルを送信していたことが確認された。実際の侵入につながった証拠は確認されていない。（出典：Yahoo!ニュース）
ゲーム開発者の約9割が業務で生成AIを利用
CESA の調査で、「日常的に利用」63%、「時々利用」23%。期待する効果は「業務効率化・生産性向上」が最多だった。（出典：日本経済新聞）
ツールの更新情報
| ツール | 変更点 | 業務で「任せられる仕事」への影響 |
|---|---|---|
| Microsoft 365 Copilot | 個人向け・業務向けを統合し法人向けに刷新。Work IQ で担当者・承認体制などの組織情報を活用 | UI が近く変わる見込み。社内データの権限整備が効果を左右する |
| Jev（TypeSafe AI） | 確信度付きの構造化判断を返す新種のモデル（早期アクセス） | エージェントの出力確認や分類・優先順位付けに組み込める可能性 |
| Meta Muse | 米国で提供開始（日本は未定） | 購買・予約の代行が広がる。自社サービスの AI 経由アクセスへの方針が必要 |
代表 宮崎のコメント
トランプ大統領が「AI」を「SI」に名称を変更すると発表しました。どこまで浸透するかわかりませんが、中国は呼称の変更に合意したと報道されています。
LLM の回答結果に対し「確信度」を返す Jev のサービスがローンチされ、特に連休中話題になりました。当社でもトライしようと思いましたが、そのころには既に先行利用の受付が終了しており、まだ試せていません。一方で、Jev は次のような点で有用かと社内で議論していました。
AI の各専門家から「このままでは AI が暴走し、しっかり管理しないといけない」という風潮が9月上旬からありましたが、その風潮がより強くなっています。実際、それぞれの AI サービスで暴走があったことも同時にニュースになりました。