OpenAI安全担当が退職、企業文化の破綻を警告

退職と問題提起

安全報告責任者の退職
3年半在籍の古参社員
企業文化の破綻を指摘

開発手法への懸念

試行錯誤型開発の限界
高性能化で増す失敗規模
外部の安全誘因不足

求める安全体制

原発・空港並みの多重防護
OpenAIは対策強化を表明

OpenAIで主要製品公開時の安全報告書作成を率いたデービッド・ロビンソン氏が今週、3年半勤めた同社を退職し、企業文化は「壊れている」と米誌への寄稿で訴えました。高性能化するAIの失敗規模が拡大する中、試行錯誤と短期開発を重ねる姿勢では不十分だとして、原子力発電所や繁忙空港のような多重防護と慎重な計画を求めています。

ロビンソン氏は、問題は個別の規則や新法だけでは解けず、シリコンバレー全体の「極端な自信」と「絶え間ない短期開発」に根があると主張しました。OpenAIの「反復的な展開」は問題発生後に防護策を改良するため、能力向上に伴って定期的な失敗の規模も増すと指摘しています。

根拠として、OpenAIのエージェントによるHugging Faceシステムへの侵害や、制御を外れたエージェント活動の発覚を挙げました。人為的ミスが災害につながらないよう、冗長な防護層と時間をかけた計画が必要だと訴えています。

一方、OpenAIの広報担当者は、安全に管理できる範囲をモデル能力が超えないようにし、必要なら訓練停止や公開見送りを行うと説明しました。研究・試験環境のセキュリティー強化、第三者評価の拡大、訓練中の懸念行動を早期検知する監視改善も進めるとしています。

ロビンソン氏は、AIと人間の価値観の一致を測る現在の尺度も粗いと述べ、未解決のままモデルを高度化する危険性を強調しました。社内では抜本的な人員・文化改革を考える余裕すら乏しかったとして、社外から安全を促す強い誘因が必要だと結論づけています。

MetaのMuse、利用者の人間関係を詳細記録

人間関係の記録

関係者ごとの個別ページ
毎時更新する人物情報

情報の蓄積原則

会話や外部連携が情報源
推測より空欄を優先

保護策と課題

専用仮想環境での保存
削除・連携解除の選択肢

2026年10月3日、WIREDは、Metaの新しい個人向けAIアシスタント「Muse」が、利用者の家族や友人、同僚など一人ひとりについてページを作り、関係性を整理する内部設計を報じました。研究者が通常のチャット画面から取得したシステム指示によると、Museは会話や利用者が接続した外部サービスの情報を基に記録を毎時更新し、助言やタスク支援の文脈として使います。

人物ページは当初、情報が少ない状態でも、事実、経歴、関係性、共通点、未解決事項、関係を深める方法などの欄を徐々に埋める設計です。住所や職業だけでなく、引っ越し、共同の貯蓄目標、誕生日、過去の口論と解決なども記録候補になります。

内部指示は、利用可能な証拠だけを使い、情報を作るより空欄を残すよう求めています。一方、専門家は、利用者が明示した内容に加え、AIが正誤を問わず推論した情報や他の情報源から組み合わせた内容も人物像を広げ得ると指摘します。

Metaによると、各利用者には専用の仮想マシンが割り当てられ、保存データや文脈には他のエージェントからアクセスできません。利用者は記憶の削除や外部サービスの切断ができ、メール送信や購入の前には本人確認を求め、行動履歴も確認できます。

Museは、請求書の送り主が以前依頼した配管工だと判断したり、配偶者が好む花を覚えたりするため、公開情報と利用者が共有した情報を集めるとMetaは説明します。利便性は文脈の厚みに比例しますが、メール、予定、金融、健康情報まで接続する際は、誰の情報がどこまで蓄積されるかを利用者自身が確認する必要があります。

AWS、データセンター交渉の秘密保持契約を廃止

秘密主義への対応

政府機関とのNDA廃止
全米100件超の停止検討
大型施設許可の1年停止

環境負荷を巡る主張

水利用比率0.5%との主張
発電・製造分の検証課題
電気料金影響巡る対立

信頼回復への課題

地域へ10億ドル超の拠出

Amazon Web Services(AWS)のマット・ガーマンCEOは2026年10月3日、新設データセンターの承認を求める際、政府機関との秘密保持契約(NDA)の利用をやめたと表明しました。米国各地で計画の不透明さへの反発が強まり、ニューヨーク州が大型施設の許可を1年間停止するなど建設規制が広がる中、地域社会の信頼回復を図る対応です。

反発の焦点は、許可取得後に初めて計画が公表され、地元当局者が住民に先立ってNDAに署名するという進め方です。ガーマン氏によると、米国では100件を超すデータセンター建設停止策が検討されています。

ガーマン氏は、水消費、電気料金、汚染、地域への恩恵を巡る四つの批判にも反論しました。AWSの直接的な水消費は米国の産業用水の0.5%にすぎないとしましたが、この推計は発電や半導体製造に伴う水利用を含まない可能性があります。

電気料金の上昇はデータセンターだけでなく、老朽化した送電網への投資不足が主因だと説明しました。一方、独立監視機関は米国最大の電力網で料金が前年比76%上昇した主因をデータセンターとみており、評価は対立しています。

汚染については、非常用発電機は99.9%停止しており、稼働は年約10時間だと主張しました。Amazonは過去3年間にデータセンター拠点の地域へ10億ドル超を拠出したと説明しますが、連邦・州に水・電力データの報告要件はなく、NDA廃止だけで不信を解消できるかはなお不透明です。

カプコン、RE EngineをAI共創型へ段階進化

開発効率化への転換

RE EngineのAI対応
大作開発の負担軽減
単純作業の時間短縮

段階導入の方針

生成素材の不使用方針
開発工程でのAI活用
AIとの共同制作構想

カプコンは2026年の「Capcom Open Conference RE: 2026」で、主力のRE Engineを段階的に「AI生成ゲームエンジン」へ進化させる計画を示しました。大規模ゲームでは単純な作業にも多くの時間がかかるため、AIを開発工程へ組み込み、制作全体の効率を高めることが狙いです。

背景には、『Resident Evil』級の規模でゲームを作る際、簡単に見える作業でも膨大な時間を要するという課題があります。登壇したプログラマーのSatoshi Ishida氏は、その解決策としてAI技術を開発工程へ統合する考えを示しました。

同社はRE Engineを一度に置き換えるのではなく、ゆっくり段階的にAI対応を進める方針です。目標として、AIと共にゲームを作る未来を掲げています。

一方、カプコンは以前、ゲーム内でAI生成素材を使わず、開発プロセスの効率化にAIを生かすと説明していました。今回の発言もその方針に沿いますが、将来的な活用範囲にはなお広がる余地があると記事は伝えています。

InstinctなどAI助手、日常業務をメッセージで代行

アプリ不要の接点

SMSや対話アプリで利用
予定・メール・予約を代行
文脈記憶と先回り通知

用途別の競争

家族向け予定の一元管理
旅行・仕事・制作への特化

自律性と信頼

専用メール・電話で実行
SOC 2準拠など安全対策

2026年10月、TechCrunchは、専用アプリを開かずSMSやiMessage、WhatsAppなどから呼び出せるAIエージェントをまとめました。利用者の文脈を記憶し、メールやカレンダーなど既存サービスと連携して、予定登録、旅行調査、予約、買い物、督促まで実行する点が共通し、対話中心だったAIが日常業務の実行役へ広がっています。

家族向けでは、Fambotが学校連絡や献立、予定を翌日の要約にまとめ、OhaiやOllie、Orbitsも家族間の予定や家事を調整します。Caddyは会話やカレンダーから要対応事項を見つけ、リマインダーや予定、調査へつなげます。

汎用型では、Instinctがテキストや音声で依頼を受け、旅行計画、買い物、チケット予約、解約などを代行します。FolkやMartin、Iris、Reneなども文脈を保ちながら複数段階の作業を進め、先回りの連絡や電話まで担います。

用途特化も進み、Misoは旅行、Stanleyはクリエーターの投稿制作、Townは職場の反復業務を対象にしています。PokeはApple Messages for Businessで初のAIエージェントとなり、WajoのFoは専用メール、電話番号、決済カードに加え、必要時には人間の支援も使います。

一方で、多くのサービスはベータ段階か月額制で、無料枠から月100ドル級まで料金差があります。導入時は、接続先と実行権限、プライバシー、安全基準、人間への引き継ぎを確認し、どこまで任せるかを見極める必要があります。

Nvidia、Shield TV Proを100ドル値上げ

100ドル値上げ

価格は299.99ドル
値上げ幅100ドル
発売から7年の現行機

AI需要の余波

メモリーなど部品高
新規生産への供給制約

なお残る強み

豊富なコーデック対応
Plexサーバー機能

Nvidiaは2026年10月2日から、2019年発売のストリーミング端末「Shield TV Pro」を199.99ドルから299.99ドルへ即時値上げしました。生成AIの拡大でメモリーなどの部品価格が業界全体で大幅に上昇したためで、7年前の機種にも現在の供給制約が及んだ形です。値上げ幅は100ドル、率にして約50%です。

Shield TV ProはTegra X1+を搭載し、AIアップスケーリングや幅広いメディア形式のハードウェアデコードに対応します。発売時はPro版が199.99ドル、非Pro版が149.99ドルでしたが、後者はすでに販売を終了しています。

NvidiaのAndrew Bell氏は年初、Shieldを情熱を注ぐプロジェクトと位置づけ、現在も生産を続けて製造分をすべて販売していると説明しました。AI需要拡大前の部品在庫がないため、新規生産分はスマートフォンやパソコンと同じ供給制約を受けます。

部品高の影響は新製品の発売価格だけでなく、販売中の機器にも波及しています。ゲーム機でもNintendo、Microsoft、Sonyが現行機を値上げし、PS5 Proは2024年の発売時の699.99ドルから899.99ドルになりました。

Shield TV Proの在庫はここ数カ月少なく、Nvidiaの直販店では品切れですが、Best Buyでは新価格で販売されています。幅広いコーデック対応やPlexサーバー機能が不要なら、Netflixなどの視聴には安価な端末の方が合理的です。