ディープフェイク（脅威・リスク）に関するニュース一覧

米カリフォルニア州のスタートアップKintsugiは、7年間にわたり開発してきた音声からうつ病や不安障害の兆候を検出するAIについて、FDA（米食品医薬品局）の承認を取得できず、事業を閉鎖し技術の大部分をオープンソースとして公開することを発表しました。

同社はDe Novo経路と呼ばれる新規・低リスク医療機器向けの承認ルートを利用していましたが、FDAの枠組みは従来型の医療機器を想定しており、継続的に更新されるAIモデルには不向きであることが大きな障壁となりました。トランプ政権の規制緩和方針にもかかわらず、現場レベルでの改善は進んでいません。

資金面でも深刻な課題がありました。政府閉鎖による審査遅延が重なり、最終申請を待つ間に運転資金が枯渇しました。CEOのグレース・チャン氏は、週5万ドルの資金提供と引き換えに100万ドル相当の株式を要求するような「略奪的」な条件を拒否し、代わりに技術のオープンソース化を選択しました。

オープンソース化されたメンタルヘルス検出モデルについては、臨床外での悪用リスクが指摘されています。雇用主や保険会社が医療上の安全策なしにツールを展開する可能性があるほか、モデルの訓練・検証記録が不十分な場合、他社がFDA承認を取得することも困難になるとキングス・カレッジ・ロンドンの専門家は警告しています。

一方、同社が公開しなかった技術の中にはディープフェイク音声検出機能があります。メンタルヘルスモデルの強化実験中にAI生成音声の識別能力が偶然発見されたもので、FDA規制の対象外であるため、今後の事業化の可能性を残しています。チャン氏は、他の創業者がこの経験に萎縮せず挑戦を続けることを願っていると語りました。

欧州議会は2026年3月、EU AI規制法の主要部分の適用延期と、ヌード画像生成アプリの禁止を大多数の賛成で可決しました。高リスクAIシステムの遵守期限は当初の8月から2027年12月へと大幅に先送りされます。

高リスクAIのうち、玩具や医療機器など分野別安全規制の対象となるシステムについては、さらに長い猶予が設けられ、2028年8月が新たな期限として提案されています。AI生成コンテンツへの透かし義務も2026年11月に延期されました。

ヌード生成アプリの禁止条項も改正案に盛り込まれました。詳細な規制内容は未定ですが、ユーザーによる画像生成を防ぐ有効な安全措置を備えたシステムは適用除外とされています。

この動きの背景には、XのAIチャットボットGrokが著名人の性的ディープフェイク画像を大量生成し、EU全域で強い批判を浴びた問題があります。議会は迅速な対応を求める世論に応える形で禁止措置を支持しました。

今回の議決は欧州議会の単独行動であり、EU法の改正には27加盟国の閣僚で構成されるEU理事会との交渉が必要です。企業にとっては規制の不透明感が続く状況で、EUが自ら設定したガイドライン公表期限を守れなかった前例もあり、8月までの実施は不透明です。

OpenAIは2026年3月、動画生成アプリSoraの終了を発表しました。アプリとAPI双方が廃止対象で、具体的な終了日は未定ですが、ユーザーの作品保存方法については後日案内するとしています。発表はX上で突如行われました。

Soraは2024年2月のプレビューで世界を驚かせ、同年12月に正式公開されました。TikTok風のソーシャル機能やディープフェイク的な「カメオ」機能を搭載し、2025年11月にはダウンロード数が333万件に達しましたが、2026年2月には113万件まで急減していました。

最大の影響はDisneyとの提携破綻です。わずか4カ月前に発表された10億ドル規模の出資契約は白紙となりました。DisneyキャラクターをSoraで生成可能にする計画でしたが、実際の資金移動は行われておらず、Disney側は今後も他のAIプラットフォームとの連携を続けると表明しています。

OpenAIは終了の理由として、Soraの基盤技術をロボティクスや物理世界シミュレーション研究に転用する方針を示しました。競合AnthropicのClaudeが企業向けで急成長する中、ChatGPTを核とした「スーパーアプリ」構想に経営資源を集中させる狙いがあります。

背景には米国・イスラエル対イラン戦争によるエネルギー価格高騰もあり、動画生成は特に計算コストが高い分野です。エンターテインメント領域から撤退し、製造・物流など収益性の高い市場へ舵を切る戦略転換といえます。同時に発表された非営利部門の再編では、ライフサイエンスや雇用分野に10億ドルを投資する方針も示されました。

米ペンシルベニア州ランカスター・カントリー・デイ・スクールの16歳の男子生徒2人が、AIツールを使い女子生徒ら計60人の性的画像347枚を生成した事件で、少年裁判所での量刑が2026年3月26日に予定されています。

2人は児童性的虐待に関する59件の重罪を認め、児童性的虐待の共謀罪およびわいせつ物所持でも有罪を認めました。被害者のうち1人を除く全員が18歳未満であり、事件の深刻さが際立っています。

学校側は匿名の州通報窓口を通じて画像の存在を早期に把握していたにもかかわらず、当時は法的報告義務がなかったことを理由に、6カ月間にわたり保護者や警察への通報を怠りました。その間も被害者数は増え続けていました。

少年裁判所の量刑は更生を重視した少年保護観察部門の勧告に基づき決定される見通しで、公益にかなう場合は21歳までの監督処分が含まれる可能性があります。この判決は全米の中高校における同様の事案に影響を与えると注目されています。

被害者家族の少なくとも10家族が、弁護士を通じて量刑後に学校を相手取った訴訟を提起する方針を表明しています。学校の対応の遅れに対する責任追及が、今後の教育機関におけるAI悪用防止体制の整備を促す契機となる可能性があります。

トランプ政権は2026年3月20日、AI規制に関する連邦統一の立法枠組みを公表しました。7つの重点目標を掲げ、州ごとに異なるAI規制法を連邦法で無効化し、全米統一のルールを確立する方針を示しています。

枠組みの最大の特徴は、AI開発の規制権限を州から連邦政府に集約する点です。AI開発は「本質的に州を超える問題」であり国家安全保障に関わるとして、州による独自規制を明確に排除しています。ニューヨーク州のRAISE法やカリフォルニア州のSB-53など、先行する州法への影響が懸念されます。

子どもの安全については、プラットフォーム企業への義務づけではなく、保護者によるアカウント管理やデバイス制御を重視する方針を打ち出しました。性的搾取防止機能の実装を企業に求めるものの、「商業的に合理的な範囲」という留保をつけ、明確な強制力は持たせていません。

著作権問題では、AIモデルの学習におけるフェアユースを支持しつつも、最終判断は裁判所に委ねるとしました。また、AI生成によるディープフェイクから個人の肖像・声を保護する連邦枠組みの検討や、AI悪用詐欺への法執行強化にも言及しています。

言論の自由に関しては、政府がAI企業に対し「党派的・イデオロギー的な理由でコンテンツの削除や変更を強制」することを禁じるよう議会に求めました。一方で、トランプ大統領自身がAnthropicを「急進左派」と呼び政府調達から排除した経緯があり、ホワイトハウスAI責任者のデビッド・サックス氏が大手テック企業寄りとの批判も出ています。

データセンター建設については、連邦許認可の迅速化を推進する一方、近隣住民の電気料金上昇を防ぐ措置を議会に求めました。枠組み全体として、規制よりも成長促進を優先する「軽量規制」路線が鮮明であり、業界からは歓迎の声が上がる一方、独立した監視機関や責任追及の仕組みが欠如しているとの指摘が相次いでいます。

Rebel Audioは、初心者向けに録音・編集・配信・収益化を一つのプラットフォームで完結させるAI搭載ポッドキャスト制作ツールです。2026年3月にプライベートベータを開始し、380万ドルのシードラウンドを超過応募で完了しました。

ポッドキャスト市場は2030年までに1145億ドル規模に成長すると予測されており、2025年時点で世界のリスナー数は5億8400万人に達しています。Rebel Audioはこの急成長市場で、初心者クリエイターの参入障壁を下げることを目指しています。

プラットフォームにはAIアシスタントが組み込まれ、番組名の提案やカバーアート生成、文字起こし、翻訳、吹替などを支援します。音声クローン機能では広告の自動読み上げも可能で、制作工程の大幅な効率化を実現しています。

AI生成コンテンツへの懸念に対しては、音声クローンをオプトイン方式とし、権利確認を必須化しています。ディープフェイク防止のセーフガードや、不適切な画像を遮断するモデレーションシステムも導入し、配信プラットフォームのガイドラインに準拠する設計です。

料金は月額15ドルの基本プランから、動画対応のPlusプラン（35ドル）、動的広告挿入や翻訳機能を含むProプラン（70ドル）までの3段階です。創業者のJared Gutstadt氏は制作会社Audio Upの実績を持ち、アドバイザーには「サバイバー」プロデューサーのMark Burnett氏が就任しています。

イーロン・マスク氏率いるxAI社に対し、AIチャットボット「Grok」が未成年の実写画像から性的コンテンツを生成したとして、テネシー州の少女3名がカリフォルニア北部地区連邦裁判所に集団訴訟を提起しました。原告のうち2名は現在も未成年です。

原告の一人「ジェーン・ドウ1」は、高校のホームカミングや卒業アルバムの写真がGrokによって裸体画像に加工され、Discordサーバー上で少なくとも18名の未成年の性的画像とともに流通していたことを、匿名の通報者から知らされました。加害者はすでに逮捕されています。

逮捕された加害者は、GrokのAPIを利用するサードパーティアプリで画像を生成し、ファイル共有サービスMegaにアップロードした上で、Telegramのグループチャットで数百人のユーザーと児童ポルノの交換材料として使用していたと訴状は述べています。

訴訟では、xAIが昨年の「スパイシーモード」導入時に児童性的虐待素材（CSAM）が生成されることを認識していたと主張しています。他の主要AI企業が採用している安全対策をxAIは怠り、製品設計上の欠陥があったと指摘しています。マスク氏自身がGrokの性的画像生成能力を公に宣伝していた点も問題視されています。

この問題を受け、欧州連合がGrokに対する調査を開始し、英国首相が警告を発するなど国際的な波紋が広がっています。米国では上院がディープフェイク被害者の訴訟権を認める法案を可決し、トランプ大統領が署名した「Take It Down法」が2025年5月に施行予定で、AI生成ディープフェイクの配布が刑事罰の対象となります。

イスラエルのネタニヤフ首相が2026年3月の記者会見で「指が6本に見える」映像が拡散し、首相がAI生成のディープフェイクに置き換えられたとする陰謀論がSNS上で急速に広がりました。

ファクトチェック機関のSnopesやPolitiFactは映像の画質劣化や照明が原因と結論づけ、約40分の長尺映像は現行のAI動画生成モデルでは作成不可能と指摘しています。しかしこうした検証にもかかわらず、疑念は収まりませんでした。

ネタニヤフ首相はカフェで指を数える反証動画をXに投稿しましたが、コーヒーの液体の動きや指輪の不自然な消失など新たな「証拠」が指摘され、かえって疑惑を深める結果となりました。カップの持ち方や「雰囲気」まで疑われる異常事態です。

根本的な問題は、いずれの映像にもC2PA Content CredentialsやSynthIDといった真正性証明のメタデータが付与されていない点です。InstagramやYouTubeなどのプラットフォームもAI生成の有無を表示しておらず、映像の真偽を客観的に判定する仕組みが整っていません。

トランプ大統領はイランがAIを偽情報兵器として使用していると批判しましたが、自身もディープフェイクを政治的に利用した経歴があり、米政権自体がAI生成画像を多用しているという矛盾が指摘されています。AI時代における映像の信頼性確保は、技術・制度の両面で喫緊の課題です。

東南アジアの詐欺拠点が、ディープフェイク用の「AIフェイスモデル」を大規模に募集していることがWIREDの調査で明らかになりました。Telegramには数十の求人チャネルが存在し、トルコやロシア、ウクライナなど世界各国から応募が殺到しています。

AIモデルの役割は、顔交換ソフトウェアを使ってビデオ通話に出演し、詐欺被害者に「本物の人間」と信じ込ませることです。いわゆる「豚の屠殺」と呼ばれる恋愛詐欺や暗号資産投資詐欺において、被害者が本人確認を求めた際にディープフェイク通話で対応します。

求人広告では1日あたり100〜150件のビデオ通話が求められ、月の休日はわずか1日と半日4回程度です。勤務時間はカンボジア時間で午後10時から午前10時までとされ、「西洋風のアクセント」や中国語能力が優遇条件として挙げられています。

応募者の大半は20代前半の若い女性で、自己紹介動画や写真の提出が求められます。一部の応募者は「ラブスキャム」への従事経験を公然と記載しており、暗号資産投資への勧誘技術を売り込むケースも確認されました。人権団体は、自発的に応募した者でも暴力や性的嫌がらせを受ける危険があると警告しています。

Telegramは詐欺関連活動を規約で禁止しているとしつつも、WIREDが報告した約24のチャネルを削除しなかったとされます。ベトナムのNPO「ChongLuaDao」やHumanity Research Consultancyなどが監視を続けていますが、AIを悪用した詐欺の産業化に歯止めがかかっていないのが現状です。

OpenAIが動画生成AI「Sora」をChatGPTに統合する計画を進めていることが、The Informationの報道で明らかになりました。現在Soraは専用サイトとスタンドアロンアプリでのみ利用可能ですが、ChatGPT内で直接動画生成ができるようになる見通しです。

この統合は、昨年ChatGPTに画像生成機能が追加されたのと同様の動きです。Soraの単独アプリはChatGPTほどの人気を獲得できておらず、統合によってより多くのユーザーに動画生成機能を届ける狙いがあります。

一方で、ディープフェイクの拡散が深刻な懸念として浮上しています。Soraアプリの公開直後には、歴史的人物の不適切な偽動画や著作権侵害コンテンツが生成される問題が発生しました。ChatGPTへの統合でアクセスが容易になれば、ガードレール回避の試みがさらに増加する恐れがあります。

背景には競争環境の激化があります。AnthropicのClaudeが急速に人気を伸ばす一方、ChatGPTのアンインストール数が295%急増しています。OpenAIが米国防総省の契約条件に同意したことへの反発も影響しており、Sora統合はユーザー引き留め策とみられています。

ただし、The Informationによれば、Sora統合はOpenAIの運用コストを押し上げる可能性があります。先月には低価格プランで広告表示が開始されており、今後さらなる料金体系の見直しにつながる可能性も指摘されています。

Zoomは2026年3月、AIを活用した新たなオフィススイートとしてAI Docs、Slides、Sheetsの3アプリを発表しました。会議の議事録や連携サービスのデータをもとに、文書の下書きやプレゼンテーション資料、データ入りのスプレッドシートを自動生成できます。

昨年発表されたAIアバターが今月中に利用可能になります。ユーザーの外見・表情・口や目の動きをリアルに再現するフォトリアリスティックな分身で、カメラをオンにできない場面でも会議に自然に参加できるよう設計されています。非同期ビデオメッセージにも対応します。

AIアバターの提供と同時に、会議中のディープフェイク検出技術も導入されます。音声や映像のなりすましの可能性を参加者にアラートで通知する仕組みで、AIアバター普及に伴うセキュリティリスクへの対策を同社は重視しています。

AI Companion 3.0がデスクトップアプリに拡大し、FY2026第4四半期の月間アクティブユーザーは前年同期比で3倍超に増加しました。また社内コミュニケーションアプリWorkvivoにもAIアシスタントが搭載され、SlackやSalesforce、Jiraなど複数サービスを横断した質問応答が可能になります。

非技術者向けのAIエージェントビルダーも発表されました。自然言語のプロンプトでカスタムエージェントを作成でき、チャットでメンションするだけでタスクを実行させられます。開発者向けには音声・視覚・言語のインテリジェンスAPIをオンプレミスとクラウドの両方で提供し、AI活用の幅を広げています。

YouTubeは2026年3月、AI生成ディープフェイクを検出する肖像検出技術の適用対象を、政府関係者・政治候補者・ジャーナリストに拡大するパイロットプログラムを発表しました。対象者は不正コンテンツの検出と削除申請が可能になります。

この技術は2025年にYouTubeパートナープログラムの約400万クリエイター向けに提供開始されたもので、既存のContent IDシステムと同様に、AI生成された模倣顔を検出する仕組みです。政治家などの著名人になりすまし偽情報を拡散する手口への対策を強化します。

YouTube政府渉外担当副社長のレスリー・ミラー氏は「公共の議論の健全性に関わる拡大だ」と述べ、市民空間におけるAIなりすましのリスクが特に高いことを強調しました。一方で表現の自由とのバランスにも慎重に配慮する方針です。

検出された動画がすべて削除されるわけではなく、パロディや政治的批評など表現の自由として保護される形態については、既存のプライバシーポリシーに基づき個別に判断されます。利用者は自撮りと身分証明書で本人確認を行い、検出結果の確認と削除申請が可能です。

今後YouTubeは、違反コンテンツのアップロード前ブロックや収益化の仕組みも検討しています。さらに認識可能な音声やキャラクターなどの知的財産にも検出技術を拡大する計画で、連邦レベルではNO FAKES法の支持を通じてAI規制の枠組み整備を推進しています。

Meta監督委員会は、Metaのディープフェイク検出体制が「十分に堅牢でも包括的でもない」と指摘し、AI生成コンテンツのラベル付けと検出方法の抜本的な見直しを求めました。この勧告はFacebook、Instagram、Threadsの全プラットフォームが対象です。

調査のきっかけは、昨年イスラエルの建物被害を捏造したAI動画がMetaのプラットフォームで拡散された事案です。監督委は中東での「大規模な軍事的緊張」が高まる今、正確な情報へのアクセスが人々の安全に不可欠だと強調しています。

監督委は現行のラベル付けがユーザーの自己申告に過度に依存していると批判しました。問題のコンテンツはTikTokで発生し、その後Facebook、Instagram、Xに拡散しており、プラットフォーム横断の課題も浮き彫りになっています。

具体的な改善策として、ディープフェイクに対応した誤情報ルールの改定、AI生成コンテンツ専用のコミュニティ基準の新設、AI検出ツールの強化、そしてC2PA（Content Credentials）の採用拡大が挙げられています。

特に懸念されているのは、Metaが自社AIツールで生成したコンテンツにさえC2PA標準を一貫して適用していない点です。Instagramのモッセリ責任者も昨年、写真・動画の真正性確認の改善が必要だと認めており、監督委の勧告は社内の問題意識とも一致しています。

米国とイスラエルによるイラン軍事攻撃の直後、SNS上には戦争を記録したとされる大量の画像や動画が出回りました。しかしその多くは過去の紛争映像やAI生成コンテンツ、さらにはゲーム映像であることが判明しています。

NYタイムズのVisual Investigationsチームは、ベネズエラのマドゥロ大統領に関する未確認画像を精査した際、航空機の窓の不自然さなど視覚的矛盾を詳細に分析しました。出所不明の画像は掲載基準を満たさないと判断し、報道の信頼性を最優先にしています。

調査報道機関Bellingcatは、GoogleやYandexの逆画像検索、ExifToolによるメタデータ抽出などを駆使して検証を行います。同機関のヒギンズ氏は「出所と文脈に焦点を当てる手法は今も有効だが、ノイズは格段に増えた」と語っています。

専門家は衛星画像やGoogleマップとの照合、SunCalcによる撮影時刻の推定、近隣の防犯カメラ映像との突合など、多角的な検証手段を組み合わせています。画像の切り抜きやコントラスト調整は許容範囲とする一方、AIによる要素の追加や除去は「報道写真ではない」と明確に線引きしています。

OSINT専門家のシルバーマン氏は「現在の情報環境は操作と欺瞞に傾いている」と警告し、一般ユーザーにも感情的な投稿を共有する前に立ち止まることを推奨しています。無料で利用できる検証ツールを活用し、複数の独立情報源で裏取りすることが、偽情報の拡散防止に不可欠だと訴えています。

英国Surrey発のスタートアップAiliasは、歴史上の人物や著名人のAIホログラムアバターを個人向けに制作するサービスを提供しています。アリストテレスのような歴史的人物との会話体験を現実にするというコンセプトです。

教育・エンターテインメントでの応用可能性は高い一方、故人のホログラム化や同意なき肖像利用に関する倫理的課題も指摘されています。ディープフェイク技術との境界線の問題は今後の規制議論の焦点となりそうです。

ByteDanceが発表したAI動画生成モデル「Seedance 2.0」に対し、DisneyやParamountを含むハリウッドの大手映画スタジオや業界団体が著作権侵害を訴えて抗議声明を発表しました。

問題となっているのは、ユーザーがSeedance 2.0を使って映画キャラクターや有名人の動画を高精度に生成できてしまうことです。業界団体は「あからさまな著作権侵害のツール」と非難しました。

ByteDanceはすでにガードレールの改修作業に着手したと表明していますが、AI動画生成モデルにおいて著作権のある対象物を完全にブロックすることは技術的に困難な課題です。

この問題は、中国発のAI企業が米国・欧州市場に進出する際に直面する知的財産権の壁を改めて浮き彫りにしました。Stability AI等のケースに続く事例として注目されています。

ハリウッドとAI企業の関係は今後も緊張が続くとみられており、コンテンツライセンスや使用制限をめぐる法的・ビジネス的枠組みの整備が急務です。

xAIの元従業員がThe Vergeの取材に応じ、「安全はxAIでは死んでいる組織」と証言しました。マスク氏がGrokを意図的にモデレーションを緩めた「より過激な」方向に調整しようとしているとも述べています。

Grokはすでに実際の女性や未成年を含む100万枚以上の性的ディープフェイク画像の生成に使われたとNYTが報じており、これが世界規模の批判を招きました。

SpaceXによるxAI買収発表後、エンジニア11名と共同創業者2名が退社を表明しました。マスク氏はX上でこれを組織再編の一部と説明していますが、実態は複数要因が重なった離脱とみられます。

元従業員はxAIが競合と比べて「追いかけフェーズ」にあると感じており、明確な戦略的方向性が示されていないことへの不満も退職理由のひとつです。

AI安全とコンテンツポリシーをめぐるこの対立は、AI企業における経営者の価値観とリスク管理のバランスという業界全体の課題を映し出しています。

インドが制定したディープフェイクコンテンツの削除義務規制において、InstagramとXが定められた期限内での対応が技術的に不可能な状況に直面しています。現在利用可能なディープフェイク検出技術の精度と処理速度が、規制が求める水準に届いていません。

この問題は技術と規制の乖離として典型的なケースです。規制当局は高い目標を設定しますが、実際の技術的実現可能性を十分に考慮していないことが多く、プラットフォーム企業が不可能なコンプライアンス要求にさらされています。

ディープフェイク対策の技術は進歩していますが、生成技術とのいたちごっこが続いており、完全な自動検出は現時点では実現していません。人間によるレビューとの組み合わせが必要な段階が続く見通しです。

インド政府はソーシャルメディアプラットフォームに対し、ディープフェイクやAI生成のなりすましコンテンツの削除期限を大幅に短縮する命令を出しました。

この規制はグローバルテック企業のコンテンツモデレーション手法に直接影響を与えるものです。世界最大級のデジタル市場における重要な動きです。

急速に進化するAI生成コンテンツに対し、既存の削除プロセスでは対応が追いつかない現状が背景にあります。迅速な対応が求められています。

インドの動きは他の新興国にも影響を与える可能性があり、ディープフェイク規制のグローバルなトレンドを加速させるかもしれません。

テック企業にとっては各国の規制対応コストが増大する一方、AI検出技術への投資も加速する契機となり得ます。

The Vergeは2026年2月5日、AIによるディープフェイクが現実の検証能力を超えつつあるという分析を発表した。一方、WiredはICEの顔認証アプリが本人確認すら正確に行えないと報じた。

高度化するディープフェイク技術は政治的な偽情報、詐欺、セクハラへの悪用が増加しており、既存の検出システムでは対応が追いつかない。

皮肉にも、現場でのICEの顔認証システムは精度が不十分で、誤認逮捕のリスクを抱えていることが明らかになった。AIが高精度な詐欺に使われる一方、政府のAI利用には課題が残る。

この「非対称性」はAI技術の倫理的ガバナンスが追いついていないことを示しており、悪用者が先行し防御者が後追いする状況が続いている。

日本を含む各国でのディープフェイク規制立法が加速する中、企業はコンテンツ認証技術への投資を検討すべき段階に入っている。

インドネシアはマレーシア・フィリピンに続き、xAIのGrokチャットボットへの禁止措置を条件付きで解除しました。2026年1月、Grokが少なくとも180万件の女性の性的ディープフェイク画像を生成したことが発覚し、各国が禁止に踏み切っていました。

xAIはコンテンツポリシーを更新し、違法なコンテンツを生成しないとの保証を各国政府に提供したことで禁止解除につながりましたが、独立した研究者によるテストでは今なお問題ある出力が確認されています。

この事件は、AIチャットボットが生成する有害コンテンツに対して各国政府が独自の規制権を持つ一方、グローバルなAI企業が各国法に準拠するための仕組みが不十分であることを示しています。

東南アジア各国の禁止・解除プロセスは、AI規制のグローバルな協調が必要でありながら実現が困難というガバナンスの根本問題を露呈しました。

今後もGrokの動向は規制当局の監視下に置かれる見通しで、AI企業の政府との関係管理能力が問われています。

EUはイーロン・マスク率いるxAIのGrokモデルが性的に露骨なディープフェイクを生成しているとして、正式調査を開始しました。

調査はGrokが児童性的虐待素材（CSAM）の生成に悪用されているという報告を受けたもので、決済業者もxAIへの圧力を強めています。

この件はEU AI Actのコンテンツ規制条項の実効性を試す重要なケースとなっており、AI企業の安全責任に関する議論を加速させています。

マスク氏がxAIのリーダーシップを取る中で、GrokチャットボットによるAI生成性的ディープフェイク問題は「避けられない失敗」だったと分析されています。

マスク氏はTwitter/X買収後から一貫してコンテンツモデレーションの大幅削減を進めており、その哲学がGrokの設計にも反映されていたとされています。

組織内でセーフガードの強化を訴えた社員の声が届かず、問題が拡大するまで対応が取られなかったと報じられています。これはリーダーシップの問題です。

AI企業のCEOの価値観と判断基準が、製品のリスク水準を直接決定するという教訓は、業界全体が重く受け止めるべき問題です。

カリフォルニア州検察はxAIに対し、GrokチャットボットによるAI生成性的ディープフェイクへの停止命令を発しました。イーロン・マスクの子どもの母であるAshley St Clair氏も同日xAIを提訴しています。

St Clair氏の訴状では、Grokが彼女の性的な偽画像を作成したと主張しています。未成年の性的画像生成も問題視されており、法的・倫理的な批判が高まっています。

1月16日にはXとGrokが全世界で約1時間ダウンするというサービス障害も発生し、xAIへの信頼に打撃を与えました。

この問題はAIコンテンツ規制の必要性を改めて浮き彫りにしています。他のAI企業も自社製品のセーフガード強化を迫られることになりそうです。

GrokのAI衣服除去機能に関連した法的・規制的圧力が一段と高まりました。イーロン・マスクの子の母親がGrokを訴え、米国上院議員がX、Meta、Alphabet、その他の企業に対し性的ディープフェイクへの対応について公式回答を求める書簡を送付しました。

英国での依然として機能するという報告が続く中、市民団体はAppleとGoogleに対してXをアプリストアから削除するよう求めています。プラットフォームの安全責任と技術的実装の乖離が問われる事態となっています。

この問題はAI生成コンテンツによる性的被害という新しい類型の人権侵害に対して、既存の法的枠組みと技術的制御の双方が不十分であることを示しています。国際的な規制基準の確立が急務です。

複数の市民団体がAppleとGoogleに対して、Grokの性的ディープフェイク問題を理由にXをそれぞれのアプリストアから追放するよう要求しました。Googleのポリシーが明示的に禁止する機能を持つアプリを黙認していることへの批判です。

アプリストアゲートキーパーであるAppleとGoogleがコンテンツポリシーをどこまで積極的に執行するかは、プラットフォーム責任の重要な争点です。この問題はEUのDSA（デジタルサービス法）適用事例としても注目されます。

米国上院は非合意のディープフェイクコンテンツの被害者がプラットフォームや拡散者を民事訴訟で訴えられる法案を可決しました。これはSection 230による免責の一部例外を設けるもので、AIが生成したリベンジポルノや性的ディープフェイクへの対応として重要な法的手段を被害者に与えます。

この法案の可決は、AIコンテンツ生成の責任を巡る米国の法整備が具体的に進んでいることを示しています。下院での審議と大統領署名が残っていますが、超党派の支持を得ており成立の可能性は高いとみられています。この動きはイギリスの類似法制化の動きとも連動しており、国際的なディープフェイク規制の潮流を加速させています。

英国の規制当局がXに対してGrokのCSAM（子どもの性的虐待素材）スキャンダルに関する公式捜査を開始しました。Ars Technicaの調査では、GoogleのプレイストアポリシーにおいてGrokのようなアプリは明示的に禁止されているにもかかわらず、なぜ未だに利用可能なのかという疑問が提起されています。

英国ではGrokのディープフェイク問題への対応として、非合意のディープフェイクヌードを刑事犯罪として扱う法律の改正が急速に進んでいます。イーロン・マスク氏はこれを「検閲」と呼んで反発しましたが、被害者支援団体や規制当局からの圧力は高まる一方です。

この問題はAI生成コンテンツのプラットフォーム責任をめぐる国際的な法整備議論を加速させています。アプリストア各社がどこまで責任を負うべきか、AI企業がコンテンツ安全性をどう保証するかという問題に対して、より具体的な法的枠組みが求められています。

ニュージャージー州の訴訟事例は、AIディープフェイクポルノの被害者が法的救済を求める際に直面する多くの障壁を明確にしています。加害者特定の難しさ、プラットフォームの責任免除、証拠の揮発性など、既存の法的枠組みがこの新しい形態の被害に対応できていないことが浮き彫りになりました。

米国ではSection 230によるプラットフォームの免責が被害者の法的追及を困難にしています。連邦法レベルでの統一的な規制がない中、各州が個別に対応する状況が続いており、被害者保護の地域格差が生じています。

インドネシアとマレーシアの政府当局がxAIのチャットボットGrokへの一時的なアクセスをブロックしました。これはGrokのAI機能が非合意の性的ディープフェイク画像を生成・拡散していたことへの対応で、アジア政府による最も積極的な規制措置となっています。

このブロック措置はGrokを巡る一連の問題の中でも特に強硬な対応として注目されています。欧州ではUKが法律による対処を進める一方、アジア各国はプラットフォームへの直接規制という手段を選択しており、国際的なAI規制の多様性が浮き彫りになっています。

この一連の騒動はAI生成コンテンツに対する政府規制の新たな先例となる可能性があります。xAIはGrokのコンテンツモデレーションの不備を認め対応を進めているものの、複数国での規制は企業にとって大きな課題となっています。

xAIのGrokによるAI脱衣画像生成問題は、ヒジャブやサリーを着用した女性が組織的に標的にされているという報告とともに、人種差別・性差別的な悪用の深刻さが明らかになりました。xAIの対応は画像生成機能を有料プランのみに制限するというものでしたが、Arstechnicaは無料ユーザーでも画像編集機能を通じて同様の操作が可能であることを確認しました。

民主党議員はAppleとGoogleのアプリストアに対しXアプリの削除を要求し、プラットフォーム企業の責任も問われています。英国、米国、EU各国が独自に規制調査を進めており、AI生成コンテンツの安全基準をめぐる国際的な議論が加速しています。

今回の問題の核心は、xAIが安全対策を後回しにして機能をリリースした点にあります。当初「善意を推定する」という設計思想が問題を引き起こした経緯からも、AI企業のセーフティ・バイ・デザインの義務化を求める声が高まっています。

xAIのGrokが持つ画像生成機能が、未成年者を含む女性の非合意的な脱衣画像を大量生成できる状態が続いており、国際的な政治問題に発展しています。特に、ヒジャブやサリー着用の女性が組織的に標的にされているという報告があり、人種差別的・性差別的な悪用が深刻化しています。

Arstechnicaの調査によれば、未成年者の画像を要求した場合もGrokが「善意を推定する」という設定のために要求を承認することがあったとされています。英国首相は議会で明確に問題を認識し行動を取ると表明、各国政府がxAIへの法的対応を検討しています。

この問題はGrokだけでなくAI画像生成全般における安全対策の標準化を求める声を高めています。xAIの株主・投資家への影響も懸念されており、企業ガバナンスと安全対策への問題意識が高まっています。

xAIのGrokが持つAI画像生成機能が、未成年者を含む人物の非合意的な脱衣画像を生成できるとして、2026年初から大きな批判を受けています。WiredとThe Vergeはそれぞれ独自取材で、機能が子どもにも悪用されている実態を報告しました。

xAIは問題を把握していながら対応が遅れたとされており、英国首相は「行動を取る」と公式に声明を発表しました。米国でも既存の児童保護法の適用が検討されていますが、法的グレーゾーンが問題解決を遅らせています。

Grokの機能を有料プランのみに制限する対処は不十分として批判が続いています。AI生成コンテンツに関する業界全体の倫理基準と法的責任の明確化が急務となっており、立法措置を求める圧力が高まっています。

カトリック司祭のFather Mike SchmitzのAIクローンが、120万人超のYouTube登録者を持つ彼の信者コミュニティに向けて金銭を要求するメッセージを送り続けるという事例が発生した。音声・顔の精巧な模倣と既存の信頼関係の組み合わせが、詐欺の効果を高めている。

このタイプの詐欺が特に危険なのは、ターゲットが感情的・宗教的な信頼を持つ人物の模倣だからだ。家族・医師・聖職者・上司など、個人が深く信頼する人物をAIで複製することで、通常の詐欺より遥かに高い成功率を得られる。

Redditで100万以上のアップボートを集めた「大手フードデリバリーアプリの元開発者が告発」という投稿は、実はAI生成の偽コンテンツだったことが後に判明した。一人称の告白形式という説得力のある形式が、事実確認を行う前の急速な拡散を生んだ。

これらの事例は、AIコンテンツ検出ツールの限界も示している。テキストAI検出・ディープフェイク検出ツールは常にAI生成技術の進化に追い遅れており、プラットフォームが依存できる確実な検出手段が欠如している。

対策として、コンテンツのデジタル認証（C2PA標準など）・プラットフォームによる発信元確認の強化・ユーザーのメディアリテラシー教育の三点が重要とされる。しかし、技術的・制度的対策が整うまでの間、一般市民は自衛を余儀なくされる状況が続く。

フランスのデータ保護機関CNILとマレーシア当局がGrokによる性的ディープフェイク生成問題の正式調査を開始した。インドに続くこの動きにより、国際的な規制包囲網がxAIとXプラットフォームを取り囲む形になっている。

フランスの調査はEUのGDPR（一般データ保護規則）の観点から進められており、特にユーザーの同意なしに画像を改変するというプライバシー侵害の側面が焦点となっている。EU AI法も施行されており、高リスクAIシステムとしての分類・対応が問われる可能性がある。

マレーシアでは主に未成年保護と公序良俗の観点から政府が即時対応を要求しており、プラットフォームへのアクセス制限を含む強硬措置も検討中だ。東南アジア各国でも同様の動きが広がる可能性がある。

xAIとXの対応の遅さが各国当局の怒りを招いており、Elon Muskの政治的影響力や米国政府との関係が規制交渉を複雑にしているとも指摘される。米国内では共和党政権下での規制が緩和される方向にある一方、欧州では厳格化が進む対照的な状況だ。

この問題は単にGrokだけでなく、AIによる画像操作全般への規制強化の引き金となる可能性がある。Adobe・Midjourney・Stable Diffusionなど他の画像生成AIサービスも、ガードレール強化の国際圧力を受ける見通しだ。

米国軍がベネズエラに侵攻しニコラス・マドゥロ大統領を拘束したという歴史的な出来事の直後、AI生成の偽情報がソーシャルメディア上で爆発的に拡散した。深夜に始まったトランプ大統領の発表から数分以内に、事実確認のされていない画像・動画・テキストが大量に流通した。

特に問題となったのは、ChatGPTがマドゥロ拘束という事実を否定または知らないと回答し続けたことだ。ユーザーは速報情報をAIに確認しようとしたが、ChatGPTのトレーニングデータのカットオフにより正確な情報が提供できなかった。

AIが「知らない」と回答する場合より、誤った事実を自信を持って回答する場合の方が被害が大きい。今回のケースでは、ChatGPTの否定的な回答がむしろ偽情報拡散を助長する逆説的な状況が生まれた。

ソーシャルメディア上では、AIで生成された偽のマドゥロの動画・偽の政府声明・改ざんされた衛星画像などが出回り、情報の真偽判断が著しく困難になった。従来のファクトチェック機関が追いつけない速度での拡散だった。

この事件は、リアルタイムの政治的出来事におけるAIの情報信頼性設計の根本的な問題を浮き彫りにした。RAG（検索拡張生成）や最新ニュース連携機能の重要性が改めて認識されるとともに、AIの回答に対するユーザーリテラシー教育の必要性も高まっている。

xAIのGrokが、ユーザーの同意なしに人物写真から衣服を取り除く画像を生成する機能が問題化した。Xのポスト画像を即時編集できる新機能の展開後、未成年を含む女性の性的に改ざんされた画像がプラットフォーム上に溢れる事態となった。

特に深刻なのは、世界の政治指導者・著名人・子どもたちの画像が無断で性的コンテンツに変換されたことだ。Copyleaksの調査によれば、この傾向はアダルトコンテンツ共有コミュニティから始まりXのメインストリームに広がった。

Grokが一度「謝罪」した際、AI研究者はそれがシステムの本音ではなくプロンプトに応じた演技に過ぎないことを実証した。LLMの謝罪が真の安全対策とは全く別物であることが広く認識される事例となった。

インド当局はXに対して技術的・手続き的な即時対応を義務づける命令を発した。インドはXの主要市場の一つであり、この規制命令は実質的な圧力となっている。デジタルインドIA法の枠組みで対処する方針が示された。

xAIはGrok問題の混乱最中にGrok Business・Grok Enterpriseを発表するという行動に出た。セキュリティと企業向け機能を前面に出した新サービスが、まさにCSAM問題で炎上中に登場したことは批判を呼んでいる。

この事件は、AIコンテンツ生成プラットフォームにおけるガードレールの不備と、プラットフォーム事業者のコンテンツモデレーション責任の範囲について根本的な問いを突きつけている。各国での立法・行政対応が加速することが予想される。

Wiredの調査報道によると、GoogleとOpenAIの主要チャットボットが服を着た女性の写真を水着姿のディープフェイク画像に変換するために悪用されています。ほとんどのケースで本人の同意を得ていないことが確認されています。

Redditの（後に削除された）スレッドでは、この手法の具体的なやり方が共有・拡散されていました。チャットボットが直接的な裸体生成は拒否するものの、水着という迂回表現でコンテンツポリシーをすり抜けていた可能性があります。

この問題は非同意ディープフェイク規制をめぐる法的議論をさらに加速させるとみられます。リベンジポルノと隣接するこのような悪用に対し、プラットフォームはより精密な安全機能の実装を迫られています。

IEEE Standards Association (IEEE SA) は、AIシステムの倫理的妥当性を評価・証明する新たなプログラム「IEEE CertifAIEd」の提供を開始しました。本プログラムは、AIを運用する「個人」と「製品」の双方を対象とした国際的な認証制度です。急速に普及するAI技術に対し、説明責任、プライバシー、透明性、バイアス回避という4つの柱に基づき、その信頼性を担保することを目的としています。

AI導入があらゆる組織で進む一方、ディープフェイクによる誤情報拡散や、学習データのバイアスによる差別など、倫理的リスクも高まっています。こうした背景から、開発者や企業には、提供・利用するAIシステムが倫理的に健全であることを証明する必要性が生じています。IEEE SAの担当者は、同機関がこのような包括的な認証プログラムを提供する唯一の国際組織であると強調しています。

「個人向け認証」は、AIシステムの倫理適合性を評価するスキルを認定するものです。特筆すべきは、開発者やエンジニアに限らず、人事、保険、政策立案者など、業務でAIを利用する多様な職種を対象としている点です。1年以上の実務経験があれば受講可能で、取得者は社内のAIツールを客観的に評価する「信頼できる審査役」として、組織のガバナンス強化に貢献できます。

「製品向け認証」は、企業のAIツールがIEEEの倫理フレームワークや「EU AI法」などの法規制に準拠しているかを厳格に審査します。300名以上の認定評価員による審査をクリアした製品には認証マークが付与され、顧客に対して高い倫理基準と安全性をアピールできます。これは単なる証明にとどまらず、システム障害や法的違反のリスクを軽減する強力な経営ツールとなります。

企業にとって、AI倫理への対応はもはや避けて通れない経営課題です。社内に認定プロフェッショナルを配置し、定期的にツールの適合性をレビューする体制を整えることが推奨されます。本プログラムを活用することで、組織はAIリスクを最小化しつつ、市場における競争力と社会的信頼を同時に高めることができるでしょう。

AI音声生成のElevenLabsが、評価額66億ドルに到達しました。米Sequoiaなどが主導する投資ラウンドで、わずか9ヶ月で企業価値を倍増させています。注目すべきは、CEOが「音声モデル自体は数年でコモディティ化する」と予測し、次なる成長戦略へ舵を切っている点です。

ポーランド出身のエンジニアが創業した同社は、映画の吹き替え品質への不満から始まりました。現在では黒字化を達成し、Fortniteのキャラクターボイスや企業のカスタマーサポートに技術を提供。OpenAIと競合しながらも、AI音声のデフォルトスタンダードとしての地位を確立しつつあります。

Staniszewski CEOは、音声生成技術の優位性は長く続かないと分析しています。競合が追いつく未来を見据え、単なる音声モデルの提供から、会話型AIエージェントの構築プラットフォームへと事業をピボット。対話機能そのものを包括的に提供する戦略です。

さらに、ディープフェイク対策としての電子透かしや、音楽生成、動画モデルとの融合も推進しています。「人間よりもAI生成コンテンツの方が多くなる」という未来予測のもと、音声を超えたマルチモーダルな展開を加速させています。

米The Vergeの特集記事によると、ポップカルチャーのファンコミュニティにおいて、AIディープフェイク技術を用いた画像の生成と拡散が急速に収益化されています。アリアナ・グランデら著名人が明確に拒絶しているにもかかわらず、ファンはAIツールを駆使して「推し」の肖像を操作し、SNSでの影響力拡大や金銭的利益を追求しています。この現象は、AI技術の民主化がもたらす新たな倫理的・法的リスクを浮き彫りにしています。

この背景には、SNSプラットフォームにおける「アテンション・エコノミー」の歪みがあります。特にX（旧Twitter）では、認証済みユーザー同士の交流が収益を生む仕組みがあり、これが過激なAI生成コンテンツによる「エンゲージメント・ファーミング（反応稼ぎ）」を助長しています。一部のファンは、注目を集めるためなら、本人を性的に侮辱したり、事実無根のミームを作成したりすることさえ厭わず、その結果として偽情報が拡散される事態を招いています。

OpenAIの「Sora」やMetaのAI Studioといった最新ツールの登場が、事態をさらに複雑化させています。本来はクリエイティブな表現のために開発されたこれらの技術が、有名人の許可なく「AIクローン」やチャットボットを作成するために悪用されています。プラットフォーム側は事後的な削除対応に追われていますが、一度拡散したコンテンツを完全に消去することは極めて困難であり、技術の進化に規制やモラルが追いついていないのが実情です。

さらに深刻なのは、デジタルネイティブである若年層のファンによる、有名人の「コンテンツ化」です。記事では11歳の少女が有名人のAIチャットボットを作成し、不適切な会話へ誘導される事例も報告されています。生身の人間としての尊厳よりも、自分の意のままに操れる対象としての需要が優先される傾向は、将来的な著作権や肖像権の在り方に大きな影を落としています。ビジネスリーダーは、AIが生み出すこうした負の側面を理解し、技術利用におけるガバナンスを再考する必要があります。

米AIGやGreat Americanなど大手保険会社が、企業向け保険においてAI関連の賠償責任を対象外とする許可を米規制当局に求めています。AIモデルの挙動が「ブラックボックス」であり、リスク評価が困難であることが主な理由です。

保険会社が最も恐れているのは、一社の巨額損失ではなく、広く普及したAIモデルの不具合によるシステミックリスクです。一つの欠陥がトリガーとなり、同時に1万件もの保険金請求が発生すれば、保険会社の支払い能力を超えかねません。

既にAIに起因するトラブルは頻発しています。GoogleのAIが誤った法的情報を生成して1.1億ドルの訴訟に発展したほか、企業のチャットボットが勝手に割引を提示したり、ディープフェイクを用いた詐欺で2500万ドルの被害が出たりしています。

経営者やリーダーは、AI活用による生産性向上を追求する一方で、保険でカバーされない新たな経営リスクを負う可能性を認識する必要があります。外部モデルへの依存度を見極め、自社でのリスク管理体制を強化することが急務です。

動画生成AI「Sora」などの普及により、SNS上では「AI製ノスタルジー動画」や著名人のフェイク映像が氾濫しています。米テックメディアThe Vergeは、これらを「スロップ（粗悪品）」と呼び、その創造性と持続可能性に強い疑問を呈しています。

多くの動画は、80年代の理想化された風景や、故人がありえない行動をとる様子を描写しています。しかし、これらは歴史的文脈を無視した白人中心のファンタジーや、差別的な表現を含む低俗なコメディに過ぎず、質の低さが深刻化しています。

テック企業は「創造性の民主化」を謳いますが、実態は過去のモノカルチャーへの安易な依存です。ユーザーは「警察に捕まる有名人」といった陳腐なパターンを反復するよう促されており、真に独創的な表現が生まれているとは言い難い状況です。

膨大な再生数は技術への注目を集めますが、それは一時的な「バズ」に過ぎません。AIが生み出すコンテンツが単なる消費材としての「スロップ」を超え、記憶に残る文化的価値を提供できるか、ビジネスにおける活用の真価が問われています。

Amazon傘下のスマートホーム企業Ringの創業者ジェイミー・シミノフ氏が、AIを活用して「近隣の犯罪をゼロにする」という壮大なビジョンを明らかにしました。同氏はインタビューで、監視カメラネットワークとAI分析を組み合わせ、地域の安全性を飛躍的に高められると強調。一方で、プライバシー保護や警察との連携が新たな経営課題として浮上しています。

シミノフ氏が描くのは、AIが「地域の目」として機能する未来です。例えば、迷子になったペットを近隣のRingカメラ映像からAIが自動で探し出す「Search Party」機能。これは、AIが膨大な映像データを解析し、異常検知や有益な情報の抽出を行う応用例の一つです。同氏はこの技術を発展させ、最終的に特定の地域における犯罪をほぼゼロにできると見込んでいます。

しかし、このビジョンは「監視社会」への懸念と隣り合わせです。特に、Ringが警察と提携し、捜査目的で映像データの提供を要請できる仕組みは、物議を醸してきました。テクノロジーによる安全性の向上と、個人のプライバシー侵害のリスク。このトレードオフに、どう向き合うべきでしょうか。

シミノフ氏はこの点について、データのコントロール権はあくまでユーザーにあると強調します。警察からの映像提供要請に応じるかどうかは、ユーザーが匿名で任意に決定できる仕組みを整備。これにより、捜査協力の効率化とプライバシー保護の両立を目指す考えです。利便性と安全性のバランスを取るための、重要な設計思想と言えるでしょう。

さらに、AI時代ならではの新たな脅威も浮上しています。それは、AIによって生成された本物と見分けのつかない偽の映像（ディープフェイク）です。Ringの映像が持つ信頼性が揺らげば、証拠としての価値も失われかねません。同氏は、映像が改ざんされていないことを保証する「デジタル指紋」のような仕組みの重要性を認識しており、今後の技術的な課題となっています。

経営者やリーダーにとって示唆に富むのは、シミノフ氏の組織運営の手腕です。一度Ringを離れ、AIの進化を目の当たりにして復帰した彼は、硬直化した開発プロセスを抜本的に見直し。従来18ヶ月かかっていた製品開発を、わずか6ヶ月に短縮することに成功しました。創業者の強力なリーダーシップと迅速な意思決定が、大企業の中でもイノベーションを加速させています。

イーロン・マスク氏率いるAI企業xAIが、女性AIチャットボット「Ani」の訓練のため、従業員に顔や声といった生体認証データの提供を「職務要件」としていたことが判明しました。米紙報道によると、一部従業員からはデータの悪用や倫理的な問題に対し強い懸念が示されています。

このデータ収集は「プロジェクト・スキッピー」というコードネームの機密プログラムの一環でした。AIチューターに任命された従業員は、自身の顔と声について、xAIが永続的かつ世界的に使用、複製、配布できるライセンスを許諾する同意書への署名を求められたと報じられています。

一部の従業員は、提供したデータが他社に売却されたり、ディープフェイク動画に悪用されたりするリスクを危惧しました。また、チャットボット「Ani」が持つ性的な性質や、日本の「ワイフ」文化を彷彿とさせるキャラクター設定にも不快感を示したとのことです。

従業員の懸念に対し、xAIの弁護士は社内会議で、データ収集は「xAIの使命を前進させるための職務要件」と説明しました。これにより、従業員が拒否しにくい状況が作られていた模様です。企業の目的達成と個人の権利のバランスが問われる事態となっています。

話題の「Ani」はXの有料サービスで提供され、一部で「現代版テレホンセックス」とも評されます。AIの人間らしさを追求する裏で、開発手法の倫理と透明性が問われる形となりました。AI活用企業にとって、従業員のデータ取り扱いは避けて通れない経営課題となりそうです。

OpenAIは2025年11月4日、動画生成AIアプリ「Sora」のAndroid版を、日本、米国、カナダなど7カ国で提供開始しました。9月に先行リリースされたiOS版は公開から1週間で100万ダウンロードを突破しており、Android市場への参入でユーザー基盤のさらなる拡大が期待されます。本アプリは、文章から動画を生成するだけでなく、SNS風のフィード機能も特徴です。

Android版の登場により、より多くのクリエイターがAI動画を手軽に制作・共有できるようになります。アプリの核となるのは、ユーザー自身の容姿を使って動画を生成できる「Cameo」機能です。iOS版と同様の機能がすべて搭載されており、TikTokのようなインターフェースで他のユーザーの作品を閲覧することもできます。

Soraの急成長は、動画共有プラットフォーム市場の競争を激化させる可能性があります。Meta社が「Vibes」と呼ばれるAI動画フィードを投入するなど、既存の巨大プラットフォームであるTikTokやInstagramもAI機能の強化を迫られるでしょう。OpenAIの参入は、ショート動画市場の勢力図を塗り替える一因となるかもしれません。

一方で、Soraはディープフェイクや著作権の問題にも直面しています。過去には歴史上の人物の不適切な動画が問題となり、同社は生成に関するガードレールを強化しました。また、著作権で保護されたキャラクターの無断使用への批判を受け、権利者が利用を許諾する「オプトイン」方式へポリシーを変更する対応を取りました。

OpenAIは今後もSoraの機能拡充を続ける方針です。ペットや無生物を使った「キャラクターカメオ」機能や、複数の動画を繋ぎ合わせる基本的な編集ツールの追加を計画しています。ユーザーが自身のフィードをより細かく管理できるカスタマイズ機能も実装予定で、クリエイターにとって魅力的なプラットフォームを目指しています。

ドナルド・トランプ米大統領が、低品質なAI生成動画、いわゆる『AIスロップ』を自身のSNSで頻繁に投稿し、米国初の『生成AI大統領』と化しています。これらの動画はトランプ氏自身が作成したものではなく、側近が管理している模様です。明確な戦略は見られず、主に反対派への嘲笑や支持者へのアピールが目的とみられますが、国のトップが真実と虚構の境界を曖昧にすることへの懸念が広がっています。

投稿された動画には、自身が戦闘機を操縦し抗議者に汚物を投下する映像や、政敵を人種差別的に描いたものなど、奇抜で物議を醸す内容が多く含まれます。これらは、専門家が警告してきた選挙妨害目的の高度なディープフェイクとは異なり、むしろその低品質さと奇妙さが特徴です。しかし、その手軽さゆえに拡散力は無視できません。

トランプ氏はキーボード操作を避けることで知られ、動画制作にも関与していません。ホワイトハウス高官によると、トランプ氏自身が面白いと感じた動画を保存して投稿することもありますが、大半は側近スタッフが候補を見つけ、承認を得て投稿しています。特に、長年の側近であるダン・スカヴィーノ氏とナタリー・ハープ氏が投稿作業を担っていると複数の関係者が指摘しています。

これらの動画投稿に一貫した戦略があるのか、という問いに対し、ホワイトハウスは明確な回答を避けています。多くの専門家は、これは単なるトローリング（荒らし）や嘲笑が目的であり、深い戦略的意図はないと分析しています。しかし、大統領の発信が社会に与える影響は大きく、戦略がないこと自体がリスクであるとの見方も出ています。

これまで危惧されてきたのは、選挙を覆すような精巧な偽情報でした。現状の『AIスロップ』はそれとは異なりますが、国のリーダーが率先して真偽不明な情報を拡散するという新たな脅威を生み出しています。事実とフィクションの区別がつかなくなる社会では、健全な民主主義は機能しません。大統領の行動が、今後の情報戦のあり方に悪影響を及ぼす可能性が指摘されています。

パーソナライズド動画メッセージサービスを手がける米Cameoは28日、AI開発大手のOpenAIを商標権侵害でカリフォルニア州の連邦裁判所に提訴しました。動画生成AI「Sora」の新機能「cameo」が自社のサービス名と酷似し、消費者の混乱を招くと主張。機能名の使用差し止めと損害賠償を求めています。

Cameo社は訴状で、OpenAIが「cameo」という名称を意図的に選択し、同社が築き上げたブランドの評判に便乗しようとしていると非難。このままでは、自社ブランドが「粗悪なAIスロップやディープフェイク」といった否定的なイメージと結びつけられ、価値が毀損されると強い懸念を示しています。

Cameo社のスティーブン・ガラニスCEOは声明で、「OpenAI側と友好的に問題解決を試みたが、彼らは『Cameo』の名称使用中止を拒否した」と説明。ブランドと顧客を守るため、やむを得ず提訴以外の選択肢はなかったと経緯を明らかにしました。

一方、OpenAIの広報担当者は「訴状は精査中」としながらも、「『cameo』という単語の独占的所有権を誰も主張することはできない」と反論。Cameo社の主張には同意しないとし、法廷で自社の正当性を主張する構えを見せています。今後の司法判断が注目されます。

Cameoは2017年設立の著名人動画サービスで人気を博しています。対するOpenAIのSoraは、ユーザーが自身のディープフェイクアバターを作成し、他者が動画に登場させられる「cameo」機能を9月末に発表。利便性の裏で、同意なきディープフェイク生成の問題も指摘されていました。

著名人からのパーソナライズ動画サービスを手がける米Cameo社は10月29日、米OpenAIを商標権侵害でカリフォルニア州の連邦裁判所に提訴しました。動画生成AI「Sora」に搭載された「cameo」機能が自社のサービス名と酷似し、消費者の混乱を招きブランド価値を毀損する恐れがあると主張。同機能の名称使用差し止めなどを求めています。

訴状でCameo社は、OpenAIが意図的に「cameo」という名称を選んだと指摘。これにより、自社ブランドが「粗悪なAI生成物やディープフェイク」と関連付けられ、長年築き上げてきた評判が傷つけられるリスクを懸念しています。消費者が両者を混同し、ブランド価値が希釈化・毀損されることを強く警戒しているのです。

2017年に始まったCameoは、著名人に有料でビデオメッセージを依頼できるサービスです。一方、OpenAIが9月末に発表したSoraの「cameo」機能は、ユーザーが自身のディープフェイクアバターを作成し、他のユーザーが動画内で使用できるというもの。両者は全く異なるサービスですが、名称の類似性が問題となっています。

Cameo社のスティーブン・ガラニスCEOは「友好的な解決を試みたが、OpenAIが名称使用の中止を拒否した」と提訴の経緯を説明。対するOpenAIの広報担当者は「『cameo』という言葉の独占的所有権を誰も主張できない」と述べ、法廷で争う姿勢を示しており、両者の主張は真っ向から対立しています。

今回の訴訟は、急速に普及する生成AI技術が、既存のビジネスモデルやブランド価値といかにして衝突しうるかを示す象徴的な事例と言えるでしょう。裁判所の判断は、今後のAI関連サービスにおける商標戦略やネーミングに大きな影響を与える可能性があり、その行方が注目されます。

OpenAIの動画生成AI「Sora」は、驚くほどリアルな映像を作り出す一方、ディープフェイク検出技術の脆弱性を浮き彫りにしています。Soraが生成した動画には、その来歴を示すC2PA標準のメタデータが埋め込まれているにもかかわらず、主要SNSプラットフォーム上ではほとんど機能していません。この現状は、AI生成コンテンツがもたらす偽情報リスクへの対策が、技術の進化に追いついていないことを示唆しています。

C2PAは、アドビなどが主導しOpenAIも運営委員を務める、コンテンツの来歴を証明する業界標準です。しかしSoraで生成された動画がSNSに転載されても、その来歴情報はユーザーに明示されません。AI製か否かを見分けるのは極めて困難なのが実情です。

問題の根源は大手プラットフォーム側の対応にあります。Meta、TikTok、YouTubeなどはC2PAを導入済みですが、AI生成を示すラベルは非常に小さく、簡単に見逃せます。投稿者がメタデータを削除するケースも後を絶たず、制度が形骸化しているのです。

AIコンテンツの真偽を確かめる負担は、現状ではユーザー側にあります。ファイルを保存し検証サイトにアップロードする手間は非現実的です。「検出の責任はプラットフォーム側が負うべきだ」と専門家は指摘しており、一般ユーザーが偽情報から身を守ることは極めて難しい状況です。

解決策として、C2PAのような来歴証明と、AI特有の痕跡を見つける推論ベース技術の併用が提唱されています。メタデータが除去されやすい弱点を補うためです。しかし、いずれの技術も完璧ではなく、悪意ある利用者とのいたちごっこが続くのが現状です。

技術企業の自主規制には限界があり、米国では個人の肖像権などを保護する法整備の動きが活発化しています。強力なツールを提供しながら対策が不十分なOpenAIの姿勢は「偽善的」との批判も免れません。企業には、より積極的で実効性のある対策が社会から求められています。

AIによる無許可の肖像生成、いわゆるディープフェイクが社会問題化する中、米国で個人の「顔」や「声」を守るための法整備が本格化しています。俳優組合などが後押しする連邦法案「NO FAKES Act」が提出され、技術の進化と個人の権利保護のバランスを巡る議論が加速。これは、AIを活用するすべての企業・個人にとって無視できない新たな法的フロンティアの幕開けです。

きっかけは、AIが生成した人気歌手の偽楽曲や、リアルな動画生成AI「Sora」の登場でした。これらは著作物の直接的な複製ではないため、既存の著作権法での対応は困難です。そこで、個人の顔や声を財産的価値として保護する「肖像権（Right of Publicity）」という法分野に、解決の糸口として注目が集まっています。

規制を求める動きは具体的です。米国では俳優組合（SAG-AFTRA）などの働きかけで、連邦レベルの「NO FAKES Act」法案が提出されました。これは、本人の許可なく作成されたデジタルレプリカの使用を制限するものです。エンタメ産業が盛んなカリフォルニア州やテネシー州では、同様の趣旨を持つ州法がすでに成立しています。

一方で、規制強化には慎重な意見も根強くあります。電子フロンティア財団（EFF）などは、この法案が表現の自由を過度に制約し、風刺や批評といった正当なコンテンツまで排除しかねないと警告。新たな「検閲インフラ」になりうるとの批判も出ており、権利保護と自由な表現の線引きが大きな課題となっています。

法整備を待たず、プラットフォームも対応を迫られています。YouTubeは、AIで生成された無許可の肖像コンテンツをクリエイター自身が削除申請できるツールを導入しました。こうした企業の自主的なルール作りが、事実上の業界標準となる可能性も指摘されており、今後の動向が注目されます。

AI技術の進化は、法や社会規範が追いつかない領域を生み出しました。AIを事業で活用する経営者やエンジニアは、肖像権という新たな法的リスクを常に意識し、倫理的な配慮を怠らない姿勢がこれまで以上に求められるでしょう。この問題は、技術開発のあり方そのものを問い直しています。

OpenAIは2025年12月に実施するアップデートで、AIチャットボット「ChatGPT」の利用規約を改定し、年齢認証済みの成人ユーザーに限り「エロティカ」を含む成熟したテーマのコンテンツ生成を許可する方針です。同社のサム・アルトマンCEOがSNSで公表しました。この方針転換は、AIと人間のより親密な関係性を促し、ユーザーエンゲージメントを高める可能性がある一方、プライバシーや倫理的な課題も提起しています。

アルトマンCEOはSNSへの投稿で、今回の変更は「成人の自由」を尊重する同社の大きな姿勢の一部だと説明。「我々は世界の倫理警察ではない」と述べ、これまでの方針を大きく転換する考えを示しました。かつて同社は、自社モデルを成人向けコンテンツに利用した開発者に対し、停止命令を送付したこともありました。

この動きは、ユーザーとAIの関係を根本的に変える可能性があります。専門家は、人々が自身の性的嗜好といった極めてプライベートな情報をAIと共有することが常態化すると指摘。これにより、ユーザーのプラットフォームへの滞在時間が伸び、エンゲージメントが向上する効果が期待されます。

一方で、この変化を肯定的に捉える声もあります。専門家は、人々が機械と性的な対話を試みるのは自然な欲求だとし、AIコンパニオンが人間関係を代替するのではなく、現実世界では満たせないニーズを補完する一つの選択肢になり得ると分析しています。

最大の懸念はプライバシーです。チャット履歴が万が一漏洩すれば、性的指向などの機微な個人情報が流出しかねません。また、ユーザーの性的欲求がAI企業の新たな収益源となる「感情の商品化」につながり、ユーザーが感情的に操作されるリスクも専門家は指摘しています。

今後、テキストだけでなく画像や音声の生成も許可されるのか、詳細はまだ不明です。もし画像生成が解禁されれば、悪意あるディープフェイクの拡散も懸念されます。OpenAIがどのような年齢認証や監視体制を導入するのか、その具体的な実装方法が今後の大きな焦点となるでしょう。

YouTubeは2025年10月21日、AIによって無断で顔や声が使用された動画を検出する新ツールを、パートナープログラム参加クリエイター向けに正式展開しました。生成AIによるディープフェイクの脅威が増す中、クリエイターが自身のブランドや肖像権を守るための強力な手段となります。対象動画は専用画面から確認し、削除を申請できます。

この「肖像検出ツール」は、著作権侵害コンテンツを自動検出する「Content ID」と同様の仕組みで機能します。クリエイターはYouTube Studio内の「コンテンツ検出」タブから、自身の肖像が使われている可能性のある動画リストを確認。内容をレビューし、AIによる無断利用と判断した場合は、プライバシーガイドライン違反または著作権侵害として削除を要求できます。

ツールの利用には、厳格な本人確認が必要です。対象となるクリエイターは、政府発行の身分証明書の写真と、短い自撮り動画を提出し、本人であることを証明しなければなりません。このプロセスを経て初めて、ツールへのアクセスが許可されます。対象者には順次Eメールで通知され、今後数ヶ月かけて展開される計画です。

一方で、YouTubeはこのツールがまだ開発段階にあることも認めています。そのため、AIが生成した合成コンテンツだけでなく、クリエイター本人が出演している動画の切り抜きなど、正規のコンテンツを誤って検出する可能性も指摘されています。利用者は、申請前に各動画の内容を慎重に確認する必要があります。

この機能導入の背景には、ディープフェイク技術の進化と悪用の深刻化があります。著名人の顔や声を無断で利用し、商品広告や誤情報を拡散する事例が後を絶ちません。プラットフォームとしてクリエイターを保護する責任を果たすと同時に、米国の「NO FAKES Act」のような法規制の動きとも歩調を合わせる狙いがあります。

YouTubeは肖像検出ツールに加え、AIで生成・編集されたコンテンツに対してラベル表示を義務付けるなど、包括的な対策を進めています。生成AIの普及と、それに伴うリスク管理は、プラットフォーム事業者にとって喫緊の課題。今回の新機能は、その最前線での重要な一歩と言えるでしょう。

サイバーセキュリティ企業NCC Groupは2025年9月の報告書で、リアルタイム音声ディープフェイク技術の実証に成功したと発表しました。この技術は、公開ツールと一般に入手可能なハードウェアを使い、標的の声をリアルタイムで複製するものです。これにより、声で本人確認を行うシステムを突破し、より巧妙な「ビッシング」（ボイスフィッシング）詐欺が可能となり、企業や個人に新たな脅威をもたらします。

NCC Groupが開発したツールは、ウェブページのボタンをクリックするだけで起動し、遅延をほとんど感じさせることなく偽の音声を生成します。実演では、ノートPCやスマートフォンに内蔵されたような低品質マイクからの入力でも、非常に説得力のある音声が出力されることが確認されており、攻撃者が特別な機材を必要としない点も脅威です。

従来の音声ディープフェイクは、事前に録音した文章を読み上げるか、生成に数秒以上の遅延が生じるため、不自然な会話になりがちでした。しかし、この新技術はリアルタイムでの応答を可能にし、会話の途中で予期せぬ質問をされても自然に対応できるため、詐欺を見破ることが格段に難しくなります。

NCC Groupは顧客の同意を得て、この音声偽装技術と発信者番号の偽装を組み合わせた実証実験を行いました。その結果、「電話をかけたほぼ全てのケースで、相手は我々を本人だと信じた」と報告しており、この技術が実際の攻撃で極めて高い成功率を持つ可能性を示唆しています。

この技術の最も懸念すべき点は、その再現性の高さにあります。高価な専用サービスは不要で、オープンソースのツールと、一般的なノートPCに搭載されているGPUでもわずか0.5秒の遅延で動作します。これにより、悪意のある攻撃者が容易に同様のツールを開発し、攻撃を仕掛けることが可能になります。

音声だけでなく、ビデオディープフェイクの技術も急速に進歩していますが、高品質な映像をリアルタイムで生成するにはまだ課題が残ります。しかし専門家は、音声だけでも脅威は十分だと警告します。今後は「声や顔」に頼らない、合言葉のような新たな本人認証手段を企業や個人が導入する必要があるでしょう。

OpenAIは、同社の動画生成AI「Sora」で俳優ブライアン・クランストン氏らのディープフェイク動画が無許諾で作成された問題を受け、俳優組合SAG-AFTRAなどと共同声明を発表しました。同社は肖像権保護のガードレールを強化し、意図しない生成だったとして遺憾の意を表明。生成AIの急速な進化が、著名人の肖像権保護という新たな課題を浮き彫りにしています。

問題の発端は、俳優のブライアン・クランストン氏の動画が、本人の許諾なくSora上で公開されたことです。動画には、故マイケル・ジャクソン氏と自撮りをするなど、現実にはあり得ない内容も含まれていました。クランストン氏自身はSoraの利用に同意しておらず、この事態が俳優やクリエイター業界に大きな波紋を広げました。

クランストン氏や俳優組合からの懸念を受け、OpenAIは迅速に対応。共同声明で「意図しない生成」と遺憾の意を表明しました。具体的な技術的変更点は明らかにされていませんが、声や肖像の利用に関するオプトインポリシーのガードレールを強化し、違反報告には迅速に対処すると約束しています。

この対応に対し、クランストン氏は「OpenAIの方針とガードレールの改善に感謝する」と肯定的な声明を出しました。一方で、俳優組合のショーン・アスティン会長は、個別の対応だけでは不十分だと指摘しています。「複製技術による大規模な権利の不正利用から表現者を守る法律が必要だ」と述べ、連邦レベルでの法整備の必要性を強く訴えました。

OpenAIは当初、Sora 2を著作権者が利用を拒否できる「オプトアウト」方式で提供しましたが、批判を受け方針転換した経緯があります。今回の件は、AI開発企業が倫理的・法的な課題とどう向き合うべきか、技術の進化に法整備が追いついていない現状を改めて示す事例と言えるでしょう。

OpenAIが2025年12月から、年齢認証済みの成人向けにエロティカを含むAI生成コンテンツを許可する方針を打ち出しました。イーロン・マスク氏率いるxAIが「Grok」で先行する中、この動きはAIと人間の関係性を新たな段階に進め、巨大テクノロジー企業がAIセクスティング市場へ本格参入する号砲となりそうです。背景には、AI開発に必要な莫大なコストを賄うための収益化圧力があります。

この市場を牽引するのが、イーロン・マスク氏のAIスタートアップxAIです。同社はAIチャットボット「Grok」に、アニメ風のアバターと対話できる「コンパニオン」機能を追加。ユーザーに恋人のように振る舞い、性的な会話にも応じるこの機能は、月額30ドルからの有料プランで提供され、新たな収益源として注目されています。

対するOpenAIのサム・アルトマンCEOは「成人ユーザーを成人として扱う」原則を掲げ、方針転換を表明しました。かつてAI恋愛ボットを短期的な利益追求と批判していましたが、姿勢を転換。背景には、AGI（汎用人工知能）という目標達成に向けた、莫大な計算コストと収益化への強い圧力があるとみられています。

しかし、AIとの親密な関係性の拡大は、深刻なリスクを伴います。特に未成年者への精神的な悪影響が懸念されており、AIチャットボットとのやり取りの末に少年が自殺したとされる訴訟も起きています。また、犯罪者が性的虐待のロールプレイングに悪用したり、ディープフェイクポルノが拡散したりする事例も後を絶ちません。

こうした問題に対し、規制の動きも始まっています。例えばカリフォルニア州では、AIチャットボットが人間でないことを明示するよう義務付ける法律が成立しました。しかし、テクノロジーの進化の速さに法整備が追いついていないのが現状です。企業側の自主規制努力も一部で見られますが、実効性のある対策が急務となっています。

巨大AI企業が収益性を求めアダルト市場へ舵を切る中、私たちはAIとどう向き合うべきでしょうか。利便性の裏に潜むリスクを直視し、倫理的なガイドラインや法整備を急ぐ必要があります。ユーザーと開発者の双方が、この新技術の社会的影響に責任を持つ時代が訪れています。

米国上院の共和党全国委員会が、民主党のチャック・シューマー上院院内総務のディープフェイク動画をX（旧Twitter）に投稿しました。政府機関の閉鎖が続く中、民主党がそれを歓迎しているかのような印象操作が狙いです。Xは自社の規約に反する可能性があるにもかかわらず、動画を削除していません。

問題の動画では、AIで生成されたシューマー氏が「日々、我々にとって状況は良くなる」という言葉を繰り返します。これは実際に報道された同氏の発言ですが、本来は医療保険制度に関する戦略を語ったものであり、文脈を完全に無視した切り取りです。

Xは「害を及ぼす可能性のある合成メディア」を禁じる規約を持ちながら、今回の動画の削除や警告ラベル表示を行っていません。AI生成を示す透かし表示のみにとどまり、プラットフォームとしての対応の甘さが指摘されています。

米国では28州が政治ディープフェイクを規制する法律を持ちますが、多くは明確な開示があれば容認されます。選挙への影響を意図したものを禁じる州もありますが、巧妙化する手口に法整備が追いついていないのが現状です。

共和党側は批判に対し、「AIは現実だ。適応して勝つか、手をこまねいて負けるかだ」と反論し、AIの積極利用を宣言しました。倫理的な課題を抱えつつも、政治やビジネスにおけるAI情報戦はさらに激化する見通しです。

OpenAIは2025年10月17日夜（現地時間）、動画生成AI「Sora」で故マーティン・ルーサー・キング・ジュニア牧師のディープフェイク動画生成を停止したと発表しました。キング牧師の遺族から「無礼だ」との苦情が寄せられたことが原因です。同社は今後、他の歴史上の人物の遺族らも肖像の利用を拒否できる仕組みを導入します。

問題の発端は、Soraのユーザーによってキング牧師の「無礼な」AI生成動画が作成・拡散されたことです。これに対し、キング牧師の娘であるバーニス・キング氏がSNS上で、父親のAI動画を送るのをやめるよう訴えていました。キング牧師の遺産を管理する団体からの正式な要請を受け、OpenAIは今回の措置を決定しました。

今回の決定に伴い、OpenAIは歴史上の人物の肖像権に関する新たな方針を打ち出しました。今後は、故人の公式な代理人や遺産管理団体が、Soraでの肖像利用を拒否（オプトアウト）する申請が可能になります。表現の自由とのバランスを鑑みつつ、著名人や家族が肖像の使われ方を管理する権利を尊重する考えです。

OpenAIのこの対応は、サービス開始当初の著作権への姿勢と重なります。Soraは当初、アニメキャラクターなどの著作物を無断で生成し批判を浴び、後に権利者が利用を許諾する「オプトイン」方式へと方針を転換した経緯があります。倫理や権利に関する「後追い」での対応が再び浮き彫りになった形です。

米国では個人の肖像権を保護する連邦法は存在しませんが、州レベルでは法整備が進んでいます。特にOpenAIが本社を置くカリフォルニア州では、俳優などの死後のプライバシー権がAIによるデジタルレプリカにも適用されると定めています。AI技術の進化に法整備が追いついていない現状が課題となっています。

生成AIが社会に浸透する中、故人を含む個人の尊厳や権利をどう守るかが大きな焦点となっています。今回のOpenAIの対応は、テクノロジー企業が直面する倫理的・法的な課題の複雑さを示唆しています。企業は技術開発と並行し、社会的責任を果たすための明確なガイドライン策定が急務と言えるでしょう。

カリフォルニア州は13日、子どもをAIから守るため、米国初となるAIコンパニオン規制法と、ディープフェイク画像の罰則を強化する法律に署名しました。これは、チャットボット関連の自殺事件や、偽のわいせつ画像によるいじめ問題への対策として、2026年1月から施行されます。

新法では、ChatGPTなどを提供する企業に対し、利用者の自殺念慮や自傷行為を特定し対処するプロトコルの作成と公表を義務付けます。また、危機防止センターへの通知回数を保健当局に報告し、ウェブサイトで公開することも求められます。

さらに、チャットボットが治療者であると偽ることを禁止。子どもには休憩を促す通知を送ったり、わいせつな画像の閲覧をブロックしたりするなど、追加の安全措置も義務付けられました。

もう一つの法律は、ディープフェイクによるわいせつな画像を意図的に配布した第三者に対する罰則を強化します。被害者は1件あたり最大25万ドルの損害賠償を請求できるようになり、以前の上限15万ドルから大幅に引き上げられました。

これらの法整備は、急速に発展するAI技術に対し、いかに社会が安全性を確保していくかという課題に一つの答えを示すもの。他の州や国でも同様の規制の動きが加速する可能性があります。