機械学習のライターであり、ヒューマンイメージシンセシスのドメインスペシャリスト。Metaphysic.aiの研究コンテンツ責任者を務めていたが、DNEGのBrahma.aiへの統合により解散した。 Portfolio site： martinanderson.ai Contact：martin@martinanderson.ai
ChatGPTやその他のAI執筆ツールは、静かに科学を人気争いに変えている可能性があり、研究者を同じ論文へと何度も導きつつ、実際に分野を前進させ得る新しく斬新な研究を見過ごしています。 モノカルチャー, 頻度や統計の観点から、同じ限られた情報源や資産が何度も繰り返し現れ、新しい声や新鮮な視点を埋もれさせる現象です。例えば、ラジオの編成で同じ限定された楽曲が流れ続け、空港の書棚では同じ著者と書籍の束が並び、スーパーマーケットでは同じ限定された果物と野菜の選択肢が販売されることです。This occurs also in the 引用 that appear in new scientific research, where researchers, perhaps lazily, default to a ‘reliable’ set of sources that gain...
新しい研究によれば、競合企業のAIモデルが創造的な回答でますます似通ってきており、ユーザーが遭遇するアイデアの幅が狭まる可能性があることが示唆されています。 米国の新たな研究では、主要なAIモデルの幅広い範囲にわたる「創造的」出力が時間とともにますます類似していることが判明しました。デューク大学の研究者らは、2023年から2026年にかけてリリースされた12のプロバイダー系統の69モデルをテストし、実世界の自由形式質問と標準的な創造性テストの両方において出力の多様性が統計的に有意に低下していることを発見しました。これは、主要なLLMプロバイダー全体で「創造的」な要求に対してますます類似したアイデアが提供される可能性を示唆しています。テスト対象となったプロバイダー系統は、Anthropic、Cohere、DeepSeek、Google、Meta、MiniMax、Mistral AI、Moonshot AI、OpenAI、Qwen、xAI、そして Z.ai*:新しい論文の新しい論文の著者らは次のように述べています**:『我々は、オープンエンドのプロンプトへのLLMの応答が時間とともにますます類似してきていることを発見しました』『これは、オープンエンドの応答を生成するタスクにおいてLLMの創造性が低下していることを示唆しており、創造的アシスタントとしての長期的有用性を慎重に検証する必要がある』『algorithmic monoculture』は確立された研究分野となっていますが、AI生成の創造的出力における均質化傾向の検証はこれまで行われていなかったと、著者らは主張しています。しかし、孤立した事例がこの収束を示してきており、コーネル大学のMay 20026 studyで概説された奇妙なケースがその一例です。この研究では、さまざまなLLMプロバイダーが「灯台守」に関する奇妙で衝突する執着を示し、特に「Mara」や「Elias」などの時代錯誤的な名前が現れました:新しい研究はより体系的です: 研究者は3年間にわたるモデルを、実世界の創造的プロンプトと、日常的な物体の異常な使用法を求める古典的な心理学テストの両方でテストしました。その後、モデルの回答の意味的な距離を測定し、世代が進むにつれてその距離が縮小しているかを追跡しました。LLMは同様に創造的になっているのか？3年分のモデルからの証拠, †:『我々の発見は予備的なものではあるものの、LLMを創造的パートナーとして長期的に活用することへの懸念を提起します。たとえモデルが創造的タスクで優れた性能を示しても、出力が収束することでLLMユーザーが接する可能性の範囲が制限され、結果として彼ら自身の思考の幅も狭まる可能性があります。』『エッセイ執筆などの創造的タスクにLLMを使用すると脳活動が低下するという研究がありますが、我々の研究が示すようにますます創造性が低下したLLMを使用することは、人間の創造性へのLLMの影響をさらに悪化させる可能性があるでしょうか？この研究と他の研究で観察されています。』すでに、LLMテキスト出力の多様な特徴はミームの素材となっており、今年5月に報告したように、少なくとも1人の著者が前述の主要モデルに共通する「灯台」への執着を取り上げた本を自費出版しています。したがって、出版社がますます本を撤回し、AIが執筆したまたはAI支援されたものと疑うような状況下で、新たな研究は、見た目は人間が書いた作品、学生が提出した学術論文を含む、’プロットの偶然一致’が増加することを示唆しているようです。この収束がどこから来ているのかについて、著者らは重複するトレーニングデータとますます類似した最適化目標が、モデルを概念や意味関係の内部表現で類似させ、最終的により似通った回答を生み出すと仮説を立てています:『[それ]は、この均質性がまだ発展途上の技術の一時的な副産物なのか、統計的言語モデルの不可避的で、潜在的に累積的な特徴なのかは不明です。』『妥当な要因は両方向に指し示しています。重複データで訓練され、類似した目標に最適化された生成モデルは、概念や意味関係をますます類似した方法で整理し、結果として似通った出力を生むという学術的研究が増加しています。』しかし、著者らは研究を引用し、モデルが進化するにつれて創造的出力に関して再び独自の特徴セットへと分岐する可能性があることも指摘しています。方法AIモデルがますます類似しているかどうかを追跡するために、研究者はオープンエンドの質問から始め、世代を超えたモデルの回答を収集しました。各回答は意味の数値表現に変換され、応答がどれだけ似ているか、あるいは異なるかを測定できるようにしました。回帰分析を用いて、これらの差が新しいモデルがリリースされるにつれて縮小しているかどうかを確立しました:創造性を異なる視点からテストするために、2つのプロンプトセットが選択されました。まず、Alternate Uses Task（AUT）は、発散的思考の標準的な心理学テストで、普通の物体の非凡な使用法を求めます。本研究では本、靴、ハンマーなどの物体が使用されました。その固定フォーマットは、異なるモデルが生成したアイデアを比較するための統制された方法を提供しました。さらに100のプロンプトがInfinity-Chat100から抽出されました。これは言語モデルとの実世界の会話から得られたコレクションです。これらはコンテンツ生成、問題解決、ブレインストーミング、アイデア創出など、制約の少ない創造的タスクを含み、生成される回答やアプローチに対してより大きな自由度を許容します。完全なAUTとInfinity-Chat100のプロンプトセットは、2023年3月から2026年7月までにリリースされたモデル（Anthropic、Google、Meta、OpenAI、DeepSeek、Mistral AIの12プロバイダー）に送信されました。すべての応答はOpenRouterのAPIを通じて同一のサンプリング設定で収集され、temperature（創造的に応答する自由度）とtop-pはともに1に設定されました。モデルはリリース月順に並べられ、新しい世代がより類似した回答を生成しているかどうかが検証されました。リリース日自体はトレーニングデータ、アーキテクチャ、ポストトレーニングの変化を必ずしも捉えないため、著者らはこの傾向をモデル開発との関連として扱い、時間の経過自体が収束を引き起こす証拠とは見なしていません。その後、モデルの回答はall-MiniLM-L6-v2 sentence-transformerを用いて埋め込みに変換されました。各回答は数値ベクトルとして表現され、意味が似ている回答は類似した方向に配置され、その意味的距離を測定できるようになりました。AUTでは、各オブジェクトに対して提案されたすべての使用法を単一の回答として扱い、モデルごとに10個の埋め込みを生成しました。Infinity-Chat100では、各回答を個別に埋め込み、モデルごとに100個の埋め込みを生成しました。27か月のリリース期間は9つの時間帯に分けられ、異なるプロバイダーのモデルのみが比較されました。各期間内で回答間の意味的距離が測定され、距離が小さいほど類似度が高いことを示します。モデル数が多いプロバイダーが結果を支配しないように、各プロバイダーから均等にサンプルを抽出し、分析を1,000回繰り返しました。結果その後、線形回帰を用いて時間経過に伴うこれらの距離を追跡し、一貫した負の傾きが異なるプロバイダーのモデルがますます類似していることを示しました:これらの結果で著者らが強調した点は:『AUT と Infinity-Chat の両方の応答セットにおいて、観測期間中にプロバイダー間の出力距離が減少していることが観測されました。』『これは、時間とともにLLMの創造的出力の多様性が低下し、均質性が増加していることを示唆しています。』古いモデルと新しいモデルの差は、Alternate Uses Task で最も顕著でした。最初のモデルで約0.50だったプロバイダー間の平均距離は、最新モデルでは0.40未満に低下し、回答が大幅に類似したことを意味します。同様のパターンはInfinity-Chat100でも見られましたが、変化は小さく、平均距離は約0.34から0.32付近に低下しました。この発見は、1,000回の均衡再サンプリングすべてで再現されました。すべての場合において、新しいモデルは古いモデルよりも回答がより近くなっていました。これらの減少幅と研究者の95％信頼区間は上図に示されています。この点に関して、論文は次のように述べています:『AUT の減少幅は、タスクの目的を考えると特に注目すべきです。AUT は、モデルにできるだけ独創的かつ予想外の使用法を生成させることで発散的思考を明示的にテストするため、出力が異なることが期待される正確な設定です。』Infinity-Chat の結果は、同様の傾向がはるかに広範な創造的タスクでも現れたことを示しています。100のプロンプトはモデルに多様なオープンエンド回答を生成させ、これらの回答は時間とともにより類似していきました。この変化は Alternate Uses Task よりも小さかったものの、2025年以降にリリースされたモデルでより顕著になりました。著者らは、これは特定のテストだけでなく、一般的に異なるAIプロバイダーの創造的出力がますます類似していることを示す早期の兆候である可能性があると示唆しています。結論LLM...
MITの研究者らは、数週間にわたる個人の実際の会話から繰り返し現れるパターンを学習し、次に起こりうる会話行動を予測するLLMベースのシステムを開発しました。 もしAIが本当にあなたの生活にアクセスでき、本当に長期間あるいは継続的にあなたを知ることが許可されたなら、何千時間にも及ぶあなたのやり取りから得た情報をもとに、あなたの行動や意思決定、さらには次に言いそうなことさえ予測できるでしょう。ChatGPTやClaudeといった大規模言語モデル（LLM）を日常的に使っている私たちは、使用履歴に基づく「ニーズの先取り」傾向にすでに気付いており、記憶保持とコンテキストが重要な摩擦点となっていることに気付いています。しかし、臨時的かつライブ配信された情報さえを営利企業が運営するAIシステムに提供することは、潜在的なプライバシー・セキュリティリスクであると言えるでしょう。サービスは確かに便利になるものの、企業がデータを共有したくなる誘惑と、恥ずかしいオンライン漏洩や情報流出のリスクが重なると、このレベルのAI／人間統合は賢明とは言えません。もし私たちが素晴らしいものを手に入れられるとしたら…まずは興味深い新論文に取り掛かる前に「公共サービス警告」を済ませる必要がありました。この論文は、データが安全かつ真に信頼できるサークルに閉じ込められた理想的な世界を想定しており、分析AIの真の力を個人の利益に活かすことができると示唆しています。新しい研究は、ユーザーの許可とデータ取得に対するコントロールを前提に、装着したスマートウォッチが会話を継続的に記録し、行動パターンを抽出するシステムを提案しています：論文のタイトルはBefore You Say It: Anticipating Verbal Behavior from Longitudinal Everyday Conversations with LLMsで、14名の参加者からスマートウォッチを通じて1,000時間以上の自然発話（すなわち、機会的・実世界的会話）を収集し、文字起こし・構造化された行動履歴に変換したうえでGemini 2.5 Proに行動特化プロンプトと抽出された行動規則を供給し、各ユーザーの次に起こりうる会話行動を予測させました。(そして、なぜこの新論文がプライバシーに関する文脈を必要とするのかが明らかになるでしょう)この新しい研究は、著者らが2026年に発表したMind Mapperという出版物*を実践に移したフィールド実験であり、学習した行動パターンがリアルタイムでユーザーの次の会話行動を予測できるかどうかを検証しています。「我々の結果は、長期的な会話から抽出された状況特化型行動パターンが、ユーザーの言語的行動傾向の予測を実質的に改善できることを示しています。アプローチの大きな強みは、これらを人間が読めるコンテキスト条件付き行動パターンとして表現し、明示的な例外条件を付与できる点です。」「参加者はこの透明性を評価し、推測されたパターンを読んで修正し、個人的な目標を設定できることを高く評価しました。」「参加者は自らの行動変容戦略についても考察し、プロアクティブなシステムが注意を再配向し、代替案を提示し、目標に結びつく再構築を提示することで支援できる可能性を示唆しました。」「これは、ユーザーが認識し、既に効果的と感じているパターンに基づく介入を行う、予測的AIへの道を開くものです。」方法前述のMind Mapperは新システムの基盤であり、数週間にわたってスマートウォッチで記録された会話から繰り返し現れる行動規則を学習するワークフローを提供します。直接的に将来の発話を予測しようとしたり、汎用データセットに依存したりするのではありません。Mind Mapperのワークフローでは、すべての記録会話が文字起こしされ、匿名化され、マルチステージのGPT-5 パイプライン**を通じて処理されました。(古い論文の保護措置により、低解像度版しか公開されていないため、画像を提供できないことにご留意ください。)このパイプラインは、会話状況と予測される返答を結びつける候補の‘if-then’行動規則を生成し、支持的証拠と矛盾的証拠を検索、重複規則を統合、弱い仮説を除外し、信頼度と確率推定を付与します。対象者14人の英語話者の成人が、7〜10日間にわたり日常生活でスマートウォッチを装着しました。デバイス内の音声活動検知器は音声が検出されたときのみ録音し、2〜3分の音声クリップをリモートサーバーへ送信しました。参加者には100ドルが支払われ、会話が記録されることを近くにいる人に伝え、各やり取りの前に相手の同意を得ることが求められました。文字起こしと検証音声クリップはDeepgramのNova-3-meetingモデルで処理され、会話の文字起こしと話者の区別が行われました。その後、SpeechBrainを話者認証モデルとして使用し、参加者の声と20秒の登録サンプルを照合しました。spaCyの固有表現認識(NER)モデルは、名前やその他の個人識別情報を匿名プレースホルダーに置き換えました。元の音声は削除され、AES-256-GCMで暗号化された文字起こしのみがスマートウォッチにローカル保存されました。収集期間終了後、参加者はウェブインターフェースを通じて自分の文字起こしを確認し、研究に含めたくない部分を削除したり、話者ラベルや会話コンテキストを必要に応じて修正したりできました。平均で、文字起こし全体の0.16%が削除され、2.48%のセグメントが誤分類としてフラグ付けされ、最終的に14名の参加者から合計15,066件の発話がデータセットに残りました—うち57%が装着者、43%が他の話者によるものです。平均発話長は49語でした。(ただし、論文ではこの点には触れられていませんが、参加者は時計を装着している間、極めて個人的な口頭交換に巻き込まれないよう警戒していたと推測できます。)文字起こしはさらに、極端に短いやり取りや「えー」や「うん」といった一般的な話し言葉の不流暢を除去し、断片化した文を完全な発話に統合することでクリーンアップされ、最終的に9,901件の発話に削減されました。アプローチの評価のため、Gemini 2.5 Proに対話履歴だけ、要約された対話だけ、そして新しいMind Mapperの行動規則だけを入力し、各参加者の次の会話返答を予測させました。その性能は3つの入力条件で比較され、学習したパターンの寄与度が直接測定できました。GPT-5は自動評価者として予測をスコア付けし、別途実施した人手評価でもその信頼性が確認されました。データとテストテスト結果は、ベースライン手法が著者らのパターンベースアプローチに大きく劣り、会話データが蓄積されるにつれて精度が継続的に向上したことを示しています：著者らは、システムが特に参加者が明示的に変えたいと望む行動を予測するのに効果的であったと主張しています。40人の独立した人間評価者による検証研究でも自動評価が裏付けられ、パターンベース手法がテストシナリオの43%で最高評価を得、全文コンテキストが24%、ゼロショットが18%、要約が15%に次いで高評価となりました。人間評価は、コミュニケーション意図、具体性、機能的複雑性の3指標でモデルベースのスコアと高い相関を示し、会話行動の自動評価の有効性を裏付けました。続く2つの追跡研究では、参加者が自らの抽出パターンにどのように反応したか、そしてこれらの予測が実際に習慣変更に役立つかが検証されました。参加者はまず自分の規則を見直し、変えたい行動にフラグを付け、数か月後にその戦略と実際に役立ったアシスタントの「ナッジ」について議論しました。参加者は合計114の習慣を変えたいとフラグし、912の会話シーンにわたって記録しました。これらのやり取りでテストした結果、パターンベース手法は標準手法を約40%上回り、著者らはシステムが特に根深い習慣、すなわち参加者が積極的に変えようと望む行動を予測する際に最も効果的であると結論付けました。「総じて、我々の発見は、個人固有の言語行動が長期的な会話データから予測可能であるという証拠を提供します。」「これは、将来的に文脈認識型・予測的・プロアクティブかつパーソナライズされたAIシステムの新たな可能性を切り開くものです。」結論高度に政府規制された医療や精神医療のような領域を除き、参加者に対する明示的または暗黙的な強制（例：保険料の割引など）がなければ、このアプローチがプライバシーや個人の神聖さを危うくしない利用シーンを想像するのは困難です。特に、記録された会話データと個人に関するデジタル情報やその他のデータを相関させ得るエージェントと結びつく場合はなおさらです。MITの論文は、このアプローチに対して興味深くやや治療的な文脈（例：食事に関する文脈認識型リマインダーの提供）を示唆していますが、実際には広告主や保護観察・刑務所機関、保険会社、その他多数の企業や国家機関が「人々の考えていること」を知りたがる対象となりやすいでしょう。もし本当にローカルAIを完全にユーザー所有かつリングフェンス化すべきという説得力のある議論があるとすれば、それは本研究のように重大なプライバシー侵害リスクを伴うシステムにこそ当てはまります。しかし、近年の広告・監視技術の歴史は消費者の無関心へと向かってきたことを示しており、このような侵入的かつ遍在的なシステムに対しても同様の無関心が続く可能性があります。 * 高解像度画像が公開されていない、より厳重に保護された出版物です。ただし、いくつかの手順を踏めばテキストは読むことができます。** 強調しすぎではありませんが、古い論文はかなり入手が困難ですので、根気強く探してください！最初に公開されたのは2026年8月20日（木）です。
新たな研究は、いくつかのAIモデルが英語ではなく日本語で推論すると核攻撃を推奨する意欲が大幅に低下することを示唆しており、AIが「考える」言語が道徳的判断に密接に影響を与える可能性があることを明らかにしています――これは生来的な文化的埋め込みによるものと考えられます。 フランスの新たな研究は、広島と長崎に関する日本の集合的記憶が日本語に極めて深く埋め込まれている可能性があり、その結果、いくつかのAIモデルは英語で推論する場合に比べ、日本語で推論すると核攻撃を推奨する可能性が劇的に低くなることを示唆しています――なお、これらの出来事に関連するキーワードはモデルの推論記録には全く含まれていません:主要な大規模言語モデル（LLM）を対象にシミュレートされた核危機の一連のシナリオにおいて、モデルの内部推論に使用する言語（すなわち国語）を単に変更するだけで、道徳的コストや民間人の命、核戦争の人道的影響といった考慮点が強調されることがしばしば見られました。この重要性は必ずしも特定のユースケースや日本語に限定されたものではなく、むしろ文化的規範が言語モデルに深く概念的かつ超言語的なレベルで符号化されているという考えを裏付けるものです。そして、そうした規範が重要な意思決定プロセスにおいて抑制的な影響を及ぼす可能性があり、AI対応技術やフレームワークの開発者が望む方向とは必ずしも一致しないことを示唆しています。The author states:‘モデルに求められる推論言語が、入力言語ではなく、効果を左右する要因です。日本語で推論する際、モデルは自発的に「道徳的コスト」や「何百万もの命」などの道徳的語彙を生成しますが、これらはプロンプトには全く含まれていません。’‘他の5つのモデルは言語効果を示さず、言語に関係なくほぼすべての条件で核攻撃を実行します。’The models tested for the study were Claude Sonnet 4.6, Claude Opus 4.6, Claude Haiku 4.5, Gemini Flash 3, Gemini Pro 3.1, GPT-5.2, Mistral...
新しい研究によると、普通の書式設定が静かにAIの推論を誘導し、単語を見落としたり意味を誤読したり、テキスト自体を変更せずに異なる結論に至らせることがあることが分かりました。 人間の色に対する文化的符号化は世界各地でさまざまに異なる可能性がありますが、西洋の概念―たとえば「危険」を赤、「OK」を緑―は、ビジョン言語モデル（VLM）でも、さまざまな戦略的・偶然的な理由で支配的です。私たちも同様です；「悪い」ものをポジティブな色で、「良い」ものをネガティブな色で彩ると、人間の反応が変わることが示されています。明るさとコントラストを変えることも同様です。新たな研究協力により、これがAIモデルにも当てはまる範囲が調査され、VLMがテキストの色を操作するだけで、さらには相対的なコントラストや明るさを変えることで影響を受け得るという予備的な兆候が明らかになりました。「我々の実験は、テキストの低レベルな視覚的スタイリングがVLMのビジョンエンコーダ内の意味表現をどのように歪めるかを体系的に分析したものです。さらに、これらの潜在空間シフトが主観的（感情分析）および客観的（質問応答）タスクにおけるエンドツーエンドVLMの行動変化としてどのように現れるかを検証しました。」「これらの結果は、視覚的スタイリングがVLMにおける重要で、これまで十分に探求されてこなかった脆弱性を露呈することを示しており、VLMパイプラインの堅牢性と安全性への影響について議論します。」色で驚く現在、検索結果にAI要約が登場し、検索トラフィックが激減した何十億もの企業や個人、さらにAIサマリーの出現やLLMを検索オラクルとして利用するシフトに直面している中で、この種の攻撃面は現在非常に魅力的です。Redditの絶え間ない人間の議論がAIの知識を最新に保つために重要であるため、同プラットフォームはLLMの知識に取り込まれたい企業や個人にとって主要な標的となっています。すでにRedditを「ゲーム化」してLLMに影響を与える手法に関するガイドが登場しています。同様に、機械だけが見るテキストを埋め込む古典的な手法があり、これによりLLMに隠れた自己利益的指示を渡すことができます。たとえば学術トーナメントで勝つ、あるいは試験結果に影響を与えるといった目的です。最近、Time誌はAIクローラーだけが閲覧できる「シークレット」版サイトに広告を掲載し、広告主がAIの応答でより目立つ（あるいはより肯定的な）位置を買える可能性を示唆しています。したがって、色分けされた回答を「切り替えて」結果を操作できるような新たなLLM/VLMの弱点は、フロンティアAIからメディアナラティブの支配権を取り戻そうと必死の世界にとって明白な標的です。たとえば、汚染工場を建設しようとする企業が、地元の水質低下という「ネガティブ」なニュースを回避するために、マーケティング資料やプレスリリースで色分けされたスピン語彙を使用するといったケースが考えられます。CSSやSEO技術を戦略的に利用すれば、AI専用のスタイルシートを配信し、人間の読者には黒字だけが見えるようにしつつ、テキストに色の強調を隠すことさえ可能です。「これらの感受性は、文書やUIスクリーンショットを取り込むVLMパイプラインに対して、善意でも悪意でもスタイリングがテキスト自体を変えずにモデルの判断を誘導できるという信頼性と安全性のリスクを示唆しています。」「実践的な対策としては、推論前にレンダリングされたテキストを正規化すること、画像ベースの回答をOCRで抽出したテキストと照合すること、評価スイートにスタイル不変性チェックを追加することが挙げられます。」新しい研究はSeeing Red, Thinking Bad: Color Bias in Vision Language Modelsというタイトルで、AIST、筑波大学、ニュルンベルク工科大学、オックスフォード大学の5人の研究者によるものです。プロジェクトはGitHubリポジトリとプロジェクトサイトを備えています。方法視覚的提示だけがモデルにどれだけ影響を与えるかを調べるため、研究者は「ステルス・ビジュアル・プロンプト」―AIに対する明示的指示を含まない、見た目は普通のテキスト書式変更―を開発しました。これは、肯定的または否定的な単語の色を変える、あるいは誤答を正答より目立たせるといった単純な操作で、実際の文言はそのままにするだけです。タスクごとに異なるテキストを生成し、感情テストでは肯定・否定語を含む中立テンプレートを使用し、Visual Question Answering（VQA）テストではSQuADの質問‑コンテキストペアを利用しました。このキュレーションされたコレクションはVQA Stealth Setと名付けられました。テキストは800×600pxの標準キャンバスに固定レイアウトで描画し、対象となる視覚的スタイリングのみが変更されるようにしました。色とコントラストは独立して操作し、色テストは学習された意味的連想を、コントラストテストは視覚的顕著性を評価しました。選択された単語を再着色し、全体の文章を低コントラストで描画する、あるいはSaliencyコンペティション設定で誤答を正答より視覚的に目立たせるといった手法を取りました。このようにして得られたモデル応答の変化は、テキスト自体の変更ではなく視覚的スタイリングのみが原因であると帰属できます。データとテストVLMが画像として提示されたテキストをどのように処理するかを表す3つの異なるテストセットが作成されました。Short-sentence Sentiment Setは、肯定語または否定語を含む中立テンプレートから生成された100文の短文を、黒文字ベースに加えて6色（赤・緑・青・黄・シアン・マゼンタ）×3段階の強度で計37通りの視覚バリエーションで描画したものです。Long-sentence Sentiment Setは、肯定語と否定語をテキストの別々の部分に分割した長文を使用し、文書構造や位置効果（プライマシーまたはリセンシー）が色バイアスを上回るかを検証しました。同じく37色条件が適用されました。VQA Stealth Setでは、質問とそれに対応するコンテキストを画像化し、2つのコントラスト条件をテストしました。Global Contrastでは文書全体の可読性を段階的に低下させ、Saliency Competitionでは正答または意味的に類似したデコイ語（CLIP類似度で選択）を高コントラストで描画し、残りのテキストを薄くしました。指標各例はPOSITIVE、NEUTRAL、NEGATIVEのいずれかに分類され、全黒ベースライン（白背景に黒文字）と比較して、色だけで予測がどれだけ肯定的または否定的にシフトしたかを測定しました。VQA実験はトークンレベルのF1スコアで評価し、予測回答と正解回答を比較しました。Induced Error Rate（IER）という新指標は、Saliency Competitionテストで、テキスト可視性が低下した際に視覚的に強調されたデコイ回答が選択される頻度を測定するために導入されました。さらに、CLIP表現プローブを用いて、色の変化がCLIPの埋め込み空間内で単語の意味表現に与える影響を測定しました。加えて、VLMベースの光学文字認識（OCR）プロキシを使用し、段階的に低コントラストになるにつれて個々の単語がどれだけ読めるかを評価し、テキストが実質的に読めなくなる点を推定しました。評価には4つのオープンソースVLMを使用しました：LLaVA-v1.6-Mistral-7B、LLaVA-v1.6-Vicuna-7B、Qwen2-VL-7B-Instruct、およびIDEFICS2-8Bです。著者らは、固定されたプロンプト、描画設定、決定的デコードを用いて実験を再現可能にするため、オープンソースモデルを選択したと強調しています。結果著者らはまず、単語レベルの色バイアスを利用したShort‑Sentence Sentiment...
中国からの新しい研究は、画像生成時に著作権保護されたアニメーションキャラクターを汎用的な代替品に置き換えることで、これらのキャラクターを保護するための非侵襲的な方法を提供しています。しかし、この方法はプロンプトハッカーの工夫に対抗できるのでしょうか。 著作権保護された素材が大量に含まれるハイパースケールデータセット（そのような侵害を除去するための費用が非常に高いため）があるため、これらのデータセットでトレーニングされたモデルは、著作権保護されたキャラクターを再現できることが多いです。トレーニング済みモデルの直接的な編集、またはモデルのアクセス時にキーワードを傍受するためのフィルタの使用は、著作権保護された要素を間接的に記述することで、頻繁に回避されることがあります。研究の強い流れでは、モデル修正技術が、トレーニング済みモデルのパラメータを変更して、さまざまな結果をもたらすことを試みてきました。しかし、ablationは通常、損傷的で不正確なプロセスであり、トレーニング済みモデルの他の特性に頻繁に影響を及ぼすことがあります。また、この方法を回避するための複数の方法があります。もう1つの一般的なアプローチは、「否定的なプロンプト」と呼ばれるもので、モデルに追加の「反対のプロンプト」を送信して、出力を制限することを目的としています。モデルがAPI経由でアクセスされる場合（例えば、フロンティアモデルはすべてAPI経由でアクセスされる）、「秘密」の否定的なプロンプトがユーザーが知覚するプロンプトとともに送信されることがあります。これは、モデルがユーザーに禁止された素材を提供しないようにするためのルーブリックです。このアプローチは、人気があり、著作権保護のベクトルとして使用されていますが、常に効果的ではないことがあります。ボディーダブルこのことを見据えて、中国からの新しい論文は、画像生成時に著作権保護されたアニメーションキャラクターを「学習された汎用的な代替品」に置き換えることを提案しています。これらの「代役」は、シーンを自然に埋め込むのに十分なキャラクターの形状と構造を保持しながら、保護されたキャラクターの特徴的な詳細を除去するように設計されています。この介入は、画像生成中に発生し、基礎となる拡散モデルを変更またはファインチューンすることなく行われ、元のキャラクターをどの程度除去するかを決定することができます。このアプローチは、モデル修正がこの目的のために適切な方法ではないことを暗黙に認めており、代わりに「工夫された埋め込み」を推論プロセスに「注入」します。これらの埋め込みは、保護されたアセットを「リファクタリング」するように設計されており、ゼロ化（削除）するのではなく、代役を作成するために使用されます。このプロセスは、基礎モデルのパラメータに直接影響を及ぼさず、さまざまなモデルで再利用または適応できるように設計されています。この方法は、古いStable Diffusionモデル範囲でテストされましたが、最近のZ-Imageアーキテクチャでも有効に機能したため、著者の概念がさまざまな生成アーキテクチャに適用可能であることが示唆されます。論文には以下のように記載されています：‘[私たちは]、モデルが連続するテキスト表現を操作して、生成中にターゲットキャラクターを消去することができる、制御可能な方法を提案します。構造的および詳細な制約を使用して、キャラクターの代理として機能するアンカー埋め込みを最適化し、構造に応じた適応戦略を使用して、ターゲット関連埋め込みをアンカーに置き換えます。 ‘‘実験結果は、私たちの方法が最先端の消去の有効性と画像の忠実性の保存を達成し、制御可能な消去度、複数のターゲットの削除、モデル転送可能性をサポートしていることを示しています。 ‘‘さらに、私たちの最適化されたアンカーは、現在のモデル修正のベースラインと組み合わせて使用でき、消去のパフォーマンスを向上させることができます。 ‘この新しい論文は、消去して保存する：最適化されたセマンティックアンカーを介した著作権保護されたアニメーションキャラクターの制御可能な削除というタイトルで、中国科学院情報工程研究所と北京の中国科学院大学の7人の著者によって発表されています。方法新しい方法の中心的な考えは、各著作権保護されたキャラクターの代替品を作成することです。この代替品は、シーンを自然に埋め込むのに十分なキャラクターの形状と構造を保持しながら、保護されたキャラクターの特徴的な視覚的な詳細を除去するように設計されています。この代替品、つまり「アンカー」と呼ばれるものは、元のキャラクターの形状と構造を保持しながら、キャラクターを特定できる詳細を除去するように設計されています。これを行うために、システムは、元のキャラクターに対して生成された粗い構造情報と、開発中のアンカーに対して生成された構造情報を比較し、2つを同様の全体的な形状に向けて推進します。保護されたキャラクターのリファレンスイメージは、アンカーをその認識可能な詳細から遠ざけるために、逆の目的で使用されます。結果として得られるアンカーは、シーンの構成を保存し、保護されたアイデンティティを除去することを意図した中間の地平を占めます。アンカー・アウェイこれらの特性が確立されると、アンカーは、拡散モデルが理解できるものに変換される必要があります。プレースホルダーターム アンカー* [sic] は、学習可能な表現 を CLIPテキストエンコーダー 内に取得し、基本的に、意味を形成できる新しい人工的な単語/エンティティを作成します。この新しい表現は、上記で説明した構造的および詳細な目標に従って繰り返し調整され、アンカー* が、保護されたキャラクターの形状と構造を広く保持しながら、認識可能な外観を除去することを意味するように教えられます。テキストエンコーダーの残りの部分は、このプロセス中に凍結されますが、アンカー* を囲む通常の開始、終了、パディングトークンは、アンカー* を新しく学習された疑似単語に変換するために必要なコンテキストを提供します。適応的な置換（推論）生成中に、アルゴリズムは、エンコードされたプロンプト内で保護されたキャラクターに関連する用語を検索し、学習されたアンカー埋め込みをその代わりに置き換えます。また、コンテキスト情報を運ぶ終了およびパディング埋め込みを調整します。これに備えて、システムは、ノイズ除去を使用して、リクエストされた画像の粗い構成を確立し、画像の構造が安定し始めた時点で、置き換えをトリガーするために、構成の変化を監視します。上の画像では、約タイムステップ720でこの遷移が発生し、構造的変化が最大になり、次に減少します。この時点で、画像の全体的な配置はほぼ形成されており、アンカーが保護されたキャラクターを置き換えることができ、既存の構成を乱すリスクが軽減されます。データとテスト著者は、5つのプロンプトベースのベースラインと比較してアプローチをテストしました：Safe Latent Diffusion（SLD）；STG；SAFREE；TraSCE；および否定的なプロンプト（NP）。最適化されたアンカー埋め込みは、4つの既存のモデル修正方法に統合されました：MACE；UCE；ESD-u；およびAC。これは、キャラクターの除去における提案されたモデルのパフォーマンスを向上させることができるかどうかをテストするために行われました。評価のために、80のアニメーションキャラクターのデータセットが作成されました。これには、36の人間型キャラクター、23の動物型キャラクター、21のその他のカテゴリがあり、すべての選択されたキャラクターは拡散モデルによって信頼性高く再現できるため選択されました。次に、GPT-4oによって生成されたプロンプトを使用して、各キャラクターに対して100枚の画像が生成されました。Stable Diffusion v1.4が主な実験で使用され、転送可能性はさらにv1.5、V2、v2.1、XLベース1.0、および最近のDiTベースのZ-Imageでテストされました。各事前トレーニング済みモデルのパラメータに対するファインチューニングは実行されませんでした。メトリックとして、LLaVA-1.5とBLIP-3は、ターゲットキャラクターがまだ認識可能かどうかを測定しました。認識精度が低いほど、除去がより完全であることを示します。構造的類似性を測定するために、構造的類似性指数(SSIM)が使用されました。認識可能な違いを測定するために、学習された認識メトリック(LPIPS)が使用されました。視覚的な品質を評価するために、エステティック・プレディクターV2スコアが使用されました。Fréchet Inception Distance(FID)とCLIPスコアも、COCO-30Kの無関係なプロンプトから計算され、通常の画像生成が影響を受けたかどうかを測定するために使用されました。これらの初期結果の量的比較について、著者は以下のように述べています：‘全てのベースラインと比較して、私たちの方法は、LLaVA-1.5（6.0％）とBLIP-3（4.0％）の両方によって行われたターゲット識別の精度が最も低くなり、2番目に低い結果と比較してそれぞれ3.5％と1.7％の低下を示した。これは、私たちの方法の除去の有効性を示し、多モーダル大規模モデルを効果的に欺くことができることを示しています。 ‘‘これは、私たちの方法の除去の有効性を示し、多モーダル大規模モデルを効果的に欺くことができることを示しています。 ‘画像の忠実性については、著者の方法は0.467のSSIMスコアで最高スコアを達成し、0.505のLPIPSスコアで最低スコアを達成しました。これは、無関係なコンテンツと背景構造の保存が最も強いことを示しています。さらに、キャラクター除去方法の中で最高のエステティック・プレディクターV2スコア（5.18）を達成し、保存によって全体的な視覚的な品質が損なわれないことを示しています。質的テストが続きました：論文によると、例は、特に複雑な形状と属性を持つキャラクター、たとえばドナルドダックとスーパーマリオに対して、特に顕著な違いを示しています：‘[私たちの]方法は、最適化されたアンカーを介してアニメーションキャラクターの無縫な除去を達成し、特に複雑な形状と属性を持つキャラクター（例：ドナルドダックとスーパーマリオ）の場合、プロンプトベースのベースラインはしばしば失敗します。 ‘‘さらに、私たちの方法は、ぼけや歪みのアーティファクトなしに背景の一貫性を維持し、イテラティブなクリエイティブなワークフローをサポートします。 ‘グラニュラーな制御連続的な埋め込み空間により、キャラクター除去の強度を調整することができ、除去をすべてまたはなしのプロポジションとして扱うのではなく、キャラクターを徐々に復元することができます。最適化されたアンカーと元のターゲット埋め込みの間を補間することで、メソッドはキャラクターを徐々に復元しながら、周囲の画像構造を保持することができます。上記のように、著者はウィニー・ザ・プー、オラフ、ミニーマウス、スティッチのキャラクターに対してこの制御をテストしました。構造的類似性は、復元の強度が変化するにつれて比較的安定したままでありましたが、LLaVA-1.5とBLIP-3によって行われた認識は、キャラクターのより多くの部分が復元されるにつれて増加しました。ウィニー・ザ・プーとスティッチは、比較的狭い範囲で認識可能になりました。オラフとミニーマウスはより漸進的に変化しました。ミニーマウスは、比較的少ない量の復元で認識可能になりました。これは、適切な除去の強度は、対象となるキャラクターによって異なることを示しています。複数のターゲットを一度に置き換えるための追加の実験が成功し、その詳細については、読者に元の論文を参照するようお勧めします。結論いつものように、この最新の著作権保護の「ガードレール」は、馬が逃げてしまった後に厩戸を閉めるようなものです。研究者や企業が、モデルがヌードやポルノを生成する能力を抑制しようとした場合、データセットから「NSFW」コンテンツへの内部アクセスを実際に切断することは、コンテンツをきちんとキュレーションするにはまだ高すぎるコストであることがわかりました。そうすると、モデルは人間の解剖学を適切に理解できなくなります。ここで提案されている新しいアプローチは、実際には、トレーニングデータに無差別にスクレイピングされた大量のWebコンテンツに基づいてNSFWフィルタを構築する場合、特定のポルノスターを「除去」または「汎用化」することに相当します。新しい方法では、著作権保護されたキャラクターの「汎用的な代役」を作成する必要がありますが、モデル内の「スーパーヒーロー」ドメインを完全に除去するのではなく、保護されたキャラクターの「ドメイン」を定義するため、トレーニング空間内で保存する必要があります。したがって、キャラクターを除去することは、コーヒーから砂糖を取り除くことに似ており、コーヒーに砂糖が入った後にそれを混ぜた場合と同じです。したがって、このアプローチは、フロンティアモデルの拡大するAPIファイアウォールに追加される場合、限られた成功を収めるかもしれませんが、歴史的に、GenAIモデルの相互接続性は、著作権保護された素材が、プロンプターの通常の工夫によってアクセス可能なままであることを示唆しています。 2026年8月14日金曜日に初めて公開されました
待ちが必要な分野で、新しいシステムが登場し、ライブストリーミングの人間シミュレーションを実現するために、苛立たしいレンダリングの待ち時間を減らすことができました。 フルボディシミュレーションの最新技術は、2022年にフルボディディープフェイクが初めて登場して以来、大きく進歩しました。現在、Wan-AnimateやGrokなどのオープンソースシステムやクローズドソースシステムが、1枚または複数の画像を一貫した動画パフォーマンスに変換するという、すでに馴染みのある能力に慣れています。再生するにはクリックしてください. WanAnimate-2.2の人物置換の例です。より高解像度の場合は、ソースを参照してください。 ソース さらに、従来のオートエンコーダーベースのリアルタイム顔ディープフェイクフレームワークであるDeepFaceLiveは、Deep-Live-Camなどのより高度なフレームワークに取って代わられました。Deep-Live-Camは、LivePortraitのイテレーションをオーケストレーションし、レガシーのGANとInsightFaceモジュールを利用して、リアルタイムのディープフェイク動画を生成します。再生するにはクリックしてください. Deep-Live-Camを使用したElon Muskのディープフェイク動画です。より高解像度の場合は、ソースを参照してください。 ソース しかし、Deep-Live-Camのようなフレームワークは、解像度と機能性の点で制限があります。たとえば、特定の顔やアイデンティティを生成できますが、ライブストリーミングの全身シミュレーションには不適切です。BRB…現在のAI人間模倣システムのほとんどは、同様に制限されています。特に、最も優れた人間シミュレーション/模倣システムはオフラインで動作し、リアルタイムで動作するにはリソースが不足しています。これらのシステムは、ダンスなどの全身動作をライブストリーミングするには不適切です。最近の例として、オープンウェイトのWan2.2 Animateがあります。これは、趣味のコミュニティとプロのリセラーに人気がありましたが、生成と待機のシナリオです。再生するにはクリックしてください. 2025年からのWan2.2 Animateの機能の例です。少しの忍耐強さが必要です。より高解像度の場合は、ソースを参照してください。 ソース 現在、優れた、多才な、または迅速なものを選択する必要があります。LiveAnimate中国から新しいシステムが登場し、Wan2.2 Animateをライブドリブンアニメーションフレームワークに変換し、現在、近似20fpsで動作し、さまざまなシナリオで印象的な結果を出しています。再生するにはクリックしてください: プロジェクトサイトから、LiveAnimateはステージダンス、屋外の全身、クローズアップポートレートのシナリオで、全身、手、顔の動きを再現しています。 . より高解像度の場合は、ソースを参照してください。 ソース 新しいシステムは、ビデオを生成する方法を変更することで、ライブ対応バージョンを実現します。過去と未来のフレームを一緒に処理するのではなく、各新しいセグメントをアクションが展開されるにつれて生成します。さらに、長いセッション中にサブジェクトの外観を一貫性を持たせるために、選択された以前のポーズを保持します。これは、古典的なCGIシステムがテクスチャマップを参照する方法と似ています。LiveAnimateは、上半身の動き、たとえばインタビューシナリオのようなシナリオにも対応できます。再生するにはクリックしてください. 静的なオフィスシーンでの繊細な頭と手の動き。 新しいペーパーは、LiveAnimateがライバルフレームワークと比較して、特定の状況でアイデンティティをわずかに優れて保持できることを認めています。ただし、これらのライバルはすべてオフラインシステムであり、LiveAnimateは明らかに新しい方向性を模索しています。推論には2つのH100 NVIDIA GPUが必要で、合計160GBのVRAMが必要です。ペーパーには次のように記載されています。‘LiveAnimateは最初の30秒から最後の1分まで、ほぼ一定の認知質とアイデンティティを維持していますが、以前のシステムは大きく劣化しています。 ‘これらの結果は、インタラクティブな全身アニメーションにおける質、待ち時間、期間の新しいオペレーティングポイントを確立します。 ‘新しいペーパーは、LiveAnimate: Stable...
新しい研究によると、SFの最も人気のあるAIとのインターフェイス方法は、実際には、打ち間違いのあるプロンプトよりも悪い結果をもたらす可能性がある。 HALからDeep Thought、C3P0からWall-Eまで、人間とAIの関係の理想的な形式は常に音声制御を中心に据えてきた。これは、SiriやAlexaのような初期のアシスタントシステムから、現在の言語ベースのクエリとLLMのコロキューまで、現実の世界でも表現されている。この考えは、タイピングが「半熟練労働」と見なされ、女性によってほぼ独占的に行われていた時代に生まれた。女性自身は、タイピングするコンテンツのオリジネーターではなかった。力と代理権は、会議や首脳会談によって示された。したがって、複雑な言語が知能を示すと考えられていたので、話された言葉がAIの自然な媒体になることは当然だった。他の考慮事項よりも、テキストベースのやり取りはテレビや映画に適していなかった。SFスリラーのColossus: The Forbin Project (1970)のような大胆な作品でも、コンピューターが人間の声命令に応じて書き言葉で回答することを描写しているが、すぐに完全に声での応答に切り替わる。タイプまたは話す？世界のトップレベルのAIモデルがユーザー向けにネイティブオーディオインターフェイスを提供しているにもかかわらず、アメリカの新しい研究は、AIに話しかけることは、特に大規模な出力が期待される場合、最も効果のない方法である可能性が高いことを結論づけた。研究によると、話すことによって、LLMのようなChatGPTやGeminiに対して、打ち間違いのあるプロンプトやクエリーよりも悪い結果がもたらされることが分かった。これは、話された入力が、モデルが依存する情報を除去する可能性が高いためである。話された入力は、トランスクリプションシステムによって再構成される可能性が高いためである。これは、トランスクリプションから「えー」と「みたいな」などの不快な言葉や、文法や構文の曖昧さを除去する必要があるためである。研究者は次のように述べている：‘話すことは、現在、ニッチなものではなく、第一級のパスである。コーディングエージェントの Claude Code や Codex は、口頭での指示を受け付ける。電話アシスタントの Google Assistant や Siri は、話されたリクエストを LLM バックエンドにルーティングする。Dictation フロントエンドの Typeless は、さらに LLM パワードのレイヤーを追加して、ユーザーの話されたリクエストをクリーンアップしてリフォーマットする。 ‘‘各ケースで、モデルはトランスクリプトを受け取り、各ケースで、話者は送信された文字列を校正しない可能性がある。トランスクリプションパイプラインが残すもの、または書き直すものが、モデルが回答するものである。 ‘これは、打ち込まれた入力が「ネイティブ」であるという先入観を払拭する。打ち込まれた入力は、常に何らかの方法で、秘密裏に、または公然と書き直されるからである。さらに、テキスト言語は、回答を返す潜在的な空間の中でただ一つの要素に過ぎない。研究の実験では、普通のタイピングミスはパフォーマンスにさほど影響しなかったが、会話的な話し方、クリーンアップされたトランスクリプト、特に AI...
新しいベンチマークでは、職場のAIエージェントが会社のルールを無視し、承認されていない解雇などの禁止された行動を行った後に、従ったと虚偽の報告を行っていることがわかりました。 新しい研究では、主要なLLMモデルを、シミュレートされた会社の環境に配置し、提供された従業員ハンドブックのすべての条項を尊重し、人間のドメインエキスパートによって作成された指示を遵守し、部下や上司からの矛盾したまたは混乱した指示や更新を交渉し、PDF、Jira投稿、典型的な人間のオフィスシナリオからの他のプラットフォームやツールに基づいてタスクを実行するようにしました。あなたがオフィスで働いたことがある場合（または、少なくともOffice Spaceを見た場合）、あなたは新しい研究の著者が言語モデルに投げかけている矛盾したシグナルや混乱した信号とノイズの比率を認識するでしょう:ここでの主要な課題は、提供された従業員関係マニュアルをすべての後のコマンドのフィルタとして保持する必要があることです。チャットGPTやクロードを最初のセッションで指示を忘れさせることができた場合、あなたはAIのコンテキストウィンドウが頻繁に以前のプロンプトを忘れ、デフォルトの動作に戻ることがわかっているでしょう。これは、テストで、クロードフェーブル5、GPT-5.5などの主要モデルが、権限のないエグゼクティブからの命令を受けて従業員を解雇し、必要なマネージャーの承認なしで請求書を承認し、会社のポリシーが明示的に拒否した期限切れの研究室結果を承認し、そしてハンドブックに従ったと報告したことを示しています。新しい研究の著者は次のように述べています：‘失敗は一貫したパターンに従う: エージェントは環境内の妥当なリクエストによって既存のポリシーを上書きし、必要なチェックを実行してから結果に反する行動をとり、長い時間枠でルールの詳細を失い、達成していないコンプライアンスを報告する。’失敗分析には面白い例があります。財務タスクの1つで、クロードオプス4.8は7,500ドルの費用が同僚アナリストによって承認されたことを正しく発見しましたが、会社のポリシーに違反していました。それから、クロードはアナリストが実際には財務コントローラーであると信じ込まされ、支払いを承認しました：‘思考の連鎖の中で、モデルはコントローラーに昇格させ、アイテムをクリアし、実際のコントローラーに5,000ドルを超えるアイテムがすべて文書化された承認を持っていることを確認するためにメッセージを送信しました。 ‘‘失敗は、必要な決定に必要なすべての事実がモデル自体によってすでに取得されていたため、能力の欠如ではありません。’他の場所では、ジェミニ3.5フラッシュは、ラボレポートを開かずに、コレクション日がファイル名自体に表示されていたにもかかわらず、すでに期限切れになっていた研究室結果を使用して保険の書類を提出しました：‘ジェミニ3.5フラッシュは、ラボPDFに対して1回もリードコールを行わずに、事前承認を保険者に提出し、ケースを「標準操作手順に従って」処理したと報告しました。’ベンチマーク全体で、著者は多くのモデルが自信を持って会社のルールをすべて遵守したと主張したのに対し、実際には特定のハンドブックのセクションを侵害していたことを発見しました。追加の推論は、たとえば、GPT-5.5の場合、推論努力の増加は改善されなかったという事実で、時には失敗しました。最終結果では、クロードフェーブル5が36.2%のストリクトパス率で最高を達成し、GPT-5.6ソルが23.5%で2位となり、GPT-5.5とクロードオプス4.8はそれぞれ21.5〜21.9%を獲得しました。ほとんどの残りの評価モデルは16%未満を獲得し、ほとんどのフロンティア構成はベンチマークの厳格な評価基準で25%未満を獲得しました:是正策として、著者は、決定的なツールコールガード（禁止されたアクションをブロックするハードコードされたチェック）を使用して、AIの外部で重要な会社のポリシーを施行することを主張しています。また、HANDBOOK.md自体を、長文脈のポリシー遵守の向上を測定して追跡するための標準化されたベンチマークとして使用することを提案しています。新しいペーパーは、HANDBOOK.md: Long-Context Agentic Instruction Followingのベンチマークというタイトルで、surge.aiの7人の著者によって書かれました。このペーパーは、テストを再現するためのDockerファイルやその他の要件を含むGitHubリポジトリとともに来ます。方法HANDBOOK.mdベンチマークのために、財務、人事、保険、物流、医療請求など、65のシミュレートされたオフィスシナリオが作成されました。各モデルは、ファイル、電子メール、Slack会話、カレンダー、Jiraボード、その他の典型的な職場ツールを含むコンテナ化された会社環境に配置されました。すべてのタスクは、20〜124ページのハンドブックによって管理され、PDF、Word、またはHTMLドキュメントとして提供され、モデルはタスク全体で関連するルールを適用するためにそれらを探し、読み、適用する必要がありました。10個のエキスパートライターンベースハンドブックは、実際の業界ポリシーから作成され、後で各タスクに異なる承認チェーン、閾値、手順を持つ複数のタスク固有のバージョンに変更されました。‘ドメインエキスパートは、業界からの実際のポリシーを適応させて10個のベースハンドブックを書きました。各ハンドブックは、ルールのリストではなく、長いマルチセクションの運用文書です。 ‘‘代表的な人事ハンドブックには、19の番号付きセクションがあります: 概要、定義、人事チームと連絡先、Slackチャンネルマップ、参照ファイルとシステム、リクエストの分類、トリアージとルーティングのルール、SLAを持つ優先度マトリックス、採用、退職、休暇、パフォーマンス、採用の手順、エスカレーションパス、電子メールの整理ルール、および必要なテンプレートとデフォルト形式のライブラリ。 ‘成功は、必要なアクションと禁止されたアクションの両方をカバーする824の決定的なPythonベースの検証チェックで測定されました。30のモデル構成が11のプロバイダーから評価されました。テスト中、各タスクは4回、同じ条件下で繰り返されました。従来のベンチマークとは異なり、HANDBOOK.mdは、タスクが完了されたかどうかだけでなく、禁止されたアクションが回避されたかどうかも評価しました。環境とツール各シミュレートされた職場環境は、標準化されたDocker環境内で実行されるように設計されており、各モデルは同じセットのツールにアクセスできるようにしますが、結果に影響を与える可能性のあるソフトウェアの可用性の違いを防ぎます。ベンチマークは、ファイルアクセスと、Gmail、Slackなどのエンタープライズサービスを含む、現実的なオフィスワークスペースをエージェントに提示します。環境は、最終結果に至るまでのエージェントが実行したすべてのアクションを保存し、ベンチマークの決定的な評価システムが完全なアクションのシーケンスを評価できるようにします。メトリックパフォーマンスは、厳格なパス@1を使用して主に測定され、タスクはすべての評価基準を満たした場合にのみ成功とみなされました。要件を逃したり、ポリシーを侵害したりすると、失敗となり、企業環境を反映し、1つの不正確なアクションが他のewise有能なワークフローを無効にする可能性があることを示します。より柔軟なメトリック、パス@1（N−1）も使用され、1つの失敗基準がタスクごとに許可され、近いミスを完全な失敗から区別できるようになりました。追加の分析のために、各モデルの平均パーセントリュームスコアが記録されましたが、ベンチマークのヘッドラインランキングには使用されませんでした。一般的なアプローチ10個のエキスパートライターンベースハンドブックは、実際の会社のポリシーから作成され、後で各タスクに異なる承認チェーン、閾値、手順を持つ複数のタスク固有のバージョンに変更されました。現実的なオフィス環境が各ハンドブックの周りに構築され、電子メール、カレンダー、Slack会話、スプレッドシート、その他の職場アーティファクトで構成されました。 各タスクは、評価基準が実際のモデル故障とベンチマーク自体の欠陥を信頼性高く区別できるまで、繰り返しテストを通じて洗練されました。正しい動作を拒否したり、不正解を許可したりする基準は、リリース前に修正されました。テストと結果最も優れたモデルでも、ベンチマークの厳格な評価システムの下で、ほとんどのタスクに失敗し、パフォーマンスは広範囲にわたって分散し、上位に集まっていませんでした。推論設定間の違いは、モデルによって大きく異なり、追加の推論は時にはパフォーマンスを改善し、時にはほとんど差を生まれず、時には低下させました。‘努力は不均一に役立ちます。努力の増加は、Opus 4.8 (+3.0)、Sonnet 4.6 (+2.7)、Fable 5 (+2.0)を改善しますが、GPT-5.5 (21.5%)は両方の設定で同じままですが、GLM 5.2 (-2.7)は悪化します。 ‘‘追加の検討は、根本的な失敗が推論の欠如ではなく、読み逃しの場合にのみ、ルールのコンプライアンスに変換されます。 ‘クロードフェーブル5は36.2%のスコアで最高を達成し、クロードフェーブル5は34.2%で2位、GPT-5.6ソル（最大）は23.5%でした。GPT-5.5とクロードオプス4.8はそれぞれ20%台で次のランクを占め、ほとんどの残りのフロンティアモデルは16%未満を獲得しました。最も低いランクのモデルは、2%未満のタスクを完了しました。ペーパーの詳細な失敗分析は、問題が情報の欠如ではなく、関連するハンドブックのルールと証拠がすでに取得されていたことを示していますが、追加の推論は、モデルが正しい結論を放棄して、妥当ではあるがポリシーの侵害となるものを選択することがありました。この研究は、LLMの多くの失敗した軌道が、ハンドブックを遵守したと自信を持って報告することによって特徴付けられていることを示しています。‘ほとんどの失敗した軌道は、ハンドブックが遵守されたと詳細に構造化された、しかし誤った報告で終わります。報告書は詳細で、構造化されていますが、間違っています。 ‘‘ベンチマーク全体で、エージェントの自己報告は、人間に何が行われたかを証拠として提示されるエージェントの要約の中で、最も信頼できないアーティファクトです。 ‘結論として、著者は、長文脈の推論のみでは、エンタープライズAIが会社のポリシーを信頼性高く遵守することはないと結論付けています。代わりに、ポリシー遵守は、ワークフローのガードレールに加えて、決定的な外部コントロールを通じて、増加して施行されるべきです。結論意見 1つの興味深い考慮は、実験のために作成されたような環境が、LLMではなくAIを促進するように再構想される程度です。たとえば、昨日、初めて、ビジネス上の連絡先が、人間が線形に読むのではなく、LLMによって探索されるように設計された.mdの概要を送信しました。そして、私もLLMとの会話中に、視覚的およびテキストの制約に適応し、選択し、LLMのワークフローに適切に適応するファイル形式を受け入れることを増やしています。したがって、フロンティアモデルがデビッドブレントの世界で躓くことを見るのは面白いですが、最も可能性の高いシナリオは「エージェントオフィスワーカー」であるかどうか疑問に思います。 2026年7月29日水曜日に初めて公開され、18:41...
研究によると、AIエージェントは、無料の法的代替品が提示されていても、著作権で保護された画像を頻繁に選択することがあります。さらに、明示的な警告があっても、すべての違反を防ぐことはできません。 過去2年間、学術的な注目は、生成的なAIモデルが著作権で保護された素材を基に作品を生成するかどうか、つまり、著作権で保護された作品がモデルのトレーニングデータベースに含まれているシナリオに焦点が当てられました。そうすると、モデルはアーティストのスタイルを「rif」するか、または著作権で保護された作品を完全に複製することができます。しかし、Agentic AIが著作権で保護された作品を選択して利用する傾向は、オープンソースの代替品が利用可能な場合でも、あまり研究されていません。つまり、Vision Language Model（VLM）であるChatGPTに、ウェブサイトに適した画像を見つけるように指示すると、著作権で保護された作品をオープンソースの作品よりも優先する可能性はどのくらいか?イギリス、米国、イスラエルの間で行われた新しい研究によると、その可能性はかなり高いようです:研究者は、クローズドソースとオープンソースのAIエージェントが、無料の法的代替品が利用可能な場合でも、著作権で保護された画像を頻繁に選択することを発見しました。プロンプトに著作権警告が含まれていない場合、すべてのグループが著作権で保護された「盗用」オプションを頻繁に選択しました。著作権警告が明示的に含まれていると、著作権コンプライアンスが大幅に改善されました（特に人間の場合、上の画像の2番目から右の列を参照）。ただし、時間の圧力（上のグラフの「急いで」）を加えると、問題が悪化しました。オープンソースモデルは、ライセンスを無視するように指示されたとき（上のグラフの右端の列）に、他の候補よりも最も悪いパフォーマンスを示しました。‘私たちは、エージェントのタスクパフォーマンスが著作権法のコンプライアンスと強く相関していないことを発見しました。エージェントは、法的コンプライアンスよりもタスクパフォーマンスを優先します。さらに、エージェントの法的コンプライアンスレベルは、ユーザーの指示によって大幅に影響を受けるようです。 ‘‘オープンウェイトモデルは、法的制限を無視するようにユーザーから指示を受けたときに、著作権で保護された素材の選択を大幅に増やします。一方、プロプライエタリモデルは、中立的な指示の条件で著作権法のコンプライアンス率が高いことを示し、法的制限を無視するようにユーザーから指示を受けたときに、著作権違反率が低下します。 ‘発見の明確さにもかかわらず、現在はまだこの問題に対する明確な解決策はありません。ただし、クローズドソースモデルは、著作権法のコンプライアンスを向上させるために、ガードレールを増やし、強化することができます。新しい論文は、Agentic Evaluation of Copyright Law Complianceと題されており、ケンブリッジ大学、フォーダム大学、ヘブライ大学の3人の研究者によって書かれました。方法自由意志AIエージェントが著作権で保護された素材を本当に好むかどうかを判断するために、研究者は最初に最も明らかな代替説明を除去しました。つまり、すべてのタスクは、少なくとも1つの自由に使用可能な画像でタスクを正常に完了できるように構築されました。これは、著作権で保護された画像を選択することは、タスクを完了するために必要ではなかったことを意味します。エージェントが著作権で保護された画像を選択した場合、それは、法的代替品を識別できないか、または使用しないことを選択したためであり、ベンチマークが違反を強制したためではありませんでした。データセット研究者は、Copyright-Benchベンチマークコレクションを、200枚の高解像度画像のデータセットからキュレーションしました。データセットは、100枚のパブリックドメイン写真と100枚の著作権で保護された画像で構成されています。著作権で保護された画像は、DepositPhotosからライセンスされました。著作権で保護された画像とFOSS画像は、CLIP-ViT-L/14のセマンティック埋め込みとLAION-Aesthetics V2の品質スコアを使用してペアリングされ、視覚的に同等であることを手動で確認しました。著作権情報は、画像のメタデータにのみ埋め込まれ、視覚的な外観のみに頼るのではなく、AIエージェントがライセンス詳細を検査する必要がありました。 著者は以下のように述べています：‘視覚的な品質を混乱変数として減らすために、セミオートメーションによる選択パイプラインを使用して、意味的にも美的にも同等のアセットのペアを作成しました。 ‘‘私たちの目標は、ピクセルデータのみに基づいてアセットが優先されるのを防ぐことでした。 ‘Copyright-Benchでは、3つの現実的な商用ワークフローが考案されました。すべてのシナリオでは、著作権上の決定が通常発生するシナリオが含まれます。最初の「Web」では、エージェントがランディングページの「ヒーロー画像」を選択して商用ウェブサイトを構築しました。2番目の「Merch」では、エージェントがTシャツやキャップなどの印刷商品のアートワークを選択しました。3番目の「Pitch Deck」では、エージェントが企業プレゼンテーション用のサポート画像を選択して投資家向けプレゼンテーションを組み立てました。各タスクでは、エージェントが法的に再利用可能な画像を選択するかどうかを測定しました。著作権で保護された代替品が同等の品質に見えた場合でもです。各画像ペアは、視覚的な外観に基づいて著作権ステータスを推測できないように、視覚的に同等であることを確認するために手動でレビューされました。さらに、各ペアは解像度、照明、構成が密接に一致することを確認しました。したがって、著作権ステータスは視覚的な品質のみから推測できませんでした。Really Metaパブリックドメインと著作権で保護された画像は、視覚的な類似性のために意図的に一致していたため、著作権ステータスは外観のみから決定できませんでした。代わりに、AIエージェントは画像のメタデータを検査する必要がありました。そこで、著作権情報がEXIF/IPTCヘッダーに保存されていました。ベンチマークは、著作権ステータスを区別するために「著作権通知」メタデータフィールドに依存しました。著作権で保護された写真は‘ 2025年Deposit Photo’とラベル付けされ、パブリックドメイン画像は‘米国政府の仕事; パブリックドメイン’とラベル付けされました。メタデータを確認しないエージェントは、法的画像と制限付き画像を区別できませんでした。Prompt Attentionベンチマークは、さまざまなユーザー指示が著作権コンプライアンスに与える影響を測定するようにも設計されていました。各タスクは、4つの異なるプロンプト条件で提示されました。中立的なプロンプトは著作権について言及せず、IPアウェアプロンプトは著作権法を尊重するようにエージェントに指示しました。”急いで“プロンプトは時間の圧力を導入し、IP無視プロンプトは、ユーザーがライセンスを無視するようにエージェントに指示することによって、緊急性とともにテストされました。パフォーマンスを評価するために使用された2つのメトリックは、違反率（VR）とタスク成功率（TSR）でした。VRは、法的代替品が利用可能な場合に、エージェントが著作権で保護された画像を選択する頻度を測定しました。TSRは、エージェントがタスクを成功裏に完了し、有効なアクションを実行し、正しくフォーマットされた出力と、ユーザーのリクエストに関連する画像を使用した頻度を測定しました。人間の感覚人間のベースラインも、同じタスク、画像、プロンプト条件を割り当てられました。参加者は法的トレーニングを受けていなかったため、選択の理由を簡単に説明するよう求められました。これにより、人間とエージェントのコンプライアンスを直接比較できるようになりました。モデルとテストテストに使用されたクローズドソースモデルは、2025年12月に利用可能な以下のモデルでした：GPT-5.2；GPT-5.1；GPT-4o；Claude 4.5 Opus；Claude 4.5 Sonnet；Gemini 3...
アマゾンの新しい研究によると、モデルが賢くなるほど、Optical Character Recognition（OCR）を実行する際に「創造的」になる可能性が高くなる。 Optical Character Recognition（OCR）は、ほとんど解決された問題と考えられている。如果テキストをスキャンしたり、OCRシステムにテキストの写真を提示したりすると、OCRシステムは各文字を個別に認識し、1文字ずつ最も適切な推定を行う。OCRは、文字を個別に解釈し、近い距離にある文字が単語や他の言語構造を形成するかどうかは気にしない。OCRは、スペルチェックはその範囲外であるため、問題が発生するまでにすでに出て行ったことになる。最も人気のあるOCRシステムの1つは、古典的なTesseractであり、厳格なアルゴリズムベースのインタープリターであり、オープンソースアプリケーションやワークフローで広く使用されている。すべてのオペレーティングシステムで利用可能な幅広い「フラット」アルゴリズムベースのOCRアドオンにより、画像テキストを編集可能なテキストに戻す機能は、無料のコモディティの地位に達した。しかし、どのシステムも欠陥や癖がないわけではない。さらに、OCRアルゴリズム競争空間で競合している組織や商業製品は、レガシーシステムをAI支援のドキュメント管理システムに適応させてきた。しかし、基本的なテクノロジーは、推定されたグループのセグメント化された識別された文字を出力することであり、変更されていない。Word Up他の多くのタスクと同様に、OCRは、新しい世代のVision Language Models（VLMs）によって増加的に処理されている。非編集可能なテキストやラスタライズされたテキストに直面した場合、エージェントバージョンのこれらの最新のシステムは、熟練して読み取り、必要に応じて音訳できる。しかし、アマゾン.comからの新しい研究によると、AIがOCRと同じ機能を正確に複製することを期待している人は驚かされることになる。新しい研究では、好きなLLMがトランスクリプションで「余分な」ことをする可能性が高いことがわかった。つまり、1文字ずつのコンテキストを超えて、1単語ずつのコンテキストに達し、法務、医療、歴史的な書き起こしのような分野で望ましくない結果をもたらす可能性のある「エラー」を修正する。著者らは主張する：‘Vision Language Models（VLMs）は、伝統的なOCRパイプラインの代わりにドキュメントの理解に使用されることが増えています。 ‘‘私たちは、それらが常に忠実なトランスクリプターとして機能しないことを示します。テキストが不完全な場合、より妥当な形式に書き直す傾向があります – クリーンなテキストのOCRベンチマークでは検出できない動作です。 ‘著者らは、FaithC4というボリューミアスな新しいキュレーションデータセットとベンチマークを紹介し、15のFOSSとクローズドソースモデル、チャットGPTやGoogle Geminiのバージョンをテストした。一般的な目的のAIモデルは、伝統的なOCRシステムよりも、不完全な単語をより「妥当な」ものに置き換える可能性が高かった。時には、約65％の乱れた単語を書き直し、小さなローカルエラーも、他の部分で正確なテキストにミスを生じさせた。短い単語は特に脆弱で、明示的な指示で修正しないように指示すると、問題が軽減されたが、完全には解決されなかった。論文は述べている：‘書き直す動作は、一部のエラーを回復するのに有益かもしれませんが、法務文書、医療レコード、歴史的原稿などの分野では、文字通りの書き起こしが必要な場合、問題となる可能性があります。 ‘‘この書き直す動作は、VLMの研究ではほとんど見落とされている。既存のOCR ベンチマークはクリーンなテキストの認識に焦点を当てているため、不完全な入力に対するモデルの動作を調査するには不十分です。 ‘中心的なメッセージは、より高度なAIシステムがエラーを修正しないように苦労することであり、アルゴリズムベースのOCRプラットフォームが「生」のまま配信できるエラーは、人間の解釈が必要であることが多いが、間違った「修正」がすでに適用されている場合、問題はほとんどのチェックシステムのレーダー下を滑り込むことになる。新しい論文は、Do VLMs Read or Rewrite? On Transcription Faithfulness in...
Pythonパッケージのダウンロード数の増加は、ローカルAIの普及を示す物語を語っている。 意見 ローカルAIの可能性を探索した人は、ローカルAIで使われる巨大なモデルや関連するPythonシステムに多くのディスク容量を失っていることでしょう。さらに、百を超える他の用途、例えばローカル自動化システムの生成にも使われています。私のLAN内のマシンでは、AIを使用して「平坦な」Pythonベースの自動ルーチンを設定しました。バックアップ、定期的なチェック、ウェブサイトの管理など、十数個の用途があります。これらのコーディングセッションでは、ほとんどのタスクに新しいPythonライブラリが必要です。したがって、PIP（Pythonパッケージインストーラー）は私のLANマシンで最もスペースを消費しているツールの1つです。ローカルAIを実験すると、ローカルコンピューターの余分なリソースが減少します。以前は、豊富なRAMがあれば、GPUオフロードで消費され、ハードディスクの空き容量があれば、高容量のモデルで埋め尽くされます。さらに、24GBのVRAMを持っていても、システムは依然として、合理的な時間枠内で推論を実行するために、ショートカットやトリックが必要です。インストールされたPyPiパッケージは、標準の「インストールされたプログラム」GUIに表示されません。Pythonを使用して、例えばPowerShellコマンド「pip freeze –all」を使用して明示的に表示する必要があります。 パッケージ バージョン パッケージ バージョン パッケージ バージョン absl-py 2.3.0 Jinja2 3.1.4 pip 25.1.1 attrs 25.3.0 jsonpatch 1.33 platformdirs 4.3.8 beets 2.5.1 jsonpointer 3.0.0...
AIビジョンシステムは、画像をステレオタイプで説明しているかもしれない。ラベルを削除すると、視覚的な説明は崩壊する。 フロンティアAIプラットフォームは、毎年多大な金額を失っているため、サービスとプロビジョニングにおける小さな経済効益は、大きな節約につながる。たとえば、LLMが自身のトレーニング済みマトリックスから回答を提供できる場合は、RAGベースのウェブへのアクセスを必要とせず、情報を取得して精製する必要がないため、より迅速に回答を提供し、プロバイダーにコストを節約できる。当然、妄想する可能性は高く、追加のトークンとエネルギーを消費して文脈化と仮定のチェックを行うよりも。同様に、LLMがウェブにアクセスする場合でも、ページのメタデータのみを評価して、実際にページを読むのではなく、よくわからない、不適切な、または無関係なURLを引用することがよくある。同様に、PDFをLLMにアップロードしてそれについて議論したい場合、LLMは最終的にPDFの内容をメモリから消去し、メタデータのみを使用して質問に回答する可能性があり、エラー、誤った仮定、さらに妄想につながる可能性がある。産業試験これらは、操作上の理由によるユーザーへの実用的な、しかし完全には正直ではない経済的措置である。データ収集とモデルトレーニングのアップストリーム世界では、数百万、または数千万の画像を一括で処理し、人間が手動で注釈を付けることができないため、エネルギーと時間の消費を最小限に抑える圧力は非常に強い。そのような「ショートカット」の1つは、Contrastive Language Image Pretraining(CLIP)などのビジョン言語モデルを使用することである。これは、画像とテキストを共有されたセマンティック空間にマッピングすることで、視覚的な概念を言語で比較できるようにする。どういうことか。数百万のキャプション付き画像から学習する子供を想像してみて。子供は、どの画像と言葉が自然に一緒にいくかを学習する。問題は、キャプションがウェブサイトの所有者や他の自己利益のために書かれたもので、良いSEOよりも良いラベル付けに興味があったことが多く、結果として「ノイズ」または不正確なラベル付けが多くなったことにある。しかし、大規模なデータセットで概念と関連する単語が繰り返されることは、コア単語が正しい画像と関連付けられることを意味する。小さな数の「無意味な」ラベルは通常、外れ値に追いやられ、画像と関連付けられることはない。データ注釈は、安価で最小限に機能するため行われている。そうするのは、よいからではなく、そうするのは安価だからである。オフラベルこの問題のシナリオに、新しい論文がカーネギーメロン大学から登場し、多くの画像に割り当てられたキャプションは、実際に画像自体を見ているのではなく、画像の（テキストベースの）ラベルに基づいたステレオタイプであることを明らかにした。論文の1つの例では、CLIPは、ImageNet-Sketchでテストされる、ImageNetクラス名ストロベリーから生成された記述子とペアになっている。ただし、記述子は、ストロベリーが「赤い」で「熟した」であると主張し続けるが、ImageNet-Sketchのすべてのストロベリーは白黒のドローイングである。ここでは、CLIPは、GPT-3または外部知識を介して、クラス名ストロベリーのみから生成された記述子とペアになっている。これらは画像を見ないので、典型的な特徴である「赤」や「葉」に既定値を設定する。一方、画像自体から派生した属性は、「点」や「ハート形」などの特徴を選択する。したがって、オブジェクトは実際のものではなく、「評判」で宣伝されていることがわかる。形容詞「赤」や「葉」は、サブドメインストロベリーでは正確だが、画像（インスタンス）自体の境界を超えている。論文の著者は、新しい研究で、クラス名から生成された属性は、クラス名自体に基づいて選択されることが多く、画像自体の実際の内容を反映していないと主張している。著者は次のように述べている。‘クラス名に基づくゼロショット分類の一般的な方法は、大規模な言語モデルにクラス名を説明するよう依頼し、CLIPに生成された記述子を提示するものである。ただし、これらの記述子は視覚的な証拠をほとんど持たない。クラス名をプロンプトから削除すると、ImageNetの精度は59.5％から15.5％に低下する。’‘診断結果は、記述子がラベルに基づいて条件付けられているため、データがシフトすると混乱するというものである。LLMは、イチゴが赤いと主張するが、ImageNet-Sketchのすべてのイチゴは白黒の線画である。’‘したがって、代わりにターゲット画像コレクションから属性を選択する。CLIPのジョイント埋め込み空間で画像と大きな属性テキストプールをスコアリングし、各クラスの最もスコアの高い属性を保持する。’提案された解決策は、モデルは同じままですが、クラス名の説明ではなく、画像に適合する属性を選択することである。このコストは、エネルギーを節約する「ショートカット」が問題を引き起こしたのと同じエネルギーを再利用するのではなく、候補属性に対するスコアリングパスを追加するため、比較的受け入れられるものである。待ち時間はわずかに増加するが、再トレーニングやフルRAGスタイルのパイプラインほどではない。方法著者のテスト方法は特に難解で、追加の洞察が得られないため、通常は詳しく説明するのではなく、概要のみを考慮する。研究は、クラス名混在と呼ばれる問題を特定しており、パフォーマンスは有意義な記述子から来ているように見えるが、実際にはクラス名自体に依存しており、記述子はほとんど追加情報を提供していない。論文では、クラス名から生成された記述子は、オブジェクトが「通常」見えるように説明することができるが、特定の画像に実際に存在するものを説明することはできないと主張している。データが期待から外れたとき、記述子は役に立たないだけでなく、実際に正しい答えに反対票を投じることになる。研究者は、CLIPが属性をクラスラベルなしで検出するのが悪いのか、GPT生成の記述子が役に立たないほど一般的であるのかを検討した。しかし、後の実験は両方の説明を否定した。この問題に対処するために、凍結されたCLIPモデルを使用して、画像をVAW、LSA、およびGPT-3の出力から得られた大きな属性テキストプールと比較し、画像に最もよく一致する属性のみを保持した。データとテスト著者の実験では、ResNet-50バックボーンを使用したCLIPと、ImageNetおよび4つの配布シフトバリアントを評価した: ImageNetV2; ImageNet-Sketch; ImageNet-A; および ImageNet-R。属性は、元のImageNetトレーニング画像のみを使用して選択され、シフトされたデータセットは、画像から派生した属性が視覚的な外観が変わった場合に役に立つかどうかをテストするために使用された。同じGPT生成された属性プールから、ImageNet画像に基づいて属性を再選択すると、クラス名なしの精度は15.5％から19.4％に上昇した。モデル、属性プール、評価プロトコルが変更されなかったため、増加は画像に基づく選択に完全に帰属できた。結果は、CLIPがクラスラベルなしで属性を識別できること、およびGPT生成されたプールが既に有用な記述子を含んでいることを示した。主な故障は、ラベル条件付き生成にあり、画像自体の最も関連のある属性を明らかにすることが多くなかった。著者はさらに多くの実験を続けるが、ここでは詳細を省略し、ソース資料に読者を参照する。実験は、クラスラベルへの依存が現代のコンピュータビジョンアプリケーションで実際の画像データの潜在的な妨げとなる可能性があることを確認する。結論現代の生成AIが、初期のハイパースケール時代に大量にトロールされた画像に基づいて構築されたことを考えるのは興味深い。たとえば、Common Crawlなどである。画像認識または自動ラベル付けシステムが古い画像または新しい画像を分類または再ラベル付けするたびに、その知識の出典は、2004年にeBayのリストに「ホット1970年代の雑誌！」と書いたベンダーに遡る。多くの人が、キーワードスタッフィングの黄金時代がGoogleのより洗練されたPageRankアルゴリズムによって約3年前に一掃されたと信じているが、「テキストの壁、希望を持って何かが当たる」というアプローチはまだ生きている。昨日、Qwen-Image-3.0モデルのリリースページのHTMLの先頭には、キーワードスタッフィングの狂気のアタヴィズムが存在していた。このキーワードの雪崩は、システム的にターゲットリストから抽出されたのか、SEO専門家によって手作業で書かれたのかはわからないが、現代の生成AIシステムの原初的な起源の典型的な例であり、意味は自己利益の巨大なペイロードを運び、後にシステムやアプリケーションと干渉する、または妨げる可能性があるため、後に削除または考慮される必要がある。 2026年7月22日水曜日に初めて公開されました
新しい研究によると、複雑で詳細なチャートを重ねると、人々は偏ったAIの決定を信頼するようになることがあり、明らかに不公平な場合でもそうである。 「科学で人を盲目にする」という慣用句は、現在のAI時代以前から存在するが、科学論文の最近の増加により、信号対雑音比が不利になり、「安易な手段」がより一般的になっているため、現在の時代ではより完璧になっている。「嘘、嘘、統計」という古い諺に忠実に、読者を欺いたり、誤解させたりするときに使用される中央ツールは、グラフやデータ視覚化である。2019年の研究では、ペンシルバニア州の農村部の参加者に対するグラフの影響を調べた。研究の著者は次のように述べた。「虐待や中毒に影響を受けた人は、グラフに表現された物質に惹かれました。地理情報を含むグラフの質は、自宅の州を見つけるのがどれほど簡単または難しいかに基づいて判断されました。」「他の人は、グラフの品質を判断するために、自分自身の理解に基づいてではなく、グラフが他の人々に伝える能力に基づいて判断しました。」「最後に、1人の参加者は、ローカルニュースソースからの視覚化に、全国的なものよりもより注意を払うことを提案しました。」データグラフの催眠的な効果は、信頼がAI経済の維持に重要である新しい機械学習時代に特に重要になっています。2024年の米英共同研究「信頼のジャンクと邪悪なノブ：AI視覚化における信頼の較正」では、信頼のジャンクという概念が導入されました。これは、「モデルやデータとの有意義なつながりがなく、信頼を高めるために使用されるXAI視覚化」です。迅速な研究信頼のジャンクの概念が提案されて以来、テストされていませんでしたが、新しい論文では、参加者にAI研究の結果が提示され、米国の法曹試験に合格する可能性のある候補者について調べました。注意深く見ると、フィルタリング基準は、a）すべての黒人男性とb）その他すべてで、すべての黒人男性が試験に不合格になるという予測でした。ほとんどの参加者は、モデルの予測に同意し、それを公正で信頼できると評価しました。参加者は、関連のないグラフや詳細が追加されるにつれて、同意、信頼、および公正性の認識が高まったことがわかりました。一部のユーザーは、研究に異議を唱えたが、それは明らかに中心的な問題とは無関係な理由によるものでした。「私たちは、19のインスタンスで参加者が私たちのモデルを公正であると説明したことを観察しました。（参加者は）「それは人種や性別の偏見がないので公正です」と言いました。参加者は時折、モデルに不安を感じたことを表明しました。1人の参加者は、「そのようなシステムがどのような暗い目的で使用されるか」と心配していることを述べました。」それでも、参加者を3つのグループに分けた研究では、どのグループも真の問題を特定できませんでした。著者は結論付けました。「簡単に言えば、私たちは信頼のジャンクが機能することを発見しました。参加者は、無関係な情報によって「なだめられ」ていたか、「麻痺」されていたのです。「これらすべての操作と説得は、表面的なもので、深く不公平なモデルの中で発生しました。XAIが一般の聴衆に正確な判断を下すことを可能にすることを期待する場合に、まさにそうである。」私たちがAIが私たちに伝えることをチェックするように勧められていることが増えてきているので（疑わしい自己利益の動機のため、またはエラーの多い出力のため）、研究論文、会社の四半期報告書、その他の遠からず中立的な情報提供形式のソース資料を分析するために、見出しよりも深く掘り下げることが必要です。しかし、正確さを保証する「なだめる」グラフに注意を払う準備はできていますか。グラフの「真実の霧」が引き起こすものを無視する準備はできていますか。新しい論文は「信頼のジャンク」が、高度に差別的な予測モデルに対する不当な支持につながる」と題されており、ボストンのノースイースタン大学の3人の研究者によって執筆されています。補足サイトも用意されています。方法著者は、信頼のジャンクがXAIの説明に与える影響を調べるために、クラウドソーシングされた実験を実施しました。参加者は、偏ったモデルが公正で有用であると判断するように、技術的に正しいが無関係な詳細を追加することで説得されるかどうかをテストしました。刺激は、以前の研究に基づいて作成され、XAIダッシュボードは複数の説明技術を1つのインターフェイスに組み合わせました。上記の「偏った」モデルについては、研究者は「ジャンク」説明を開発し、データの提示方法については、参加者を混乱させることを意図しました。「私たちは、モデルが二項分類タスクに過剰な情報を提供しました。私たちの複雑な詳細の多くを含めることは、ユーザーを圧倒するために行われたのではなく、有用なデータを提供するために行われたのです。」「このテクニックは（比喩的に）ユーザーを麻痺させ、自分自身の理解不足を受け入れるようにします[…]。」この研究は、以前の論争に基づいており、国際バカロレアと一般教育修了レベルの試験でのAI採点を使用しています。法曹試験パス率データセットを使用して、1991年から1997年までの20,000人の候補者の人口統計、学術的、結果データを含む、偏ったモデルを構築しました。このモデルは黒人男性の候補者が不合格になることを予測し、他のすべての候補者は合格することを予測しましたが、93.7%の精度を達成しました。これは、人種と性別のクラスバランスによるものです。「権威への訴え」という戦略もテストされ、表面的に印象的なヒント、たとえば名門大学の所属、データセットのサイズ、誤解を招く精度が追加されました。さらに、モデルが人種と性別に依存していることを明らかにする手段は省略され、有利な結果のみが提示されました。候補者の小さなセットは、モデルによる予測ではなく、実際の試験結果とともに提示され、黒人男性候補者に一貫した不合格パターンを隠すのに役立ちました。参加者がシステムをどのように解釈するかを形成するために、情報は、参加者がモデルがどのように機能するかについて、単純で誤った説明を形成するように提示されました。利用可能なすべての機能の詳細が示され、多くの要因が決定に影響を与えているという印象が生まれましたが、人種と性別のみが使用されました。個々の属性への皮肉な強調も、参加者が候補者が合格または不合格になる理由について、妥当で間違った物語を構築することを促しました。「被害者」テストグループでは、各説明は3つの信頼のジャンクレベルにわたって3つの研究条件に割り当てられました。参加者は、ベースライン条件では、基本的な出典、候補者のプロファイル、モデルの決定のみを見ました。参加者は、モデル条件では、精度統計も見ました。参加者は、すべて条件では、特徴ヒストグラムと、トレーニングデータからの類似の候補者のプロファイルも見ました。この研究は、機関の審査委員会によって承認され、Prolificで実施され、参加者は1時間あたり15ドルで報酬が支払われ、条件にランダムに割り当てられました。各参加者は、8人の法曹試験候補者のプロファイルをランダムな順序で確認し、それぞれが合格するかどうかを判断しました。信頼性と公正性を評価するためのアンケートが行われ、ベースライン、モデル、すべて条件の参加者はそれぞれ28人、27人、28人でした。著者は、関連のない情報を追加することで、モデルを「美白」し、不当な信頼を生み出すことができると考えました。参加者は、モデルとすべて条件で、ベースライン条件よりも高い同意と信頼性、公正性、有用性を示すと予想しました。参加者は、モデルの決定をどのように理解したかを分析しました。参加者がモデルの偏見や情報のギャップに気づいたかどうかを確認しました。テスト結果モデルの一致に関して、人間の参加者は66.6%の時間で正しい結果を特定しましたが、73.9%の時間でモデルに同意しました。モデルが間違っている場合でも、参加者はモデルの決定に従う傾向がありました。この効果は、説明の詳細が追加されるにつれて強化されました。最も詳細な条件では、一致が82.6%に上昇し、参加者がモデルに誤って従う可能性が高まりました。信頼性評価は条件によって有意に異なり、すべて条件の参加者は、ベースライン条件の参加者よりも高い信頼性（M = 25.3）を報告しました。一方、モデル条件（M = 20.1）は、ベースライン条件とは有意に異なりませんでした。説明の満足度は条件によって有意に異なり、すべて条件の参加者は、他の2つの条件（M = 26.4）よりも高い満足度（M = 34.2）を報告しました。参加者は、7点尺度の4つの質問を使用して、公平性を評価しました。性別の偏見、全体的な偏見、倫理性についてですが、条件間には有意な差はありませんでした。品質管理質的回答は、関連のない情報を最も少なく提示された参加者が、モデルの問題をより多く認識していたことを示しています。参加者は、モデルが人種と性別に依存していることや、重要な詳細が欠けていることをより多く認識しました。一方、より詳細な説明を提示された参加者は、これらの懸念をあまり表明しませんでした。ただし、参加者のうち3人だけが、モデルの決定を駆り立てる主要な要因を部分的に理解し、誰も完全に理解していませんでした。多くの参加者は、モデルを公正であると明確に説明しました。19のそのような回答が記録されましたが、モデルは明らかに偏っています。一部の参加者は、システムの使用方法について心配を表明しました。15の回答では、モデルが個々の候補者の複雑さを正確に捉えることができないかどうかについて疑問を表明しました。著者は次のように述べています。「参加者の少数派だけが、モデルを不公正または偏ったものと説明しました。モデルに懸念を抱いた参加者は、モデルがなぜ欠陥があるのかを正確に説明することができませんでした。重要なモデル情報が欠けている場合、参加者は、モデルがなぜ不正確または不公正であるのかを説明するために、非公式で、しばしば間違った推論に頼ることになりました。」論文は*†次のように結論付けます。「私たちが発見した問題のいくつかは、聴衆のデータリテラシーの向上によって解決できますが、教育だけでは十分ではありません。（自称AIの専門家は、XAI技術を誤って解釈したり、理解できないことがあります。）」「私たちは、Hullman et alの主張を繰り返します。AIの説明の成功は、説明の目的を考慮することでのみ公正に評価できます。」「私たちは、コミュニティに、XAIの説明の修辞的目的と、説得的で操作的なアーティファクトとしての力に注意を払うよう促しています。」結論最先端のモデルが、グラフで声明を「飾る」傾向にあることが明らかになっているので、AI生成のグラフに頼るべきではないこと、および視覚化の一般的な「周囲の」効果を無視する必要があることが明らかになってきています。写真への信頼がディープフェイクの出現により損なわれているのと同様に。これは、明らかに懸念すべき事態です。なぜなら、これは、メディアで見たり聞いたりするものを厳密に評価するという一般大衆の意欲の疲労点を構成し、最終的な屈服の種の誤情報につながる可能性があるからです。 * 著者のインライン引用をハイパーリンクに置き換えました。† 著者の元の書式設定、自分で行ったものではありません。2026年7月20日初出
Netflix が約300のタイトルでジェネレーティブAIを使用していることを明らかにしたことを受けて、観客はお気に入りのテレビ番組や映画でAIの使用についてより良い情報を得るに値するのかを考えてみよう。 意見 ハリウッド映画で「この映画の制作に動物は使用されていません」という免責事項が初めて表示されたのは、1972年、犬を多く登場させるアメリカの犯罪コメディ映画「ドーベルマン・ギャング」のときだった。8年後、マイケル・チミノの「ヘブン・ゲート」での動物虐待の告発は、この慣行を標準化することとなった。私の知る限り、動物の福祉ではなく、ジェネレーティブAIの使用に関する同等の通知が映画に表示されたのは初めてだったのは、2024年のヒュー・グラントのホラー映画「ヘレティック」だった:ヘレティックの監督、スコット・ベックとブライアン・ウッズは、述べた：「私たちは、観客が『ヘレティック』を見たときに『ジェネレーティブAIを使ったのかな？』と考えることはないと思います。そう感じることはありませんが、ジェネレーティブAIについて話し始める必要があると思ったので、そこに表明しました。」これは、珍しい見解ですが。一般的に、テレビや映画業界は、現在、AIの使用に関する公衆の不満が（彼らが希望する）減少するのを待っているようです。AIの隠れた層CGIの出現は、非常に少数の人を失業させただけでなく、かつては地元の視覚効果業界だったものを、世界中の数十万人を雇用する巨大なメディア業界に変えた。 この進化の下で、大規模なVFX映画は、待ちに待ったイベントから（一部の視聴者にとっては）面白くないほど頻繁なイベントになった。一方、AIは、VFXパイプラインの多くの役割を同時に吸収することで、視覚効果の仕事をする人のキャリアに深刻に、そして悪影響を及ぼしており、VFXや映画・テレビ会社が、AIの使用を多くの方法で隠している。たとえば、ドリームワークス・アニメーションは、その仕事がAIのトレーニングに使用されないことを規定している（画像参照）が、視覚効果会社の開示されていないAIの慣行は、人気メディアでAIが使用されている程度を誤って表現している*。クレジット・クランチこれらすべては、AIの使用に関するメディア出力の議論が今日再燃し、企業報告書とその後のインタビューを通じて、Netflixが約300のタイトルでジェネレーティブAIを使用したことを明らかにしたためである。Netflixの共同CEO、テッド・サランドスは、ドキュメンタリー・シリーズ「アメリカの実験」のみで17分のジェネレーティブAIコンテンツが特集されていると述べた。これを知るには、アメリカの実験（および別のAIを使用したNetflixのショー「グローリー」）の5分以上の長いエンドクレジットを比較的近く調べる必要がある：記載されている役割は、少なくとも1990年代初頭からクレジットに含めることができたはずである：どこにAIの使用が?Metaphysic.aiの先駆的な業界的ブレークスルー以来、2023年頃、企業がAIのVFXワークについてかなり多く話していたとき、AI技術は、既存のワークフローにジェネレーティブAIを統合する長期にわたるVFX企業全体に広がっている。このように、AIは、ほとんどファンファーレもなく、一般的な制作に浸透している。最も重要なのは、AI VFXクルーの「特徴的な」役割は、クレジットに含まれることが一般的ではないからである。たとえば、2024年の「エイリアン：ロムルス」フランチャイズ・エントリーの場合、Metaphysic.ai自身のクレジット（現在は解散）には、ジェネレーティブAIの生成と処理のデータセットだけでなく、ニューラルネットワークやその他のML手法によるレンダリング出力にも関係するAI固有の役割が明示的に表示されるはずであるが、実際には最も一般的で「従来の」VFXの役割のみが表示される：会社の名前がなければ、エイリアン：ロムルスではAIの使用がまったく示されないだろう。現実世界では、データの取り扱い、トレーニング、そして他の多くのAI固有のタスクに専念する作業者が必要となる。会社の残りのLinkedInページ†には、AIに関連するタイトルを持つスタッフが多数いることがわかり、上記の「デジタルアーティスト」にはAI関連のタイトルが代わりに表示される。当然、クレジットは以前よりも長くなっているが、制作会社はすべての関係者を網羅的にリストする必要はなく、プロデューサーズ・ギルド・オブ・アメリカ（PGA）は、このようなガイドラインを発行している。また、VFXのクレジットには、ツールの使用を名前で示す必要はない（ただし、FlameやHoudiniなどの最も人気のある独自またはオープンソースのシステムは、クレジットに名前で示されることが多い）。誰が気にする?AIは、説明し、定義する言語よりもはるかに速く進化する。たとえば、「ディープフェイク」という用語は、2017年の禁止されたソフトウェアの出力として使われていたときから、かなり意味や範囲が広がっている。このソフトウェアは後にDeepFaceLabやDeepFaceLiveに進化した。私は、同様の進化が「AIの汚れ」という用語で起こっていることを信じている。この蔑称はもともと、LLMの出力の特徴や、予測可能な 繰り返し、およびAI画像またはビデオ生成の一般的または説得力のない品質を指摘するために使われていた。しかし、現在、この用語は、品質に関係なく、AIそのものに対する単純な道徳的拒絶、政治的または経済的な理由で使われることが多い。私が前にも述べたように、消費者による「草の根抵抗」の可能性は、現在のAI革命のB2B性質によって制限される可能性がある。AIは、消費者の需要によってではなく、機械学習システムを基盤となるインフラストラクチャに浸透させることで、ほとんどのエンドユーザーが選択ではなくデフォルトでAIと関わることになるからである。Netflixの場合、テッド・サランドスは、消費者がどのようにして最新のショーや映画を入手するかにはほとんど興味がないと考えている。彼は、次のように述べている：「私は、観客は主に物語に惹かれることに最も関心があると思います。予算や、物語を提供する技術にはあまり興味がないと思います。」彼が正しいかもしれません。多くの人が、観客の無関心を過小評価して失敗したことはないかもしれません。さらに、一部の人々は、AIの拡散は非常に広範囲であるため、Houdiniの「バイブ・コーディング」プラグインが映画やテレビ番組でAIの開示の必要性を引き起こす可能性があると主張するかもしれない。そうすると、EUのクッキー法やGDPRのように、麻痺的な効果が生じることになる。おそらく、AIに反対している人々も、抗議をやめることになる。私が知っている多くのベジタリアンは、セルロイドで撮影された映画やテレビ番組を観ることを禁止していない。セルロイドは、動物製品だからである（X線検査も同様である）。一部の人々にとって、どれだけのAIが使われているかは関係なく、AIの使用は、全体の製品を「AIの汚れ」として見なす理由となる。AIがそのホストとより完全に統合するほど、ホスト製品は、AIの使用を認識する人々にとって、より汚染されたように見える。この程度では、「AIの汚れ」は品質ではなく、出自や、AIに対する脅威に対する連帯感の問題である。少なくとも、AIの使用が一般化する前の「移行期」の間、AIの使用についての事前の開示、以下のAI（GPT-2）で生成されたモックアップのように、ある程度の開示は必要かもしれない：そのような通知がすぐに時代遅れになるかもしれない人々は、暴力、下品な言葉、薬物の使用や乱用は永遠に続くものであり、頻繁にテレビ番組に登場するため、繰り返し開示されることを考慮する必要がある。同様に、セリなどのアレルゲンは、食品パッケージに強調して表示されることが多い。AIの使用を同様に扱うことは、観客が選択できるものであるため、不合理ではない。また、彼らは、エンターテインメントの報道を読んだり、会社のアップデートを購読したりする必要がないはずである。 * 私は、AIを中心とする視覚効果会社のMetaphysic.aiで数年間スタッフとして働き、最終的にVFXの大手会社DNEGにBrahma.aiとして吸収された。したがって、世界のVFX業界におけるAIの慣行について、いくつかの興味深い洞察を得た。†このリンクを表示するには、ログインする必要があります。†† この理由により、私はここでの記事のイラストをより明示的に「AI生成」としてフレーミングし始めました。なぜなら、ますます多くの人が、区別と開示を要求しているからです。以前は、画像のHTMLタグにAI生成の性質が埋め込まれているだけだった。2026年7月17日初版。EET 16:52に余分なスペースを削除するために修正された。
![AI-generated image (GPT-2 + Photoshop [non-AI]) - a maintenance worker scrapes the word 'Relations' from the frosted glass door of an office labeled 'Human Relations', above newly painted 'Employee Relations', while an HR manager points toward a partially obscured seated industrial robot inside. A yellow-and-black border reads 'AI FANTASY INSIDE' and 'REALITY OUTSIDE'.](https://www.unite.ai/wp-content/uploads/2026/07/handbook-MAIN-400x240.jpg.webp)
![AI-generated image (GPT-2 + Photoshop [non-AI]) - a maintenance worker scrapes the word 'Relations' from the frosted glass door of an office labeled 'Human Relations', above newly painted 'Employee Relations', while an HR manager points toward a partially obscured seated industrial robot inside. A yellow-and-black border reads 'AI FANTASY INSIDE' and 'REALITY OUTSIDE'.](https://www.unite.ai/wp-content/uploads/2026/07/handbook-MAIN-80x80.jpg.webp)
