2024年、ディープフェイクが本格的に広まる。企業が自分たちを守る方法

2016年の選挙のとき以来、デジタル情報における誤報に関する懸念が一般の意識に浮かび上がったときから、専門家たちはディープフェイクの警告を発してきました。ディープフェイクの潜在的な影響は、今でも恐ろしいものです。現実的な合成メディアの無制限な拡散は、政治家から一般の人々まで、誰にでも脅威をもたらします。既に信頼が薄れしている状況では、ディープフェイクは炎をさらに燃やすことになります。

しかし、実際には私たちの懸念は早計でした。ディープフェイクを作るために必要な技術的知識と、ディープフェイクの質の低さから、過去2つの大統領選挙周期では、ディープフェイクは最小限の懸念事項でした。

しかし、すべてが変わりつつあります。過去2年で、生成的なAI技術が主流になり、一般の消費者がディープフェイクを作るプロセスを簡素化しました。これらの革新はディープフェイクの質を大幅に向上させました。盲目的なテストでは、ほとんどの人が本物と改ざんされたビデオを区別することができません。

今年は特に、ディープフェイクが社会に与える影響をみることができます。去年、たとえば、AIによって生成されたローマ教皇フランシスコの写真が、不思議なコートを着ているように見えました。多くの人々がこれを本物だと思いました。このことは、ディープフェイクの危険性と、誤報が広がり始めたらそれを止めるのがどれほど難しいかを示しています。将来、もっと面白くない、もっと危険なディープフェイクが出現することが予想されます。

したがって、すべての種類の組織（メディア、金融、政府、ソーシャルメディアプラットフォームなど）が、ディープフェイクの検出とコンテンツの真正性の検証に対して積極的な姿勢をとることが不可欠です。安全対策による信頼の文化を今すぐに確立する必要があります。そうでないと、ディープフェイクの波が現実の理解を奪うことになります。

ディープフェイクの脅威を理解する

ディープフェイクに対抗するために組織ができることを説明する前に、安全対策ツールが必要な理由について詳しく説明しましょう。通常、ディープフェイクについて心配する人々は、政治と社会的信頼への潜在的な影響を引用します。これらの潜在的な結果は非常に重要で、ディープフェイクについて話すときには無視してはいけません。しかし、ディープフェイクの台頭は、米国の経済のさまざまな分野に深刻な影響を及ぼす可能性があります。

たとえば、保険業界を見てみましょう。現在、アメリカにおける年間の保険詐欺は3086億ドルに達し、業界全体の約4分の1の規模です。同時に、保険会社のバックエンド業務は、70%の標準的な請求が2025年までにタッチレスになる予想です。つまり、決定は人間の介入が最小限になるようになります。フロントエンドではセルフサービス、バックエンドではAIによる自動化です。

皮肉なことに、自動化の向上を可能にした技術、つまり機械学習と人工知能は、悪意のある行為者によって悪用される可能性も高まりました。一般の人々が請求書を操作することは、たとえば、Dall-E、Midjourney、Stable Diffusionなどの生成的なAIプログラムを使用して、車がより損傷しているように見せることが容易になりました。すでに、Dude Your Car!のようなアプリが存在し、ユーザーが車の写真に人工的な凹みを作成できます。

公式文書も簡単に操作できます。請求書、保険の査定、署名などが改ざんされたり創作されたりする可能性があります。これは保険会社だけでなく、経済全体の問題です。金融機関はさまざまな文書の真正性を確認する必要があります。小売業者は、製品が不良品として届いたという苦情を受け取ることがあり、その際に改ざんされた画像が添付される可能性があります。

企業はこの程度の不確実性で運営することはできません。ある程度の詐欺は避けられないかもしれませんが、ディープフェイクの場合は、企業が真実と虚偽を区別する明確な方法を持たない、認識論的災害の可能性があります。企業はこの混乱により数十億ドルを失うことになります。

火を以て火を制す：AIがどのように助けるか

では、ディープフェイクに対抗するために何ができるでしょうか。驚くことではありませんが、答えはディープフェイクを可能にする技術そのものにあります。ディープフェイクの蔓延を止めるには、火を以て火を制す必要があります。AIはディープフェイクを作るのを助けるのですが、同時に自動的にディープフェイクを識別するのにも役立ちます。

適切なAIツールを使用すると、企業は写真、ビデオ、文書が改ざんされたかどうかを自動的に判断できます。数十もの異なるモデルを偽物識別のタスクに当てると、AIは企業に特定の写真やビデオが疑わしいかどうかを自動的に通知できます。企業がすでに日常業務の自動化に使用しているツールと同様に、これらのツールは、過負荷のスタッフに負担をかけず、重要なプロジェクトから時間を奪わずに、バックグラウンドで実行できます。

写真が改ざんされた可能性があると識別された場合、人間のスタッフは問題を直接評価し、AIによって提供された情報を活用できます。ディープスキャン分析を使用して、企業は写真が改ざんされた理由を理解できます。たとえば、手動で改ざんされたメタデータ、ウェブ上の同一の画像の存在、写真のさまざまな不規則性などを指摘します。

これは、過去数年で見られた生成的なAI技術の驚くべき進歩を軽視するものではありません。この技術には、業界横断的に有用で生産的な応用があります。しかし、この出現する技術の力と簡素性は、組織を操作しようとする人々によって悪用される可能性を高めています。

企業は、AIの生産性の利点を享受しながら、ディープフェイクの悪影響を回避することができます。しかし、ディープフェイクに対抗するには、新たな警戒心が必要です。生成的なAIの出力は、より説得力があり、詳細でリアルなものになっているためです。企業がこの問題に早く対処すれば、自動化された世界の全ての利点を享受できるようになります。うつるディープフェイク。ただし、生成的なAIの出力は、より説得力があり、詳細でリアルなものになっているため、企業は新たな警戒心をもって対応する必要があります。企業がこの問題に早く対処すれば、自動化された世界の全ての利点を享受できるようになります。