Rishab Mehra, PinnacleのCTO兼共同創設者 Rishab Mehra PinnacleのCTO兼共同創設者

AIパワードスキャムの実際の危険性

こんなシナリオを想像してみてください。締め切りに追われる仕事に集中しているあなたの元に、母親の電話番号から電話がかかってきます。電話の向こう側の声は、母親の声と間違いありません。落ち着いて愛情に満ちた声ですが、少し緊迫した感じがします。她はパリで大きなトラブルに巻き込まれており、すぐに金銭的な助けが必要だと伝えます。彼女が滞在しているホテルの名前まで伝えるので、電話はさらに信憑性があります。あなたは二度考えずに金銭を送金しますが、後に母親がその電話を掛けたことがないことを知り、背筋が凍りつく思いになります。このシナリオは、以前は純粋な科学フィクションでしたが、現在は現実のものになってきています。LLM（Large Language Model）などのAI技術の登場により、驚くべき進歩がもたらされました。しかし、重大な脅威も生じています。AIパワードスキャムの可能性は、技術の進歩の地平線に新たな脅威をもたらしています。電話スキャムは電話の発明以来懸念されていましたが、LLMのデジタルコミュニケーションのあらゆる側面への広範な統合により、賭けは劇的に高まりました。AIの潜在力を活かす一方で、これらの高度な脅威に対する防御を強化する必要があります。電話スキャムの現在の状況犯罪者は、長年にわたり、人々を金銭を送金させたり、機密情報を漏らさせたりするために、さまざまな手口を試してきました。しかし、電話スキャムの多くは、人間の読み上げオペレーターに依存しているため、比較的単純なものです。アメリカ連邦取引委員会（FTC）によると、2022年だけで、アメリカ人は8.8億ドル以上を詐欺に失い、その大部分が電話スキャムによるものでした。これは、現在の形態でさえも、これらの戦術が依然として効果的であることを示しています。AI技術が進化するにつれて、電話スキャムの状況は劇的に変化する可能性があります。AIパワードスキャムの未来電話スキャムの状況は、以下のいくつかの重要な技術の登場により、劇的に変化する可能性があります。大規模言語モデル（LLM）これらのAIシステムは、人間のようなテキストを生成し、自然な会話を交わすことができます。スキャミングに適用すると、LLMは、高度に説得力のある適応性のあるスクリプトを作成でき、潜在的な被害者がスキャムを特定することをより困難にします。検索強化生成（RAG）この技術により、LLMシステムは、膨大な量の情報にリアルタイムでアクセスし、利用できます。詐欺師は、被害者の公開情報を使用してプロファイルを作成できます。さらに、ソーシャルエンジニアリング技術を使用して、被害者の友人や家族からより深い情報を収集できます。これにより、被害者のアイデンティティ、仕事情報、または最近の活動に関する情報にアクセスできます。次に、RAGを使用して、LLMに必要なコンテキストを提供し、被害者のアプローチを非常に個人化し、妥当なものにできます。合成音声生成Resemble AIやLyrebirdなどのプラットフォームは、高度にリアルなAI生成音声を生成する分野で先駆けています。これらの技術は、パーソナライズされた人間のような音声を生成でき、仮想アシスタント、自動顧客サービス、コンテンツ作成など、さまざまなアプリケーションで使用できます。ElevenLabsなどの企業は、さらに進んで、ユーザーが自分の声に似た合成音声を生成できるようにしています。これにより、デジタルインタラクションで新しいレベルのパーソナライゼーションとエンゲージメントが可能になります。合成ビデオ生成Synthesiaなどの企業は、AI生成のアバターを使用したリアルなビデオコンテンツの生成の可能性をすでに実証しています。将来、この技術により、詐欺師が友人や家族を装ったり、完全に架空の人物を作成したりして、ビデオ通話を行うことができます。以前は不可能だった物理的なリアリズムをスキャムに導入します。AIリップシンクSync Labsなどのスタートアップは、生成されたオーディオをビデオ映像に同期させる高度なリップシンク技術を開発しています。これにより、歴史上の人物、政治家、有名人など、ほぼ誰でも、高度に説得力のあるディープフェイクビデオを作成できます。これにより、現実と欺瞞の境界がさらに曖昧になります。これらの技術の組み合わせは、ある意味で、両刃の剣です。AIの進歩は、肯定的な応用の可能性をもたらしますが、詐欺師によって利用された場合、重大なリスクももたらします。高度なセキュリティ対策の必要性AIパワードスキャムがより高度になるにつれて、アイデンティティと真実性の検証方法は、AIの進歩とともに進化する必要があります。オンラインセキュリティを維持するには、規制と技術の両方の進歩が必要です。規制の改善厳格なデータプライバシーロー：より厳格なデータプライバシーローを実施することで、詐欺師が利用できる個人情報の量を制限できます。これらの法律には、データ収集の要件の強化、ユーザーの同意プロトコルの強化、およびデータ漏洩に対する罰則の強化が含まれます。最も強力なAIモデルをプライベートクラウドに保管する：規制により、最も強力なAIモデルを、公開ではなくプライベートでセキュアなクラウドインフラストラクチャ上でホストすることが義務付けられる可能性があります。これにより、最も高度な技術へのアクセスが制限され、悪意のある行為者がそれらをスキャミング目的で使用することが困難になります。（例：https://security.apple.com/blog/private-cloud-compute/）AI規制に関する国際協力：AI技術の世界的な性質を考えると、規制基準についての国際協力は有益である可能性があります。国際的なAI規制の作成と施行を担当する世界的な機関の設立は、国境を越えたAI関連犯罪に対処するのに役立ちます。公共の認識キャンペーン：政府と規制機関は、AIスキャムの潜在的なリスクと自己保護方法について市民に教育するための公共の認識キャンペーンに投資する必要があります。認識は、個人と組織が必要なセキュリティ対策を実施するために不可欠な第一歩です。現在のAI規制はスキャムを防ぐのに十分ではなく、多くの強力な技術がオープンソースであることにより、将来の規制の課題が複雑化しています。このオープン性により、誰でもこれらの技術にアクセスし、改変して自分の目的のために使用できます。したがって、規制の強化とともに、セキュリティ技術の進歩も必要です。合成データ検出合成音声検出：詐欺師がAIを使用するのと同様に、防御もAIを使用する必要があります。Pindropなどの企業は、電話通話中の合成音声をリアルタイムで検出できるAIパワードシステムを開発しています。その技術は、電話通話のオーディオの1,300以上の特徴を分析して、実際の人物からのものか、または高度なAIシステムからのものかを判断します。合成ビデオ検出：合成ビデオ検出：AIもビデオを操作できますが、それはディープフェイクやその他の合成ビデオコンテンツの形で重大な脅威をもたらします。Deepwareなどの企業は、合成ビデオを検出する技術を開発しています。Deepwareのプラットフォームは、ビデオデータの微妙な不一致を分析して、AI生成コンテンツにしばしば存在する不自然な動き、不規則な照明、ピクセル異常を検出します。これらの不一致を特定することで、Deepwareの技術は、ビデオが本物か、または操作されたものかを判断できます。これにより、個人と組織は、複雑なビデオベースのスキャムやデマキャンペーンから保護されます。アイデンティティ認証の進歩アイデンティティを確認するためのさまざまな方法が開発されていますが、そのうちの1つ以上は、近い将来に主流になる可能性があります。リモート会話の2要素認証：2要素認証（2FA）は、安全なコミュニケーションの基本的なコンポーネントです。この方法では、各電話通話または電子メールが、ユニークな検証コードを含むテキストメッセージをトリガーします。2FAは基本的な認証に効果的ですが、その限界により、すべての状況で頼ることはできません。したがって、包括的なインターネットセキュリティを確保するために、より高度な方法の開発が必要です。行動ベースのマルチ要素認証：会話の開始時にアイデンティティを確認するだけでなく、将来のセキュリティシステムは、会話全体を通じて行動を継続的に分析する可能性があります。BioCatchなどの企業は、デバイスとのやり取りに基づいてユーザープロファイルを作成するための行動バイオメトリクスを使用しています。この技術は、初期の認証チェックに合格したとしても、不正アクセス者が盗まれた情報を使用している可能性があることを示す、行動の異常を検出できます。バイオメトリクスベースの認証：Onfidoなどの企業は、AIパワードのアイデンティティ検証ツールを提供しています。これにより、高度なディープフェイクや他のアイデンティティ詐欺の形態を検出できます。そのシステムは、文書の検証とバイオメトリック分析の組み合わせを使用して、通話またはビデオチャットの相手が本物であることを確認します。高度な知識ベースの認証：将来の認証システムは、ユーザーのデジタルフットプリントや最近の活動に基づいて、AIによって生成された動的質問を組み込む可能性があります。たとえば、Proveは、電話中心のアイデンティティに特化した企業で、電話インテリジェンスと行動分析を使用してアイデンティティを検証するソリューションを開発しています。その技術は、デバイスの使用パターンを分析して、詐欺師が複製するのが非常に困難な「アイデンティティシグネチャ」を生成できます。ブロックチェーンベースのアイデンティティ検証認証：ブロックチェーン技術は、分散型で改ざん不可のアイデンティティ検証方法を提供します。Civicなどの企業は、ユーザーが個人情報を管理しながら安全な認証を提供するブロックチェーンベースのアイデンティティ検証システムを先駆けています。これらのシステムは、個人情報の検証可能で改ざん不可のレコードを作成します。これは、高リスク取引の管理に適しています。結論LLM、RAG、合成音声生成、合成ビデオ生成、リップシンク技術の融合は、ある意味で、両刃の剣です。これらの進歩は、肯定的な応用の可能性をもたらしますが、詐欺師によって利用された場合、重大なリスクももたらします。セキュリティ専門家とサイバー犯罪者の間のこの不断の攻防戦は、デジタルセキュリティ分野での継続的な革新と警戒の必要性を強調しています。新しいスキャムの形態に対するリスクを認識し、対策することで、強力なツールの利点を活かしながら、被害を軽減することができます。包括的な規制、スキャムの新しい形態に関する教育、新しいセキュリティ対策への投資、そしてオンラインまたは電話での不明なエンティティとのやり取り時には、各自が持つ健康的な懐疑心が、 この新しい景観を切り抜ける上で不可欠です。