Deepfake илрүүлэгчийн шилдэг 5 хэрэгсэл, техник (2024 оны XNUMX-р сар)

Дижитал эрин зуунд deepfakes нь онлайн контентын жинхэнэ байдалд ихээхэн аюул заналхийлж байна. Хиймэл оюун ухаанаар бүтээгдсэн эдгээр боловсронгуй видеонууд нь бодит хүмүүсийг үнэмшилтэй дуурайж чаддаг тул баримтыг уран зохиолоос ялгахад улам бүр хэцүү болгодог. Гэсэн хэдий ч, deepfake-ийн ард байгаа технологи хөгжихийн хэрээр тэдгээрийг илрүүлэх хэрэгсэл, арга техникүүд ч бас бий болсон. Энэ блогт бид өнөөдөр байгаа гүний хуурамч мэдээллийг илрүүлэх шилдэг таван хэрэгсэл, арга техникийг судлах болно.

1. харуулдан

(Зураг: Sentinel)

Sentinel бол ардчилсан засгийн газар, батлан ​​​​хамгаалах агентлагууд болон аж ахуйн нэгжүүдэд хуурамч мэдээлэл хийх аюулыг зогсооход тусалдаг хиймэл оюун ухаанд суурилсан тэргүүлэх хамгаалалтын платформ юм. Sentinel-ийн технологийг Европын тэргүүлэх байгууллагууд ашигладаг. Энэхүү систем нь хэрэглэгчид өөрсдийн вэбсайт эсвэл API-ээр дамжуулан дижитал медиаг байршуулах боломжийг олгодог бөгөөд дараа нь хиймэл оюун ухааныг хуурамчаар үйлдсэн эсэхийг автоматаар шинжилдэг. Уг систем нь хэвлэл мэдээллийн хэрэгсэл нь хуурамч эсэхийг тодорхойлж, залилангийн дүрслэлийг өгдөг.

Sentinel-ийн гүнзгий хуурамч илрүүлэгч технологи нь дижитал мэдээллийн хэрэгслийн бүрэн бүтэн байдлыг хамгаалах зорилготой юм. Энэ нь дэвшилтэт AI алгоритмуудыг ашиглан байршуулсан зөөвөрлөгчид дүн шинжилгээ хийж, түүнийг өөрчилсөн эсэхийг тодорхойлдог. Энэхүү систем нь өөрчилсөн хэвлэл мэдээллийн хэсгүүдийн дүрслэлийг багтаасан үр дүнгийн дэлгэрэнгүй тайланг өгдөг. Энэ нь хэрэглэгчдэд хэвлэл мэдээллийн хэрэгслийг яг хаана, хэрхэн удирдсаныг харах боломжийг олгодог.

Sentinel-ийн үндсэн шинж чанарууд:

• AI-д суурилсан гүнзгий хуурамч илрүүлэлт
• Европын тэргүүлэх байгууллагууд ашигладаг
• Хэрэглэгчдэд дүн шинжилгээ хийх дижитал медиа байршуулах боломжийг олгодог
• Манипуляцийн дүрслэлийг өгдөг

2. Intel-ийн бодит цагийн Deepfake илрүүлэгч

Intel компани FakeCatcher гэгддэг бодит цагийн гүнзгий хуурамч илрүүлэгчийг танилцууллаа. Энэхүү технологи нь хуурамч видеог 96%-ийн нарийвчлалтайгаар илрүүлж, үр дүнг миллисекундэд өгөх боломжтой. Бингэмтон дахь Нью-Йоркийн Их Сургуулийн Умур Чифтчитэй хамтран бүтээсэн илрүүлэгч нь Intel-ийн техник хангамж, программ хангамжийг ашигладаг бөгөөд сервер дээр ажиллаж, вэб дээр суурилсан платформоор холбогддог.

FakeCatcher нь бодит видеонуудаас жинхэнэ утгыг хайж, биднийг хүн болгодог зүйл буюу видеоны пиксел дэх нарийн "цусны урсгал"-ыг үнэлдэг. Бидний зүрх цус шахах үед бидний судаснууд өнгө өөрчлөгддөг. Эдгээр цусны урсгалын дохиог нүүрний бүх хэсгээс цуглуулдаг бөгөөд алгоритмууд нь эдгээр дохиог орон зайн цаг хугацааны газрын зураг болгон хөрвүүлдэг. Дараа нь гүнзгий суралцах аргыг ашиглан видео бодит эсвэл хуурамч эсэхийг шууд илрүүлж чадна.

Intel-ийн бодит цагийн Deepfake илрүүлэгчийн гол онцлогууд:

• Бингэмтон дахь Нью-Йоркийн Улсын Их Сургуультай хамтран боловсруулсан
• Хуурамч видеог 96%-ийн нарийвчлалтайгаар илрүүлж чадна
• Үр дүнг миллисекундээр буцаана
• Хуурамч дүрсийг илрүүлэхийн тулд видеоны пиксел дэх нарийн "цусны урсгал"-ыг ашигладаг

3. WeVerify

(Зураг: WeVerify)

WeVerify нь оюун ухаант хүний ​​​​давталт дахь контентыг баталгаажуулах, хуурамч мэдээллийн шинжилгээний арга, хэрэгслийг хөгжүүлэх зорилготой төсөл юм. Энэхүү төсөл нь зохиомол агуулгыг илчлэхийн тулд илүү өргөн хүрээний онлайн экосистемийн хүрээнд олон нийтийн мэдээллийн хэрэгсэл, вэб контентыг задлан шинжилж, контекст болгоход чиглэдэг. Энэ нь кросс-модаль контентын баталгаажуулалт, нийгмийн сүлжээний дүн шинжилгээ, бичил зорилтот задлах, блокчэйнд суурилсан олон нийтэд танигдсан хуурамч мэдээллийн мэдээллийн санд хүрэх замаар хийгддэг.

WeVerify-ийн гол онцлогууд:

• Агуулгыг шалгах, хуурамч мэдээллийн шинжилгээний ухаалаг арга, хэрэгслийг хөгжүүлдэг.
• Сошиал медиа болон вэб контентод дүн шинжилгээ хийж, контекстоор нь тодорхойлдог
• Кросс-модал контентын баталгаажуулалт, нийгмийн сүлжээний дүн шинжилгээ, бичил зорилтот задлах замаар зохиомол контентыг илчилдэг.
• Мэдэгдэж буй хуурамч мэдээллийн блокчэйнд суурилсан олон нийтийн мэдээллийн санг ашигладаг

4. Майкрософт видео баталгаажуулагч хэрэгсэл**

(Зураг: Microsoft)

Microsoft-ын Video Authenticator хэрэгсэл нь хөдөлгөөнгүй гэрэл зураг эсвэл видеог шинжилж, мэдээллийн хэрэгслээр удирдуулсан эсэхийг харуулах итгэлийн оноо өгөх хүчирхэг хэрэгсэл юм. Энэ нь хүний ​​нүдэнд үл анзаарагдах гүний хуурамч болон нарийн саарал өнгийн элементүүдийн холилдох хил хязгаарыг илрүүлдэг. Энэ нь мөн энэ итгэлийн оноог бодит цаг хугацаанд өгч, гүн хуурамч баримтуудыг шууд илрүүлэх боломжийг олгодог.

Video Authenticator хэрэгсэл нь мэдээллийн хэрэгсэлд дүн шинжилгээ хийж, залилангийн шинж тэмдгийг илрүүлэхийн тулд дэвшилтэт AI алгоритмуудыг ашигладаг. Энэ нь хэвлэл мэдээллийн хэрэгслийн саарал өнгийн элементүүдийн нарийн өөрчлөлтийг эрэлхийлдэг бөгөөд энэ нь ихэвчлэн гүнзгий хуурамч шинж тэмдэг болдог. Энэхүү хэрэгсэл нь бодит цагийн итгэлийн оноог өгч, хэрэглэгчдэд хэвлэл мэдээллийн хэрэгсэл жинхэнэ эсэхийг хурдан тодорхойлох боломжийг олгодог.

Майкрософт-ын Видео баталгаажуулагч хэрэгслийн гол онцлогууд:

• Хөдөлгөөнгүй зураг эсвэл видеонд дүн шинжилгээ хийдэг
• Бодит цагийн итгэлийн оноо өгдөг
• Нарийн саарал өнгийн өөрчлөлтийг илрүүлдэг
• Deepfakes-ийг нэн даруй илрүүлэх боломжийг олгодог

5. Фонем-Виземийн тохиромжгүй байдлыг ашиглан хуурамч хуурамч илрүүлэлт

Стэнфордын их сургууль, Калифорнийн их сургуулийн судлаачдын бүтээсэн энэхүү шинэлэг арга нь амны хэлбэрийн динамикийг илэрхийлдэг виземууд заримдаа ярианы фонемээс ялгаатай эсвэл үл нийцдэг байдлыг ашигладаг. Хиймэл оюун ухаан нь амны хөндийн хөдөлгөөнийг ярьж буй үгтэй төгс тааруулах гэж байнга тэмцдэг тул энэхүү үл нийцэл нь deepfake-ийн нийтлэг дутагдал юм.

Phoneme-Viseme Mismatch техник нь AI-ийн дэвшилтэт алгоритмуудыг ашиглан видеог шинжилж, эдгээр зөрчлийг илрүүлдэг. Энэ нь амны хөдөлгөөнийг (висемууд) ярианы үгтэй (фонем) харьцуулж, ямар нэгэн үл нийцэх байдлыг эрэлхийлдэг. Хэрэв тохиромжгүй байдал илэрсэн бол энэ нь видео гүн хуурамч болохыг илтгэнэ.

Фонем-Виземийн тохиромжгүй байдлыг ашиглан гүн хуурамчийг илрүүлэх гол онцлогууд:

• Стэнфордын их сургууль болон Калифорнийн их сургуулийн судлаачид боловсруулсан
• Deepfakes дахь визем болон фонемийн хоорондын үл нийцлийг ашигладаг
• Тохиромжгүй байдлыг илрүүлэхийн тулд дэвшилтэт AI алгоритмуудыг ашигладаг
• Хэрэв тохиромжгүй байдал илэрвэл гүн хуурамч эсэхийг сайн илтгэнэ

Гүн хуурамч илрүүлэлтийн ирээдүй

21-р зууны дижитал ландшафтыг хөтөлж байх үед гүн гүнзгий хуурамч зүйлсийн төсөөлөл асар том болж байна. Бодит хүмүүсийг үнэмшилтэй дуурайж чаддаг хиймэл оюун ухаанаар бүтээсэн эдгээр видеонууд нь онлайн контентын жинхэнэ байдалд ихээхэн аюул учруулж байна. Тэд хувийн харилцаанаас эхлээд улс төрийн сонгууль хүртэл бүх зүйлийг тасалдуулах чадвартай тул хуурамч мэдээллийг илрүүлэх үр дүнтэй хэрэгсэл, арга техникийг урьд өмнөхөөсөө илүү чухал болгож байна.

Энэхүү блогт бидний судалсан гүн гүнзгий хуурамчийг илрүүлэх таван хэрэгсэл, арга техник нь энэ салбарын хамгийн сүүлийн үеийн дэвшилтийг харуулж байна. Тэд гүнзгийрүүлсэн хуурамч мэдээллийг гайхалтай нарийвчлалтайгаар задлан шинжилж илрүүлэхийн тулд дэвшилтэт AI алгоритмуудыг ашигладаг. Хэрэгсэл, техник бүр нь видеоны нарийн саарал өнгийн элементүүдэд дүн шинжилгээ хийхээс эхлээд субьектүүдийн нүүрний хувирал, хөдөлгөөнийг хянах хүртэл гүн хуурамчийг илрүүлэх өвөрмөц аргыг санал болгодог.

Жишээлбэл, Sentinel нь хиймэл оюун ухааныг ашиглан дижитал зөөвөрлөгчийг задлан шинжилж, түүнийг өөрчилсөн эсэхийг тодорхойлж, манипуляцийн дүрслэлийг өгдөг. Харин Microsoft-ын Video Authenticator хэрэгсэл нь гэрэл зураг эсвэл видеог өөрчилсөн эсэхийг бодит цагийн итгэлийн оноогоор хангадаг. Эдгээр хэрэгслүүд нь бидний хэлэлцсэн бусад хэрэгслүүдийн хамт гүнзгий хуурамч мэдээлэлтэй тэмцэх ажлыг удирдаж, онлайн контентын жинхэнэ байдлыг баталгаажуулахад тусалдаг.

Гэсэн хэдий ч deepfakes-ийн цаадах технологи хөгжихийн хэрээр бидний илрүүлэх аргууд ч бас хөгжих ёстой. Deepfake технологийн хөгжил нь хурдацтай хөгжиж буй зорилт бөгөөд бидний арга хэрэгсэл, арга техникүүд хурдацтай хөгжих ёстой. Энэ нь байнгын судалгаа, хөгжүүлэлт, түүнчлэн судлаачид, технологийн компаниуд, бодлого боловсруулагчдын хамтын ажиллагааг шаардана.

Түүгээр ч зогсохгүй технологи нь дангаараа гүн хуурамч байдлын асуудлыг шийдэж чадахгүй гэдгийг санах нь чухал. Боловсрол, ухамсар нь бас чухал юм. Бид бүгд цахим контентын илүү ухаалаг хэрэглэгчид болж, мэдээллийн эх сурвалжийг эргэлзэж, залилангийн шинж тэмдгийг хайж олох ёстой. Deepfake технологи, илрүүлэх хамгийн сүүлийн үеийн хөгжлийн талаар мэдээлэлтэй байх замаар бид бүгд энэхүү аюул заналхийлэлтэй тэмцэхэд тодорхой үүрэг гүйцэтгэж чадна.