Deepfakes хэр хол, харанхуй болох вэ?

Хиймэл оюун ухаан бидний өдөр тутмын амьдралд илүү гүнзгий нэвтэрч, гүнзгийрүүлэх технологи нь олон хүмүүсийн, ялангуяа олон нийтийн мэдээллийн хэрэгслээр хувийн мөчөө хуваалцах дуртай хүмүүсийн санаа зовоосон асуудал болоод байна. Багамын арлууд дахь найз нөхөдтэйгээ зугаалах эсвэл гэр бүлийн зугаалга хийх эсэхээс үл хамааран Instagram, Facebook, Snapchat гэх мэт платформ дээр хуваалцсан зургуудыг буруугаар ашиглахаас хамгаалдаггүй.

Солонгосоос ирсэн нэгэн залуу бүсгүй саяхан олон нийтийн сүлжээнд өшөө авах зорилгоор хийсэн гүн хуурамч бичлэгт сэтгэл дундуур байгаагаа илэрхийлжээ. Бичлэг дээр тэрээр хувцсаа тайлсан бололтой. Тэрээр хиймэл оюун ухаанаар бүтээсэн видео бичлэгийг устгахыг чин сэтгэлээсээ гуйж, түгээхээ зогсоохыг уриалав.

2023 оны XNUMX-р сард CBS Mornings-ийн хамтран хөтлөгч Гэйл Кинг, жүжигчин Том Хэнкс, YouTube-ийн нэр хүндтэй MrBeast зэрэг алдартай хүмүүс олон нийтийн мэдээллийн хэрэгслээр тархсан зөвшөөрөлгүй гүн хуурамч видеоны хохирогч болсон. Израйль-Газын хилийн ойролцоох CNN-ийн сэтгүүлч Кларисса Уордын тухай өөр нэг видео бичлэгийг түүний сурвалжлагад эргэлзэх зорилгоор ашигласан байна.

Хамгийн сүүлийн үеийн deepfake технологиор бүтээгдсэн эдгээр видеонууд нь одоо байгаа контент доторх хувь хүмүүсийг орлуулах чадвартай. Тэдний бодит байдал нь сэтгэл түгшээхгүй бөгөөд олон хүнийг жинхэнэ гэдэгт итгэхэд хүргэдэг. Үүнд орно AI-ээр үүсгэгдсэн дуунууд алдартай оддыг дуурайж, зарим нь чартын тэргүүлэгч болсон.

Ийм үйл явдлууд нь олон нийтийг доромжлох, дарамтлах, шантаажлах боломжийн талаар дэлхий нийтийн санаа зовнилыг төрүүлж, гүн гүнзгий хуурамч мэдээллийн хор хөнөөлтэй боломжийг улам тодотгож байна.

Яагаад Deepfake технологи таны бодсоноос илүү аюултай вэ?

Сэтгэл түгшээсэн хэргүүдийн тоо нэмэгдэж байгаа нь гүнзгийрүүлэхийн эсрэг идэвхтэй арга хэмжээ авах шаардлагатай байгааг харуулж байна. Одоогоор АНУ-д ч гэсэн гүнзгий хуурамч мэдээлэл эсвэл хиймэл оюун ухаанаар үүсгэсэн зөвшөөрөлгүй контентыг хамарсан бүх нийтийн хууль байдаггүй. Хэдийгээр тэдгээрийг бүрэн устгах боломжгүй ч хамгаалалтын арга хэмжээ авч болно.

Танихгүй хүмүүсийн хувьд гүнзгий хуурамч технологи нь хиймэл оюун ухааныг ашиглан бодитой боловч зохиомол зураг, видео, аудио клип хийдэг. Энэ хуурамч технологи 2017 онд нэр хүндтэй болсон Reddit-ийн нэргүй хэрэглэгч бодит мэт хуурамч видео үүсгэх алгоритмыг нэвтрүүлсэн үед.

Хэдийгээр анхандаа зугаа цэнгэл, боловсрол, идэвхтэй үйл ажиллагаа явуулах зорилготой байсан ч хиймэл оюун ухааныг хурдацтай хөгжүүлж, гүнзгийрүүлэх чадварууд нь аюулгүй байдал, ёс суртахууны олон асуудлыг бий болгодог. Үүнд:

1. Нууцлалын зөрчил: Хамгийн гол асуудал бол хүний ​​дүр төрхийг зөвшөөрөлгүй ашиглах явдал юм. Сонирхолтой тохиолдлуудад алдартнуудын имижийг гутааж буй насанд хүрэгчдийн гүн хуурамч бичлэгүүд багтдаг. Тухайлбал, 2017 онд жүжигчин Гал Гадотын дүрийг хуурамчаар дүрсэлсэн зохисгүй видео олон нийтэд цацагдсан.
2. Хуурамч мэдээлэл, заль мэх: Deepfakes үнэнийг гуйвуулж, олон нийтийн санаа бодолд нөлөөлж болно. Сонирхолтой жишээ бол BuzzFeed болон Жордан Пил нарын бүтээсэн ерөнхийлөгч асан Обамаг харуулсан гүн хуурамч видео юм. Хэдийгээр ташаа мэдээллийн эсрэг Бүтээгдэхүүн хуваах гэрээнд зориулагдсан боловч энэ нь технологийг буруугаар ашиглаж болзошгүйг онцолдог.

1. Луйвар ба шантааж: Энэ технологи нь дуу хоолой/дүрсийг хуулбарлах замаар хуурамч нотлох баримт гаргах эсвэл хууран мэхлэх боломжтой. Их Британийн эрчим хүчний компанид хууран мэхэлж, их хэмжээний мөнгө шилжүүлж, дуут хууран мэхлэх замаар гэмт хэрэгтнүүд хууран мэхлэх эсвэл санхүүгийн луйвар хийх зорилгоор ашиглаж болно.
2. Ялгаварлан гадуурхах үзэл: Deepfakes нь нийгмийн өрөөсгөл үзлийг улам бүр нэмэгдүүлж, өсгөж, тодорхой хүн ам зүйг буруугаар харуулах боломжтой.

Deepfakes: Ардчилал, харилцаа холбоо, өвөрмөц байдалд заналхийлж байна

Deepfake технологи нь өөрөө хор хөнөөлтэй биш ч түүнийг буруугаар ашиглах нь хор хөнөөл учруулж болзошгүй юм. Энэ нь Netflix-ийн "DeepFake Love", "Clickbait" зэрэг энтертайнмент нэвтрүүлгүүдэд үзүүлсэн шиг сонгуулийн үр дүнг гажуудуулж, хувийн харилцааг хурцатгаж, хувийн шинж чанарыг зөрчиж болзошгүй юм.

Дүгнэлт бодол

Deepfakes нь тоон ертөнцийг өөрчилж, шинэлэг арга замуудыг нээж, ёс зүйн сорилтуудыг бий болгож байна. Дэлхий нийтийн зохицуулалт, үр дүнтэй илрүүлэх хэрэгсэл байхгүй байгаа нь үүнийг чухал асуудал болгож байна. Хэдийгээр олон нийтийн мэдлэг, хэвлэл мэдээллийн бичиг үсэг нэн чухал боловч эдгээр нь шийдлийн зөвхөн нэг хэсэг юм.

Үүнийг тунгаан бодох нь маш чухал: Бид гүнзгий фэйкийг технологийн гайхамшиг эсвэл хувь хүн болон нийгмийн сайн сайхан байдалд заналхийлж буй аюул гэж үздэг үү? Хамтын ухамсар, үйл ажиллагаа нь гүнзгий хуурамч технологийн хор хөнөөлтэй нөлөөллийг бууруулахад чухал үүрэг гүйцэтгэдэг тул харилцан яриа үргэлжлэх ёстой.