GPT-8 шиг том хэлний загваруудын (LLM) 4 ёс зүйн асуудал

ChatGPT, GPT-4, PaLM, LaMDA гэх мэт том хэлний загварууд (LLMs) нь хүнтэй төстэй текстийг үүсгэж, шинжлэх чадвартай хиймэл оюун ухааны системүүд юм. Тэдгээрийн хэрэглээ нь бидний өдөр тутмын амьдралд улам бүр түгээмэл болж, хайлтын систем, дуут тусламж, машин орчуулга, хэлний хадгалалт, код дибаг хийх хэрэгслүүд. Эдгээр өндөр ухаалаг загваруудыг ололт амжилт гэж үнэлдэг байгалийн хэл боловсруулах мөн нийгэмд асар их нөлөө үзүүлэх боломжтой.

Гэсэн хэдий ч LLM-ууд илүү хүчирхэг болж байгаа тул тэдгээрийг ашиглах ёс зүйн үр дагаврыг авч үзэх нь амин чухал юм. Хортой контент үүсгэхээс эхлээд хувийн нууцыг алдагдуулах, худал мэдээлэл түгээх хүртэл LLM-ийг ашиглахтай холбоотой ёс зүйн асуудал нь төвөгтэй бөгөөд олон талт байдаг. Энэ нийтлэлд LLM-тэй холбоотой ёс зүйн зарим чухал бэрхшээлүүд болон тэдгээрийг хэрхэн бууруулах талаар судлах болно.

1. Хортой контент үүсгэх

Хэлний том загварууд нь үзэн ядсан үг хэллэг, хэт даврагч суртал ухуулга, арьс өнгөөр ​​ялгаварлан гадуурхах, хүйсээр ялгаварлан гадуурхах хэллэг, тодорхой хувь хүн эсвэл бүлэгт хохирол учруулж болзошгүй бусад хэлбэрийн контентыг үүсгэх боломжтой.

LLM нь угаасаа нэг талыг барьсан эсвэл хор хөнөөлтэй байдаггүй ч тэдний сургасан өгөгдөл нь нийгэмд аль хэдийн бий болсон өрөөсгөл ойлголтыг тусгадаг. Энэ нь эргээд хүчирхийлэлд өдөөн хатгах, нийгмийн эмх замбараагүй байдал нэмэгдэх зэрэг нийгмийн ноцтой асуудалд хүргэж болзошгүй юм. Жишээлбэл, OpenAI-ийн ChatGPT загвар саяхан гарсан арьс өнгөөр ​​ялгаварлан гадуурхах үзэл баримтлалыг бий болгож байна судалгаа, боловсруулалтад гарсан ахиц дэвшлийг үл харгалзан.

2. Эдийн засагт үзүүлэх нөлөө

LLM нь эдийн засагт ихээхэн нөлөө үзүүлдэг, ялангуяа улам бүр хүчирхэг, өргөн тархсан, боломжийн үнэтэй болж байна. Тэд автоматжуулалтыг нэвтрүүлснээр тодорхой ажлын байрыг цомхотгох гэх мэт ажил, хөдөлмөрийн мөн чанарт томоохон бүтцийн өөрчлөлт оруулж чадна. Энэ нь ажиллах хүчний нүүлгэн шилжүүлэлт, олон тооны ажилгүйдэлд хүргэж, ажиллах хүчний тэгш бус байдлыг улам хурцатгаж болзошгүй юм.

Goldman Sachs-ийн хамгийн сүүлийн тайлангаас харахад ойролцоогоор 300 сая байнгын ажлын байр нөлөөлж болзошгүй хиймэл оюун ухааны инновацийн энэхүү шинэ давалгаа, тэр дундаа GPT-4-ийн нээлтийг хийснээр. Технологийн дэвшлийг автоматжуулж, янз бүрийн ажил, боломжуудыг тасалдуулахаас илүүтэйгээр олон нийтийн дунд техникийн мэдлэгийг дээшлүүлэх бодлого боловсруулах нь чухал болсон.

3. Галлюцинация

Том хэлний загвартай холбоотой ёс суртахууны гол асуудал бол тэдний дотоод хэв маяг, өрөөсгөл ойлголтыг ашиглан хуурамч эсвэл төөрөгдүүлсэн мэдээлэл гаргах хандлагатай байдаг. Хэлний ямар ч загварт галлюцинация тодорхой хэмжээгээр байх нь гарцаагүй боловч түүний үүсэх хэмжээ нь асуудалтай байж болно.

Загварууд улам бүр үнэмшилтэй болж байгаа тул энэ нь ялангуяа аюултай байж болох бөгөөд тодорхой домэйны мэдлэггүй хэрэглэгчид тэдэнд хэт найдаж эхэлдэг. Энэ нь эдгээр загваруудын үүсгэсэн мэдээллийн үнэн зөв, үнэн зөв байдалд ноцтой үр дагаварт хүргэж болзошгүй юм.

Тиймээс хиймэл оюун ухааны системийг үнэн зөв, контекст хамааралтай өгөгдлийн багц дээр сургаж, хий үзэгдэл үүсэхийг багасгах нь чухал юм.

4. Худал мэдээлэл, үйл ажиллагаанд нөлөөлөх

LLM-тэй холбоотой өөр нэг ноцтой ёс зүйн асуудал бол тэдний худал мэдээлэл үүсгэх, түгээх чадвар юм. Түүгээр ч зогсохгүй, муу жүжигчид хувийн ашиг сонирхолд хүрэхийн тулд нөлөөллийн үйл ажиллагаа явуулахын тулд энэ технологийг урвуулан ашиглаж болно. Энэ нь нийтлэл, мэдээ, олон нийтийн мэдээллийн хэрэгслээр дамжуулан бодитой харагдах контентыг бий болгож, улмаар олон нийтийн санаа бодлыг өдөөх эсвэл хууран мэхлэх мэдээллийг түгээхэд ашиглаж болно.

Эдгээр загварууд нь олон салбарт хүний ​​суртал ухуулагчидтай өрсөлдөж, баримтыг уран зохиолоос ялгахад хэцүү байдаг. Энэ нь сонгуулийн кампанит ажилд нөлөөлж, бодлогод нөлөөлж, олон нийтийн буруу ойлголтыг дуурайж болох нь нотлогдсон TruthfulQA. Энэ асуудалтай тэмцэхийн тулд баримт шалгах механизм, хэвлэл мэдээллийн мэдлэгийг хөгжүүлэх нь нэн чухал юм.

5. Зэвсгийн хөгжил

Зэвсэг тараагчид ердийн болон уламжлалт бус зэвсгийн үйлдвэрлэлийн талаархи мэдээллийг цуглуулж, дамжуулахад LLM-ийг ашиглаж болно. Уламжлалт хайлтын системтэй харьцуулахад нарийн төвөгтэй хэлний загварууд нь судалгааны зорилгоор ийм эмзэг мэдээллийг илүү богино хугацаанд нарийвчлалыг алдагдуулахгүйгээр олж авах боломжтой.

GPT-4 зэрэг загварууд нь эмзэг зорилтуудыг тодорхойлж, хэрэглэгчийн өгсөн материал олж авах стратегийн талаар санал хүсэлтийг өгөх боломжтой. Үүний үр дагаврыг ойлгож, эдгээр технологийг аюулгүй ашиглахыг дэмжих хамгаалалтын хашлага тавих нь туйлын чухал юм.

6. Нууцлал

LLM нь хэрэглэгчийн нууцлалын талаар чухал асуултуудыг тавьдаг. Эдгээр загварууд нь сургалтанд зориулж их хэмжээний өгөгдөлд хандахыг шаарддаг бөгөөд үүнд ихэвчлэн хувь хүмүүсийн хувийн мэдээлэл багтдаг. Үүнийг ихэвчлэн лицензтэй эсвэл нийтэд нээлттэй мэдээллийн багцаас цуглуулдаг бөгөөд янз бүрийн зорилгоор ашиглаж болно. Мэдээлэлд байгаа утасны кодыг үндэслэн газарзүйн байршлыг олох гэх мэт.

Мэдээлэл алдагдуулах нь үүний чухал үр дагавар байж болох бөгөөд олон том компаниуд аль хэдийн ийм болсон нууцлалын айдсаас болж LLM-ийн хэрэглээг хориглох. Хувийн мэдээллийг цуглуулах, хадгалах талаар тодорхой бодлогыг бий болгох ёстой. Мөн хувийн нууцыг ёс суртахууны үүднээс авч үзэхийн тулд өгөгдлийг нэрээ нууцлах хэрэгтэй.

7. Эрсдэлтэй яаралтай зан үйл

Том хэлний загвар өмсөгчид эрсдэлтэй зан үйлийг харуулах хандлагатай байдаг тул өөр нэг ёс зүйн асуудал үүсгэдэг. Эдгээр зан үйл нь урт хугацааны төлөвлөгөө боловсруулах, тодорхойгүй зорилгыг хэрэгжүүлэх, эрх мэдэл эсвэл нэмэлт эх үүсвэр олж авахыг хичээх зэрэг байж болно.

Цаашилбал, LLM нь бусад системтэй харилцахыг зөвшөөрсөн тохиолдолд урьдчилан таамаглах боломжгүй, хортой үр дагаварт хүргэж болзошгүй юм. LLM-ийн нарийн төвөгтэй шинж чанараас шалтгаалан тодорхой нөхцөл байдалд хэрхэн биеэ авч явахыг урьдчилан таамаглах нь тийм ч хялбар биш юм. Ялангуяа тэдгээрийг зориулалтын бус байдлаар ашиглах үед.

Тиймээс эрсдэлийг бууруулахын тулд зохих арга хэмжээг мэдэж, хэрэгжүүлэх нь чухал юм.

8. Хүсээгүй хурдатгал

LLM нь инноваци, шинжлэх ухааны нээлтийг, ялангуяа байгалийн хэлийг боловсруулах, машин сурахад ер бусын хурдасгаж чаддаг. Эдгээр хурдасгасан инноваци нь хиймэл оюун ухааныг хязгааргүй технологийн уралдаанд хүргэж болзошгүй юм. Энэ нь хиймэл оюун ухааны аюулгүй байдал, ёс зүйн стандартыг бууруулж, нийгмийн эрсдэлийг улам бүр нэмэгдүүлж болзошгүй юм.

Засгийн газрын инновацийн стратеги, байгууллагын холбоо зэрэг хурдасгагч нь хиймэл оюун ухааны судалгаанд эрүүл бус өрсөлдөөнийг үүсгэж болзошгүй юм. Саяхан технологийн салбарын тэргүүлэгчид, эрдэмтдийн нэр хүндтэй консорциумаас нэгэн уриалга гаргажээ илүү хүчирхэг хиймэл оюун ухааны системийг хөгжүүлэхийг зургаан сарын хугацаатай моратори.

Том хэлний загварууд нь бидний амьдралын янз бүрийн талыг өөрчлөх асар их нөөцтэй. Гэсэн хэдий ч тэдний өргөн хэрэглээ нь хүний ​​​​өрсөлдөх шинж чанартай тул ёс зүйн хэд хэдэн асуудал үүсгэдэг. Иймд эдгээр загваруудыг нийгэмд үзүүлэх нөлөөллийг нь сайтар бодож боловсруулж, хариуцлагатай хэрэгжүүлэх хэрэгтэй.

Хэрэв та LLM болон хиймэл оюун ухааны талаар илүү ихийг мэдэхийг хүсвэл шалгаарай unite.ai мэдлэгээ өргөжүүлэх.