GPT-4 нь AGI-д хүрэх үсрэлт мөн үү?

Майкрософт саяхан нэгэн судалгааны өгүүлэл нийтлэв. Хиймэл ерөнхий оюун ухааны оч: GPT-4-ийн анхны туршилтууд. Microsoft-ын тайлбарласнаар:

Энэ баримт бичиг OpenAI идэвхтэй хөгжүүлж байх үед GPT-4-ийн анхны хувилбарыг судалж байсан талаар бид мэдээлж байна. Бид GPT-4 (энэ анхны хувилбар) нь өмнөх хиймэл оюун ухааны загваруудаас илүү ерөнхий оюун ухааныг харуулдаг LLM-ийн шинэ бүлгийн (жишээ нь ChatGPT болон Google-ийн PaLM-ийн хамт) нэг хэсэг гэдгийг бид баталж байна.

Энэхүү баримт бичигт GPT-4 нь цээжлэхээс хол давсан бөгөөд ойлголт, ур чадвар, хүрээний талаар гүн гүнзгий, уян хатан ойлголттой болохыг харуулсан баттай нотолгоонууд бий. Үнэн хэрэгтээ энэ нь ерөнхийлөн дүгнэх чадвар нь өнөөгийн амьдарч буй бүх хүнийхээс хамаагүй илүү юм.

Бид өмнө нь ярилцаж байхад AGI-ийн ашиг тус, бид AGI систем гэж юу болох талаарх ерөнхий зөвшилцлийг хурдан нэгтгэн дүгнэх хэрэгтэй. Үнэн чанартаа AGI нь олон домэйныг нэгтгэх боломжтой, хамрах хүрээний хувьд нарийн биш, дэвшилтэт хиймэл оюун ухааны төрөл юм. Нарийн хиймэл оюун ухааны жишээнд автономит тээврийн хэрэгсэл, чатбот, шатрын робот эсвэл нэг зорилгод зориулагдсан бусад хиймэл оюун ухаан багтана.

Харьцуулбал AGI нь дээр дурьдсан эсвэл бусад мэргэшлийн чиглэлээр уян хатан байдлаар ээлжлэн ажиллах боломжтой. Энэ нь шинээр гарч ирж буй алгоритмуудын давуу талыг ашиглах хиймэл оюун ухаан юм сургалтыг шилжүүлэх, болон хувьслын сургалт зэрэг өв залгамжлагдсан алгоритмуудыг ашиглаж байна гүнзгий бататгах сургалт.

AGI-ийн дээрх тайлбар нь GPT-4-ийг ашиглах миний хувийн туршлага, Майкрософтоос гаргасан судалгааны баримт бичигт хуваалцсан нотлох баримттай таарч байна.

Баримт бичигт дурьдсан зөвлөмжүүдийн нэг нь GPT-4 нь анхны тоонуудын хязгааргүй байдлын баталгааг шүлэг хэлбэрээр бичих явдал юм.

Ийм шүлгийг бүтээхэд тавигдах шаардлагуудад дүн шинжилгээ хийвэл энэ нь математикийн үндэслэл, яруу найргийн илэрхийлэл, байгалийн хэлийг бий болгох шаардлагатай гэдгийг ойлгодог. Энэ бол ихэнх хүмүүсийн дунджаас давах сорилт юм.

Энэхүү баримт бичиг нь GPT-4 нь ерөнхий цээжлэх, контекстийг ойлгох, тайлбарлах чадвартай байхын тулд зүгээр л контент бүтээж байгаа эсэхийг ойлгохыг хүссэн. Шекспирийн хэв маягаар шүлгээ дахин бүтээхийг хүсэхэд тэр үүнийг хийж чадсан. Энэ нь нийт хүн амын чадвараас хол давсан, оюун санааны онол, математикийн суут ухааныг багтаасан олон талт түвшний ойлголтыг шаарддаг.

GPT-4 оюун ухааныг хэрхэн тооцоолох вэ?

Дараа нь бид LLM-ийн оюун ухааныг хэрхэн хэмжих вэ гэсэн асуулт гарч ирнэ. Мөн GPT-4 нь жинхэнэ сурах зан үйлийг харуулж байна уу, эсвэл зүгээр л цээжилдэг үү?

AI системийг турших одоогийн арга бол системийг стандарт жишиг өгөгдлийн багц дээр үнэлж, тэдгээр нь сургалтын өгөгдлөөс хамааралгүй, олон төрлийн даалгавар, хүрээг хамарч байгаа эсэхийг баталгаажуулах явдал юм. GPT-4-ийг сургасан бараг хязгааргүй тооны өгөгдлийн улмаас ийм төрлийн туршилт хийх нь бараг боломжгүй юм.

Уг нийтлэлд GPT-4 нь цээжлэхээс хол давсан, ухагдахуун, ур чадвар, хүрээний талаар гүн гүнзгий, уян хатан ойлголттой гэдгийг баттай харуулсан шинэ, хэцүү даалгавар/асуултуудыг бий болгох талаар авч үзсэн.

Тагнуулын тухай ярихад GPT-4 богино өгүүллэг, дэлгэцийн бүтээл үүсгэж, хамгийн төвөгтэй томъёог тооцоолж чаддаг.

GPT-4 нь зааварчилгаанаас код бичих, одоо байгаа кодыг ойлгох аль алинд нь маш өндөр түвшинд кодлох чадвартай. GPT-4 нь өргөн хүрээний кодчиллын ажлыг гүйцэтгэж чаддаг
Доод түвшний угсралтаас эхлээд өндөр түвшний хүрээ, энгийн өгөгдлийн бүтцээс эхлээд тоглоом гэх мэт нарийн төвөгтэй программ хүртэл бодит ертөнцийн хэрэглээний кодлох сорилтууд. GPT-4 нь кодын гүйцэтгэлийн талаар тайлбарлаж, зааврын үр нөлөөг дуурайж, үр дүнг байгалийн хэлээр тайлбарлаж чаддаг. GPT-4 нь псевдокодыг ч ажиллуулж чаддаг.

GPT-4 нь өгсөн бараг бүх асуултанд оновчтой хариулт өгөх боломжтой. Үнэн хэрэгтээ түүний оюун ухаан нь нарийн төвөгтэй байдлын хувьд бараг ялагдашгүй юм.

GPT-4 хязгаарлалт

Дараа нь уг нийтлэлд GPT-4-ийн хариу үйлдэл, зан үйлийг хэрхэн шалгаж, түүний тууштай байдал, уялдаа холбоо, зөв ​​байдлыг шалгах, түүний хязгаарлалт, өрөөсгөл байдлыг илрүүлэхийн тулд үргэлжлүүлэн тайлбарлах болно.

Хамгийн тод хязгаарлалт бол түүний хязгаарлалт юм галлюцинация хийх хандлага. GPT-4 нь бүрэн худал хариулт өгсөн гэдэгт итгэлтэй байсан цаасан дээр өгөгдсөн хий үзэгдэлийн жишээ энд байна.

GPT-4 хүртэл хий үзэгдэлтэй холбоотой одоогийн хязгаарлалтыг ойлгодог бололтой, учир нь би түүнээс GPT хий үзэгдэл гэж юу вэ гэж асуухад ийм хариулт өгсөн юм.

GPT хий үзэгдэл гэдэг нь таны одоогийн харилцаж буй загвартай адил Урьдчилан бэлтгэгдсэн үүсгүүрийн хувиргагч (GPT) загвар нь бодит мэдээлэлд тулгуурлаагүй эсвэл өгөгдсөн контексттэй уялдаагүй хариу үйлдэл үзүүлэх үзэгдлийг хэлнэ. Загвар нь үнэмшилтэй мэт санагдаж болох ч үнэн хэрэгтээ буруу, төөрөгдүүлсэн, утгагүй текст үүсгэх үед эдгээр хий үзэгдэл үүсдэг.

Өөрөөр хэлбэл, та LLM AI-г дэлхийн өгөгдөл дээр сургахдаа буруу өгөгдөл сурахаас хэрхэн зайлсхийх вэ? Хэл сурах, буруу мэдээлэл, хуйвалдааны онолуудыг сургах томоохон загвар нь хүн төрөлхтөнд LLM-ийг өргөн хүрээнд нэвтрүүлэхэд тулгарч буй хамгийн том бэрхшээл, аюул заналхийллийн нэг байж болох юм. Энэ нь үнэндээ AGI-ийн аюулын талаар ярихад гайхмаар орхигдуулдаг AGI-ийн томоохон аюулуудын нэг байж болох юм.

GPT-4 Тагнуулын нотолгоо

Энэхүү баримт бичигт ямар төрлийн нарийн төвөгтэй зөвлөмжүүд түүнд чиглэсэн байсан нь хамаагүй, GPT-4 нь хүлээлтээс давах болно гэдгийг харуулж байна. Баримт бичигт дурдсанчлан:

Байгалийн хэлийг хосгүй сайн эзэмшсэн. Энэ нь зөвхөн чөлөөтэй, уялдаатай текст үүсгэхээс гадна түүнийг нэгтгэн дүгнэх, орчуулах эсвэл маш өргөн асуултанд хариулах зэрэг янз бүрийн аргаар ойлгож, удирдах боломжтой. Түүнээс гадна орчуулга гэдэг нь зөвхөн байгалийн өөр өөр хэлнүүдийн хооронд төдийгүй өнгө аяс, хэв маягийн орчуулга, түүнчлэн анагаах ухаан, хууль эрх зүй, нягтлан бодох бүртгэл, компьютерийн програмчлал, хөгжим гэх мэт домэйны орчуулгыг хэлнэ.

GPT-4-т хуурамч техникийн тойм өгсөн бөгөөд энэ нь нөгөө талаас хүн байсан бол тэр даруй программ хангамжийн инженерээр ажилд авна гэсэн утгыг амархан дамжуулсан. Олон улсын хуульчийн шалгалтын GPT-4-ийн ур чадварын ижил төстэй урьдчилсан шалгалт нь 70% -иас дээш нарийвчлалтай болохыг харуулсан. Энэ нь ирээдүйд хуульчдад өгч байгаа олон ажлыг автоматжуулах боломжтой гэсэн үг юм. Үнэндээ зарим нь байдаг робот хуульчдыг бүтээхээр ажиллаж байгаа стартапууд GPT-4 ашиглан.

Шинэ мэдлэгийг бий болгох

Энэхүү баримт бичигт дурдсан аргументуудын нэг нь GPT-4-д ойлголтын жинхэнэ түвшинг батлах цорын ганц зүйл бол математикийн шинэ теоремуудыг нотлох гэх мэт шинэ мэдлэгийг бий болгох явдал бөгөөд энэ нь одоогоор LLM-ийн хувьд боломжгүй зүйл юм.

Дараа нь дахин энэ бол AGI-ийн ариун нандин зүйл юм. AGI-ийг буруу гарт удирдах нь аюул дагуулдаг ч шинэ теорем, эмчилгээ, эмчилгээг илрүүлэхийн тулд бүх түүхэн өгөгдлийг хурдан шинжлэх чадвартай AGI-ийн ашиг тус бараг хязгааргүй юм.

AGI нь одоогоор хувийн салбарын санхүүжилтгүй байгаа ховор генетикийн өвчнийг эмчлэх, хорт хавдрыг нэг удаа, бүрмөсөн эмчлэх, тогтворгүй эрчим хүчний хараат байдлаас ангижрах сэргээгдэх эрчим хүчний үр ашгийг нэмэгдүүлэхэд дутагдаж буй холбоос байж болох юм. Үнэн хэрэгтээ энэ нь AGI системд тэжээгддэг аливаа асуудлыг шийдэж чадна. Үүнийг Сэм Алтман болон OpenAI-ийн багийнхан ойлгодог AGI бол үнэхээр сүүлчийн шинэ бүтээл юм Энэ нь ихэнх асуудлыг шийдэж, хүн төрөлхтөнд тус дөхөм үзүүлэхэд хэрэгтэй.

Мэдээжийн хэрэг, энэ нь AGI-ийг хэн удирддаг, тэдний зорилго юу вэ гэсэн цөмийн товчлуурын асуудлыг шийдэж чадахгүй. Үүнээс үл хамааран цаасан GPT-4 нь хиймэл оюун ухааны судлаачдын мөрөөдөж байсан зорилгод хүрэх үсрэлт гэдгийг нотолж, гайхалтай ажил хийжээ. 1956 оноос хойш, Анхны Дартмут Зуны Судалгааны Төслийн хиймэл оюун ухааны зуны семинарыг анх эхлүүлж байх үед.

GPT-4 нь AGI мөн эсэх нь маргаантай байгаа хэдий ч энэ нь хүн төрөлхтний түүхэнд анх удаа хиймэл оюун ухааны системийг даван туулах чадвартай гэж амархан маргаж болно. Тюринг тест.