วิธีการทำงานของการจำแนกประเภทข้อความ

การจำแนกประเภทข้อความเป็นกระบวนการวิเคราะห์ลำดับข้อความและกำหนดป้ายกำกับให้กับข้อความเหล่านั้น โดยการจำแนกประเภทข้อความสามารถใช้ได้กับการทำงานของ AI หรือการเรียนรู้ของเครื่องจักรที่เกี่ยวข้องกับการประมวลผลภาษาธรรมชาติ (NLP) ด้วยการจำแนกประเภทข้อความ โปรแกรมคอมพิวเตอร์สามารถทำงานได้หลากหลาย เช่น การตระหนักข้อความสแปม การวิเคราะห์ความรู้สึก และการทำงานของชัตบอท วิธีการทำงานของการจำแนกประเภทข้อความคืออะไร วิธีการต่างๆ ในการจำแนกประเภทข้อความคืออะไร เราจะสำรวจคำตอบเหล่านี้ต่อไป

การกำหนดการจำแนกประเภทข้อความ

เป็นสิ่งสำคัญที่จะต้องใช้เวลาและเข้าใจว่าการจำแนกประเภทข้อความคืออะไร ก่อนที่จะไปสู่วิธีการต่างๆ ในการจำแนกประเภทข้อความ การจำแนกประเภทข้อความเป็นหนึ่งในคำที่ใช้กับงานและอัลกอริทึมหลายอย่าง ดังนั้นจึงมีประโยชน์ที่จะเข้าใจแนวคิดพื้นฐานของการจำแนกประเภทข้อความก่อนที่จะไปสู่วิธีการต่างๆ

สิ่งใดๆ ที่เกี่ยวข้องกับการสร้างหมวดหมู่สำหรับข้อความและกำหนดป้ายกำกับให้กับข้อความต่างๆ สามารถถือว่าเป็นการจำแนกประเภทข้อความได้ ตราบเท่าที่ระบบสามารถทำงานตามขั้นตอนพื้นฐานเหล่านี้ได้ ก็สามารถถือว่าเป็นระบบการจำแนกประเภทข้อความได้ ไม่ว่าระบบจะใช้วิธีการใดในการจำแนกประเภทข้อความหรือไม่ การตรวจจับข้อความสแปม การจัดระเบียบเอกสารตามหัวข้อหรือชื่อ และการรู้จำความรู้สึกของการตรวจสอบสินค้าเป็นตัวอย่างของการจำแนกประเภทข้อความ เนื่องจากสามารถทำงานได้โดยการนำข้อความมาเป็นข้อมูลเข้าและกำหนดป้ายกำกับให้กับข้อความนั้น

วิธีการทำงานของการจำแนกประเภทข้อความ

ภาพ: Quinn Dombrowski via Flickr, CC BY SA 2.0 , (https://www.flickr.com/photos/quinnanya/4714794045)

วิธีการจำแนกประเภทข้อความส่วนใหญ่สามารถแบ่งออกเป็นสามประเภท: วิธีการตามกฎหรือวิธีการตามการเรียนรู้ของเครื่องจักร

วิธีการจำแนกประเภทตามกฎ

วิธีการจำแนกประเภทตามกฎใช้กฎภาษาที่ถูกออกแบบมาโดยเฉพาะ ระบบจะใช้กฎเหล่านี้เพื่อกำหนดว่าข้อความใดควรอยู่ในหมวดหมู่ใด โดยการค้นหาสัญญาณในข้อความที่เกี่ยวข้องกับหมวดหมู่นั้น

เพื่อให้เห็นภาพชัดเจน hơn ลองพิจารณาว่าคุณต้องการออกแบบระบบการจำแนกประเภทที่สามารถแยกแยะหัวข้อสนทนาได้ เช่น สภาพอากาศ ภาพยนตร์ หรืออาหาร ในการทำเช่นนี้ คุณอาจบอกระบบให้ค้นหาคำที่เกี่ยวข้องกับสภาพอากาศในข้อความ เช่น “ลม” “ฝน” “ดวงอาทิตย์” “หิมะ” หรือ “เมฆ” คุณสามารถบอกระบบให้ค้นหาคำเหล่านี้ในข้อความและนับจำนวนครั้งที่คำเหล่านั้นปรากฏ หากคำเหล่านั้นปรากฏบ่อยกว่าคำที่เกี่ยวข้องกับภาพยนตร์ ระบบจะกำหนดป้ายกำกับว่าข้อความนั้นอยู่ในหมวดหมู่สภาพอากาศ

ข้อดีของระบบตามกฎคือการทำงานและผลลัพธ์ที่คาดการณ์ได้และสามารถตีความได้โดยมนุษย์ นอกจากนี้ยังสามารถปรับปรุงได้ด้วยการแทรกแซงโดยตรงจากวิศวกร อย่างไรก็ตาม ระบบตามกฎยังขาดความยืดหยุ่นและสามารถทำงานได้เฉพาะกับรูปแบบที่ถูกกำหนดไว้ล่วงหน้าเท่านั้น ตัวอย่างเช่น คำว่า “เมฆ” อาจหมายถึงความชื้นในอากาศหรือคลาวด์สำหรับจัดเก็บข้อมูล ซึ่งระบบตามกฎอาจไม่สามารถจัดการกับความซับซ้อนเหล่านี้ได้โดยไม่ต้องมีการปรับแต่งจากวิศวกร

ระบบการเรียนรู้ของเครื่องจักร

ระบบตามกฎมีข้อจำกัด เนื่องจากต้องกำหนดกฎและฟังก์ชันล่วงหน้า ระบบการเรียนรู้ของเครื่องจักรใช้อัลกอริทึมที่วิเคราะห์ข้อมูลเพื่อหาความสัมพันธ์ระหว่างข้อมูลและหมวดหมู่

อัลกอริทึมการเรียนรู้ของเครื่องจักรได้รับข้อมูลที่มีป้ายกำกับและวิเคราะห์ข้อมูลเหล่านั้นเพื่อหาคุณลักษณะที่เกี่ยวข้องกับแต่ละหมวดหมู่

ระบบการเรียนรู้ของเครื่องจักรวิเคราะห์ข้อมูลและเรียนรู้รูปแบบที่เกี่ยวข้องกับแต่ละหมวดหมู่ หลังจากนั้น ระบบจะนำข้อมูลที่ไม่มีป้ายกำกับมาและกำหนดป้ายกำกับให้กับข้อมูลเหล่านั้นโดยอาศัยรูปแบบที่เรียนรู้

ระบบการเรียนรู้ของเครื่องจักรต้องทำงานกับข้อมูลตัวเลข ดังนั้นข้อความจึงต้องถูกแปลงเป็นรูปแบบตัวเลขก่อนจึงจะสามารถใช้กับระบบการเรียนรู้ของเครื่องจักรได้ มีหลายวิธีในการเข้ารหัสข้อความให้เป็นข้อมูลตัวเลขและสร้างระบบการเรียนรู้ของเครื่องจักรรอบๆ ข้อมูลเหล่านั้น

Bag-of-Words

Bag-of-Words เป็นวิธีการเข้ารหัสข้อความที่ใช้กันมากที่สุด วิธีนี้เรียกว่า “Bag-of-Words” เพราะคุณนำคำทั้งหมดจากเอกสารมาใส่ใน “ถุง” เดียวกัน โดยไม่สนใจลำดับของคำหรือไวยากรณ์ แต่สนใจเฉพาะความถี่ของคำในถุงเท่านั้น

ภาพ: gk_ via Machinelearning.co, (https://machinelearnings.co/text-classification-using-neural-networks-f5cd7b8765c6)

หลังจากกำหนดขนาดของเวกเตอร์แล้ว เอกสารแต่ละฉบับในรายการเอกสารทั้งหมดจะได้รับเวกเตอร์ของตัวเองที่เต็มไปด้วยตัวเลขที่บ่งบอกถึงจำนวนครั้งที่คำนั้นปรากฏในเอกสารนั้น

อีกนัยหนึ่ง คำทั้งหมดที่ปรากฏในเอกสารทั้งหมดจะถูกนำมาใส่ในถุงเดียวกัน และแต่ละเอกสารจะได้รับเวกเตอร์คำที่มีขนาดเท่ากัน ซึ่งจะถูกเติมด้วยจำนวนครั้งที่คำปรากฏในเอกสารนั้น

Term Frequency-Inverse Document Frequency (TF-IDF)

วิธีอื่นที่ใช้ในการแสดงเอกสารโดยอาศัยคำที่ปรากฏในเอกสารคือ Term Frequency-Inverse Document Frequency (TF-IDF) วิธีนี้สร้างเวกเตอร์ที่แสดงเอกสารโดยอาศัยคำที่ปรากฏในเอกสาร แต่ไม่เหมือนกับ Bag-of-Words ที่คำนั้นถูกชั่งน้ำหนักมากกว่าความถี่ของคำ

วิธี TF-IDF เริ่มต้นด้วยการคำนวณความถี่ของคำในเอกสาร แต่จะลดผลกระทบของคำที่ปรากฏบ่อยมากในเอกสารหลายๆ ฉบับ

เวกเตอร์ที่สร้างโดยวิธี TF-IDF มีค่าแบบปกติซึ่งรวมกันเป็น 1 และมีการกำหนดค่าน้ำหนักให้กับคำโดยอาศัยสูตร TF-IDF

Word Embeddings

Word Embeddings เป็นวิธีการแสดงข้อความที่ทำให้คำที่มีความหมายใกล้เคียงกันมีการแสดงตัวเลขที่ใกล้เคียงกัน

Word Embeddings ทำงานโดยการ “เวกเตอร์” คำ ซึ่งหมายความว่าคำจะถูกแสดงเป็นเวกเตอร์ที่มีค่าจริงในพื้นที่เวกเตอร์

เวกเตอร์ที่แสดงคำต่างๆ จะถูกสร้างขึ้นโดยอาศัยวิธีการใช้คำเหล่านั้น คำที่ใช้ในบริบทที่คล้ายกันจะมีเวกเตอร์ที่มีทิศทางและขนาดใกล้เคียงกัน

Embedding Layers

หนึ่งในวิธีการใช้ Word Embeddings คือการใช้ Embedding Layers ในระบบการเรียนรู้ของเครื่องจักรที่ลึก

ในวิธีการใช้ Word Embeddings คำที่คล้ายกันจะมีการแสดงตัวเลขที่ใกล้เคียงกันและอยู่ใกล้กันมากกว่าคำที่ไม่คล้ายกัน

Word2Vec

Word2Vec เป็นอีกวิธีการหนึ่งที่ใช้ในการแสดงคำเป็นเวกเตอร์ Word2Vec ใช้วิธีการทางสถิติเพื่อแปลงคำเป็นเวกเตอร์ และได้รับการปรับให้เหมาะสมสำหรับการใช้กับโมเดลเครื่องจักรที่ลึก

GloVe

GloVe หรือ Global Vector for Word Representation เป็นอีกวิธีการหนึ่งที่ใช้ในการแสดงคำเป็นเวกเตอร์ GloVe สร้าง upon อัลกอริทึมการแสดงคำเป็นเวกเตอร์ที่ใช้ใน Word2Vec และเทคนิคการแยกตัวประกอบเมทริกซ์เช่น Latent Semantic Analysis