ผู้นำทางความคิด
การทำความเข้าใจความสับสน: บทบาทของ LLM ในการดึงข้อมูลที่ไม่มีโครงสร้าง
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ความก้าวหน้าล่าสุดในด้านฮาร์ดแวร์ เช่น GPU Nvidia H100 ได้เพิ่มขีดความสามารถในการคำนวณอย่างมาก ด้วยความเร็วที่มากกว่า Nvidia A100 ถึง 9 เท่า GPU เหล่านี้มีความโดดเด่นในการจัดการงานโหลดที่ลึก ซึ่งได้กระตุ้นให้เกิดการใช้งานเชิงพาณิชย์ของ AI ที่สร้างขึ้นในด้านการประมวลผลภาษา自然 (NLP) และการมองเห็นของคอมพิวเตอร์ ทำให้สามารถดึงข้อมูลออกมาจากข้อมูลที่ไม่มีโครงสร้างได้อย่างอัตโนมัติและฉลาด Businesses สามารถแปลงข้อมูลที่ไม่มีโครงสร้างให้เป็นข้อมูลที่มีค่าได้อย่างง่ายดาย ซึ่งเป็นการกระโดดไปข้างหน้าอย่างมากในด้านการผสมผสานเทคโนโลยี
วิธีการดึงข้อมูลแบบดั้งเดิม
การป้อนข้อมูลด้วยมือ
อย่างน่าประหลาดใจ บริษัทหลายแห่งยังคงพึ่งพาการป้อนข้อมูลด้วยมือ แม้ว่าจะมีเทคโนโลยีที่ทันสมัยกว่าอยู่ก็ตาม วิธีการนี้เกี่ยวข้องกับการป้อนข้อมูลโดยตรงเข้าสู่ระบบเป้าหมาย มักจะง่ายต่อการนำมาใช้เนื่องจากต้นทุนเริ่มต้นต่ำกว่า อย่างไรก็ตาม การป้อนข้อมูลด้วยมือไม่เพียงแต่ซบเซาและใช้เวลานานเท่านั้น แต่ยังเสี่ยงต่อข้อผิดพลาดสูงอีกด้วย นอกจากนี้ยังเป็นความเสี่ยงด้านความปลอดภัยเมื่อมีการจัดการข้อมูลที่ละเอียดอ่อน ทำให้เป็นตัวเลือกที่น่าพอใจน้อยลงในยุคของการอัตโนมัติและความปลอดภัยดิจิทัล
การรู้จำตัวอักษรทางแสง (OCR)
เทคโนโลยี OCR ซึ่งแปลงภาพและข้อความที่เขียนด้วยมือให้เป็นข้อมูลที่สามารถอ่านได้ด้วยเครื่องจักร เป็นวิธีแก้ปัญหาที่เร็วขึ้นและคุ้มค่ากว่าสำหรับการดึงข้อมูล อย่างไรก็ตาม คุณภาพอาจไม่น่าเชื่อถือ ตัวอย่างเช่น ตัวอักษร “S” อาจถูกสับสนกับ “8” และในทางกลับกัน
ประสิทธิภาพของ OCR ได้รับอิทธิพลอย่างมากจากความซับซ้อนและลักษณะของข้อมูลนำเข้า มันทำงานได้ดีกับภาพสแกนความละเอียดสูงซึ่งไม่มีปัญหาเช่นการเอียง การวางแนวหรือการเขียนทับ อย่างไรก็ตาม มันเผชิญกับความท้าทายกับข้อความที่เขียนด้วยมือ โดยเฉพาะอย่างยิ่งเมื่อภาพมีความซับซ้อนหรือยากต่อการประมวลผล อาจจำเป็นต้องมีการปรับเปลี่ยนเพื่อให้ได้ผลลัพธ์ที่ดีขึ้นเมื่อจัดการกับข้อมูลข้อความ เครื่องมือดึงข้อมูลในตลาดที่ใช้ OCR เป็นเทคโนโลยีฐานมักจะวางชั้นการประมวลผลหลังเพื่อปรับปรุงความแม่นยำของข้อมูลที่ดึงออกมา แต่โซลูชันเหล่านี้ไม่สามารถรับประกันผลลัพธ์ที่แม่นยำ 100% ได้
การค้นหาลวดลายข้อความ
การค้นหาลวดลายข้อความเป็นวิธีการหนึ่งในการระบุและดึงข้อมูลเฉพาะจากข้อความโดยใช้กฎหรือลวดลายที่กำหนดไว้ล่วงหน้า มันเร็วกว่าและให้ผลตอบแทนที่สูงกว่าวิธีอื่น ๆ มันทำงานได้ผลทุก ๆ ระดับของความซับซ้อนและบรรลุความแม่นยำ 100% สำหรับไฟล์ที่มีการวางแนวที่คล้ายกัน
อย่างไรก็ตาม ความเข้มงวดในการจับคู่คำต่อคำสามารถจำกัดความสามารถในการปรับตัวได้ โดยต้องการการจับคู่ที่แม่นยำ 100% สำหรับการดึงข้อมูลที่สำเร็จ นอกจากนี้ยังมีความท้าทายด้วยคำไวพจน์ ซึ่งอาจทำให้เกิดปัญหาในการระบุคำที่เทียบเท่ากัน เช่น การแยกความแตกต่างระหว่าง “สภาพอากาศ” และ “สภาพภูมิอากาศ” การหาสมดุลที่เหมาะสมระหว่างความเข้มงวดและความสามารถในการปรับตัวยังคงเป็นความท้าทายที่ต่อเนื่องในการใช้วิธีการนี้อย่างมีประสิทธิภาพ
การรู้จำชื่อของหน่วย (NER)
การรู้จำชื่อของหน่วย (NER) เป็นเทคนิค NLP ที่ระบุและจัดประเภทข้อมูลสำคัญในข้อความ
การดึงข้อมูลของ NER ถูกจำกัดไว้เฉพาะกับหน่วยที่กำหนดไว้ล่วงหน้า เช่น ชื่อองค์กร ที่ตั้ง ชื่อบุคคล และวันที่ ในอีกคำหนึ่ง ระบบ NER ปัจจุบันขาดความสามารถในการดึงข้อมูลส่วนบุคคลที่ไม่ได้กำหนดไว้ล่วงหน้า ซึ่งอาจเฉพาะเจาะจงสำหรับโดเมนหรือกรณีการใช้งานใดๆ อีกทั้งการมุ่งเน้นของ NER ต่อค่าสำคัญที่เกี่ยวข้องกับหน่วยที่รู้จักไม่ได้ขยายไปถึงการดึงข้อมูลจากตาราง ทำให้ความสามารถในการใช้งานมีจำกัดสำหรับข้อมูลที่มีโครงสร้างซับซ้อน
เมื่อองค์กรต้องจัดการกับข้อมูลที่ไม่มีโครงสร้างที่เพิ่มขึ้นเรื่อยๆ ความท้าทายเหล่านี้เน้นย้ำถึงความจำเป็นในการใช้วิธีการดึงข้อมูลที่ครอบคลุมและปรับขนาดได้
การปลดล็อกข้อมูลที่ไม่มีโครงสร้างด้วย LLMs
การใช้โมเดลภาษาขนาดใหญ่ (LLMs) สำหรับการดึงข้อมูลที่ไม่มีโครงสร้างเป็นวิธีแก้ปัญหาที่น่าสนใจซึ่งมีข้อดีเฉพาะที่แก้ไขความท้าทายที่สำคัญ
การดึงข้อมูลที่ตระหนักถึงบริบท
LLMs มีความเข้าใจบริบทที่เข้มแข็งซึ่งได้รับการฝึกฝนจากชุดข้อมูลขนาดใหญ่ ความสามารถในการเข้าไปไกลกว่าพื้นผิวและเข้าใจความซับซ้อนของบริบททำให้พวกมันมีคุณค่าในการจัดการกับงานดึงข้อมูลที่หลากหลาย ตัวอย่างเช่น เมื่อได้รับมอบหมายให้ดึงค่าของสภาพอากาศ พวกมันสามารถจับข้อมูลที่ตั้งใจและพิจารณาองค์ประกอบที่เกี่ยวข้อง เช่น ค่าของสภาพภูมิอากาศได้อย่างราบรื่น โดยผสมผสานคำไวพจน์และความหมายอย่างลึกซึ้ง ความเข้าใจขั้นสูงนี้ทำให้ LLMs เป็นตัวเลือกที่มีชีวิตชีวาและปรับเปลี่ยนได้ในโดเมนของการดึงข้อมูล
การเพิ่มประสิทธิภาพการประมวลผลขนาน
LLMs ใช้การประมวลผลขนาน ทำให้การทำงานเร็วขึ้นและประสิทธิภาพดีขึ้น ไม่เหมือนกับโมเดลแบบลำดับ LLMs จัดสรรทรัพยากรอย่างเหมาะสม ส่งผลให้การดึงข้อมูลเร็วขึ้นและเพิ่มประสิทธิภาพการประมวลผลโดยรวม
การปรับตัวเข้ากับข้อมูลหลายรูปแบบ
ในขณะที่โมเดลบางตัว เช่น RNNs มีข้อจำกัดเฉพาะลำดับ LLMs สามารถจัดการกับข้อมูลที่ไม่จำเพาะลำดับได้อย่างง่ายดาย โดยรองรับโครงสร้างประโยคที่หลากหลายได้อย่างไม่มีปัญหา นี่รวมถึงรูปแบบข้อมูลต่างๆ เช่น ตารางและภาพ
การปรับปรุงการประมวลผลขั้นตอน
การใช้ LLMs ถือเป็นการเปลี่ยนแปลงที่สำคัญในการอัตโนมัติของทั้งการประมวลผลก่อนและหลัง โดยลดความจำเป็นในการใช้แรงงานคนในการดึงข้อมูลอย่างแม่นยำ ทำให้การประมวลผลข้อมูลที่ไม่มีโครงสร้างง่ายขึ้น ความสามารถในการฝึกฝนบนชุดข้อมูลที่หลากหลายช่วยให้พวกมันสามารถระบุรูปแบบและความสัมพันธ์ที่ถูกพลาดไปโดยวิธีการแบบดั้งเดิม
Source: A pipeline on Generative AI
รูปภาพของป้ายพิมพ์ AI ที่สร้างขึ้นแสดงให้เห็นถึงความสามารถของโมเดล เช่น BERT, GPT และ OPT ในการดึงข้อมูล นอกจากนี้ LLMs เหล่านี้ยังสามารถดำเนินการ NLP หลากหลายอย่าง รวมถึงการดึงข้อมูล โดยทั่วไป โมเดล AI ที่สร้างขึ้นจะให้คำสั่งโดยอธิบายข้อมูลที่ต้องการ และคำตอบที่ตามมาจะประกอบด้วยข้อมูลที่ดึงออกมา ตัวอย่างเช่น คำสั่ง “ดึงชื่อของทุกผู้ขายจากใบสั่งซื้อนี้” อาจให้ผลลัพธ์ที่มีชื่อผู้ขายทั้งหมดที่มีอยู่ในรายงานแบบกึ่งโครงสร้าง ต่อไป ข้อมูลที่ดึงออกมาจะถูกแยกและโหลดเข้าสู่ตารางฐานข้อมูลหรือไฟล์แฟลต ทำให้สามารถผสมผสานเข้ากับกระบวนการทำงานขององค์กรได้อย่างราบรื่น
การพัฒนาเฟรมเวิร์ก AI: จาก RNNs ถึง Transformers ในการดึงข้อมูลสมัยใหม่
AI ที่สร้างขึ้นใช้งานภายในเฟรมเวิร์กแบบ encoder-decoder โดยมีเครือข่ายประสาทเทียมสองตัวที่ทำงานร่วมกัน เครือข่าย encoder ประมวลผลข้อมูลนำเข้า โดยย่อคุณลักษณะที่สำคัญลงใน “เวกเตอร์บริบท” ซึ่งถูกใช้โดยเครือข่าย decoder สำหรับการสร้างข้อมูล เช่น การแปลภาษา สถาปัตยกรรมนี้ โดยใช้เครือข่ายประสาทเทียม เช่น RNNs และ Transformers มีการใช้งานในโดเมนต่างๆ รวมถึงการแปลภาษา การสร้างภาพ การสังเคราะห์เสียงพูด และการดึงข้อมูล实体
เครือข่ายประสาทเทียมแบบเรียกซ้ำ (RNNs)
เครือข่ายประสาทเทียมแบบเรียกซ้ำ (RNNs) ได้รับการออกแบบมาเพื่อจัดการกับงานลำดับ เช่น การแปลและการสรุปข้อมูล และมีความโดดเด่นในบางบริบท อย่างไรก็ตาม พวกมันประสบปัญหาในการทำความแม่นยำในงานที่เกี่ยวข้องกับการพึ่งพาระยะไกล
RNNs มีความสามารถในการดึงคู่ค่าสำคัญจากประโยค แต่พวกมันเผชิญกับความท้าทายกับโครงสร้างแบบตาราง ต้องใช้การคำนึงถึงลำดับและตำแหน่งอย่างรอบคอบ ซึ่งต้องใช้แนวทางที่ชำนาญในการเพิ่มประสิทธิภาพการดึงข้อมูลจากตาราง อย่างไรก็ตาม การนำไปใช้ถูกจำกัดเนื่องจากผลตอบแทนที่ต่ำและประสิทธิภาพที่ไม่ดีในการประมวลผลข้อความส่วนใหญ่ แม้จะได้รับการฝึกฝนบนปริมาณข้อมูลขนาดใหญ่
เครือข่ายความจำระยะยาวแบบเรียกซ้ำ (LSTMs)
เครือข่ายความจำระยะยาวแบบเรียกซ้ำ (LSTMs) เป็นคำตอบที่แก้ไขข้อจำกัดของ RNNs โดยเฉพาะอย่างยิ่งผ่านกลไกการอัปเดตและลบเลือก LSTMs มีความโดดเด่นในการดึงคู่ค่าสำคัญจากประโยคเช่นเดียวกับ RNNs แต่พวกมันก็เผชิญกับความท้าทายที่คล้ายกันกับโครงสร้างแบบตาราง ซึ่งต้องการการวางแผนเชิงกลยุทธ์เกี่ยวกับลำดับและองค์ประกอบตำแหน่ง
GPU ถูกใช้ครั้งแรกสำหรับการเรียนรู้ลึกในปี 2012 เพื่อพัฒนาโมเดล AlexNet CNN ที่มีชื่อเสียง ต่อมา RNNs บางตัวก็ถูกฝึกฝนด้วย GPU แต่ไม่ได้ให้ผลลัพธ์ที่ดี ในปัจจุบัน แม้ว่า GPU จะมีอยู่ แต่โมเดลเหล่านี้ได้ถูกแทนที่ด้วย LLMs ที่ใช้ทรานส์ฟอร์เมอร์
ทรานส์ฟอร์เมอร์ – กลไกการให้ความสนใจ
การแนะนำทรานส์ฟอร์เมอร์ โดยเฉพาะอย่างยิ่งในเอกสารที่เป็นนวัตกรรม “การให้ความสนใจคือทุกสิ่ง” (2017) ได้ปฏิวัติวงการ NLP โดยเสนอสถาปัตยกรรม “ทรานส์ฟอร์เมอร์” นี้ ช่วยให้สามารถคำนวณขนานและจับข้อพึ่งพาระยะไกลได้อย่างมีประสิทธิภาพ โดยปลดล็อกโอกาสใหม่สำหรับโมเดลภาษา LLMs เช่น GPT, BERT และ OPT ได้ใช้เทคโนโลยีทรานส์ฟอร์เมอร์ ที่จุดศูนย์กลางของทรานส์ฟอร์เมอร์อยู่ที่กลไก “การให้ความสนใจ” ซึ่งเป็นส่วนสำคัญที่ช่วยให้การประมวลผลลำดับต่อลำดับมีประสิทธิภาพมากขึ้น
กลไก “การให้ความสนใจ” ในทรานส์ฟอร์เมอร์คำนวณผลรวมที่ถูกชั่งน้ำหนักของค่าตามความเข้ากันได้ระหว่าง “คำถาม” (คำสั่ง) และ “คีย์” (ความเข้าใจของโมเดลเกี่ยวกับแต่ละคำ) วิธีนี้ช่วยให้สามารถมุ่งความสนใจได้อย่างมีจุดมุ่งหมายระหว่างการสร้างลำดับ โดยรับประกันการดึงข้อมูลที่แม่นยำ สองส่วนสำคัญภายในกลไกการให้ความสนใจคือการให้ความสนใจตนเอง ซึ่งจับความสำคัญระหว่างคำในลำดับข้อมูลนำเข้า และการให้ความสนใจแบบหลายหัว ซึ่งช่วยให้สามารถมีแบบแผนการให้ความสนใจที่หลากหลายสำหรับความสัมพันธ์เฉพาะตัว
ในบริบทของการดึงข้อมูลจากใบแจ้งหนี้ การให้ความสนใจตนเองสามารถจดจำความสำคัญของวันที่ที่กล่าวถึงก่อนหน้านี้เมื่อดึงจำนวนการชำระเงิน ในขณะที่การให้ความสนใจแบบหลายหัวสามารถมุ่งความสนใจไปที่ค่าจำนวน (จำนวนเงิน) และรูปแบบข้อความ (ชื่อผู้ขาย) อย่างอิสระ ไม่เหมือนกับ RNNs ทรานส์ฟอร์เมอร์ไม่เข้าใจลำดับของคำโดยธรรมชาติ ดังนั้นจึงใช้การเข้ารหัสตำแหน่งเพื่อติดตามตำแหน่งของแต่ละคำในลำดับ เทคนิคนี้ถูกใช้กับทั้งการนำเข้าและการแสดงผลการฝังตัว ช่วยให้สามารถระบุคีย์และค่าที่สอดคล้องกันภายในเอกสารได้
การผสมผสานกลไกการให้ความสนใจและการเข้ารหัสตำแหน่งเป็นสิ่งสำคัญสำหรับความสามารถของโมเดลภาษาขนาดใหญ่ในการรับรู้โครงสร้างเป็นตาราง โดยพิจารณาจากเนื้อหา การจัดวาง และเครื่องหมายข้อความ นี่เป็นทักษะที่ทำให้พวกมันแตกต่างจากเทคนิคการดึงข้อมูลที่ไม่มีโครงสร้างอื่นๆ
แนวโน้มและพัฒนาการปัจจุบัน
พื้นที่ AI กำลังพัฒนาไปอย่างรวดเร็วพร้อมกับแนวโน้มและพัฒนาการที่น่าหวัง ซึ่งกำลังเปลี่ยนแปลงวิธีการดึงข้อมูลจากข้อมูลที่ไม่มีโครงสร้าง มาทำความเข้าใจกับด้านสำคัญที่หล่อหลอมอนาคตของสาขานี้
ความก้าวหน้าในโมเดลภาษาขนาดใหญ่ (LLMs)
AI ที่สร้างขึ้นกำลังผ่านช่วงการเปลี่ยนแปลง โดยมี LLMs อยู่ในจุดศูนย์กลางในการจัดการกับชุดข้อมูลที่ซับซ้อนและหลากหลายสำหรับการดึงข้อมูลที่ไม่มีโครงสร้าง สองกลยุทธ์ที่สำคัญกำลังผลักดันความก้าวหน้าเหล่านี้:
- การเรียนรู้แบบหลายโหมด: LLMs กำลังขยายความสามารถโดยประมวลผลข้อมูลหลายประเภทพร้อมกัน รวมถึงข้อความ ภาพ และเสียง การพัฒนานี้เพิ่มความสามารถในการดึงข้อมูลที่มีค่าจากแหล่งต่างๆ และเพิ่มความมีประโยชน์ในงานดึงข้อมูลที่ไม่มีโครงสร้าง นักวิจัยกำลังสำรวจวิธีการใช้โมเดลเหล่านี้อย่างมีประสิทธิภาพ โดยมีเป้าหมายในการกำจัดความจำเป็นในการใช้ GPU และทำให้สามารถทำงานได้ด้วยทรัพยากรที่จำกัด
- การประยุกต์ใช้ RAG: การสร้างแบบเสริม (RAG) เป็นแนวโน้มที่เกิดขึ้นใหม่ซึ่งรวมโมเดลภาษาขนาดใหญ่ที่ฝึกฝนล่วงหน้าเข้ากับกลไกการค้นหาภายนอก เพื่อเพิ่มความสามารถของพวกมัน โดยการเข้าถึงองค์ความรู้ขนาดใหญ่ระหว่างกระบวนการสร้าง RAG ทำให้โมเดลภาษาแบบพื้นฐานกลายเป็นเครื่องมือที่มีพลังซึ่งปรับให้เหมาะกับการใช้งานทั้งทางธุรกิจและผู้บริโภค
การประเมินประสิทธิภาพของ LLMs
ความท้าทายในการประเมินประสิทธิภาพของ LLMs ถูกตอบโต้ด้วยแนวทางเชิงกลยุทธ์ที่รวมถึงเมตริกเฉพาะงานและวิธีการประเมินนวัตกรรม สิ่งสำคัญในพื้นที่นี้รวมถึง:
- เมตริกที่ปรับให้เหมาะสม: เมตริกการประเมินที่ออกแบบมาเพื่อประเมินคุณภาพของงานดึงข้อมูลข้อมูลกำลังเกิดขึ้น เมตริกความแม่นยำ ความถูกต้อง และคะแนน F1 ได้พิสูจน์แล้วว่ามีประสิทธิภาพ โดยเฉพาะอย่างยิ่งในงานดึงข้อมูลแบบหน่วย
- การประเมินของมนุษย์: การประเมินของมนุษย์ยังคงมีความสำคัญคู่ขนานไปกับเมตริกอัตโนมัติ โดยรับประกันการประเมินที่ครอบคลุมของ LLMs การผสมผสานเมตริกอัตโนมัติเข้ากับการตัดสินของมนุษย์ทำให้สามารถมองเห็นภาพที่เหมาะสมยิ่งขึ้นเกี่ยวกับความถูกต้องตามบริบทและความเกี่ยวข้องของข้อมูลที่ดึงออกมา
การประมวลผลภาพและเอกสาร
LLMs แบบหลายโหมดได้แทนที่ OCR อย่างสมบูรณ์ ผู้ใช้สามารถแปลงข้อความที่สแกนจากภาพและเอกสารให้เป็นข้อความที่สามารถอ่านได้ด้วยเครื่องจักร และสามารถดึงข้อมูลและแยกข้อมูลออกจากเนื้อหาที่มองเห็นได้โดยใช้โมดูลที่ขึ้นอยู่กับการมองเห็น
การดึงข้อมูลจากลิงก์และเว็บไซต์
LLMs กำลังพัฒนาเพื่อตอบสนองความต้องการที่เพิ่มขึ้นในการดึงข้อมูลจากเว็บไซต์และลิงก์บนเว็บ โมเดลเหล่านี้มีความสามารถในการสแกนเว็บเพจและแปลงข้อมูลจากเว็บให้เป็นรูปแบบที่มีโครงสร้าง ซึ่งเป็นแนวโน้มที่มีคุณค่าสำหรับงาน เช่น การรวบรวมข่าว การรวบรวมข้อมูลอิเล็กทรอนิกส์ และการรวบรวมข้อมูลเพื่อการแข่งขัน โดยเพิ่มความเข้าใจบริบทและดึงข้อมูลเชิงสัมพันธ์จากเว็บ
การเพิ่มขึ้นของยักษ์เล็กๆ ใน AI ที่สร้างขึ้น
ในช่วงครึ่งแรกของปี 2023 มีการมุ่งเน้นไปที่การพัฒนาโมเดลภาษาขนาดใหญ่ตามสมมติฐาน “ใหญ่กว่าดีกว่า” แต่ผลลัพธ์ใหม่แสดงให้เห็นว่าโมเดลขนาดเล็ก เช่น TinyLlama และ Dolly-v2-3B โดยมีพารามิเตอร์น้อยกว่า 3 พันล้าน ตัวเลือกเหล่านี้มีความโดดเด่นในงาน เช่น การให้เหตุผลและการสรุป โดยได้รับการขนานนามว่าเป็น “ยักษ์เล็กๆ” โมเดลเหล่านี้ใช้พลังการประมวลผลและพื้นที่จัดเก็บน้อยกว่า ทำให้ AI มีความเข้าถึงได้ง่ายขึ้นสำหรับบริษัทขนาดเล็กโดยไม่ต้องใช้ GPU ที่มีราคาแพง
สรุป
โมเดล AI ที่สร้างขึ้นในยุคแรกๆ รวมถึงเครือข่ายสร้างแบบต่อต้าน (GANs) และเครื่องบันทึกอัตโนมัติแบบแปรผัน (VAEs) ได้นำเสนอวิธีการใหม่ๆ สำหรับการจัดการกับข้อมูลที่ขึ้นอยู่กับรูปภาพ อย่างไรก็ตาม การพัฒนาที่แท้จริงเกิดขึ้นพร้อมกับโมเดลภาษาขนาดใหญ่แบบทรานส์ฟอร์เมอร์ โมเดลเหล่านี้ได้ทำลายสถิติที่ผ่านมาในทุกๆ ด้านในการประมวลผลข้อมูลที่ไม่มีโครงสร้าง โดยอาศัยโครงสร้าง encoder-decoder การให้ความสนใจตนเอง และกลไกการให้ความสนใจแบบหลายหัว ซึ่งให้ความเข้าใจภาษาที่ลึกซึ้งและความสามารถในการให้เหตุผลเหมือนมนุษย์
ในขณะที่ AI ที่สร้างขึ้นให้ความหวังในการขุดข้อมูลจากข้อความในรายงาน แต่ความสามารถในการปรับขนาดของวิธีการเหล่านี้มีจำกัด ขั้นตอนแรกมักเกี่ยวข้องกับการประมวลผล OCR ซึ่งอาจส่งผลให้เกิดข้อผิดพลาด และความท้าทายยังคงอยู่ในการดึงข้อมูลจากภาพภายในรายงาน
ในทางกลับกัน การดึงข้อมูลจากภาพภายในรายงานเป็นอีกความท้าทายหนึ่ง การยอมรับโซลูชันเช่นการประมวลผลข้อมูลหลายโหมดและการขยายขีดจำกัดโทเค็นใน GPT-4, Claud3, Gemini เป็นเส้นทางที่มีแนวโน้มไปข้างหน้า อย่างไรก็ตาม สิ่งสำคัญคือต้องทราบว่าโมเดลเหล่านี้สามารถเข้าถึงได้เฉพาะผ่าน API เท่านั้น ในขณะที่การใช้ API สำหรับการดึงข้อมูลจากเอกสารมีประสิทธิภาพและคุ้มต้นทุน แต่ก็มีข้อจำกัด เช่น ความล่าช้า การควบคุมที่จำกัด และความเสี่ยงด้านความปลอดภัย
วิธีแก้ปัญหาที่มีความปลอดภัยและปรับแต่งได้มากขึ้นคือการปรับโมเดล LLM ในองค์กรให้เหมาะสม นี่ไม่เพียงแต่ลดความเสี่ยงด้านความเป็นส่วนตัวและความปลอดภัยของข้อมูลเท่านั้น แต่ยังเพิ่มการควบคุมการดึงข้อมูลด้วย การปรับโมเดล LLM สำหรับการทำความเข้าใจการวางแนวเอกสารและการเข้าใจความหมายของข้อความตามบริบทที่ให้ไว้ เป็นวิธีการที่แข็งแกร่งสำหรับการดึงคู่ค่าสำคัญและรายการบรรทัด โดยใช้การเรียนรู้แบบไม่มีการสอนและการเรียนรู้แบบมีการสอนเพียงเล็กน้อย โมเดลที่ปรับให้เหมาะสมสามารถปรับตัวเข้ากับการวางแนวเอกสารที่หลากหลายได้ โดยรับประกันการดึงข้อมูลที่ไม่มีโครงสร้างที่มีประสิทธิภาพและแม่นยำในหลายโดเมน
