ผู้นำทางความคิด
Generative AI ในอุตสาหกรรมสุขภาพต้องการความสามารถในการอธิบาย
ความเร็วที่น่าประทับใจที่เครื่องมือ AI ที่สร้างข้อความสามารถทำงานเขียนและงานสื่อสารระดับสูงได้อย่างรวดเร็ว ทำให้ได้รับความสนใจจากบริษัทและผู้บริโภคอย่างมาก แต่กระบวนการที่เกิดขึ้นเบื้องหลังเพื่อทำให้ความสามารถเหล่านี้เป็นไปได้สามารถทำให้เป็นอันตรายต่ออุตสาหกรรมที่มีการควบคุมอย่างเข้มงวด เช่น อุตสาหกรรมประกันภัย การเงิน หรือสุขภาพ หากไม่มีการใช้ความระมัดระวังอย่างมาก
ตัวอย่างที่แสดงให้เห็นชัดเจนที่สุดสามารถพบได้ในอุตสาหกรรมสุขภาพ
ปัญหาเหล่านี้มักเกี่ยวข้องกับชุดข้อมูลที่กว้างขวางและหลากหลายที่ใช้ในการฝึกโมเดลภาษาขนาดใหญ่ (LLMs) – โมเดลที่เครื่องมือ AI ที่สร้างข้อความใช้เพื่อทำงานระดับสูงโดยไม่ต้องมีการแทรกแซงจากนักเขียนโปรแกรมอย่างชัดเจน LLMs เหล่านี้มักจะเก็บข้อมูลอย่างไม่เลือก lọcจากแหล่งต่างๆ ทั่วอินเทอร์เน็ตเพื่อขยายฐานความรู้
วิธีนี้เหมาะสมที่สุดสำหรับการใช้งานที่มีความเสี่ยงต่ำที่มุ่งเน้นไปที่การบริโภค ซึ่งเป้าหมายสูงสุดคือการนำเสนอผลิตภัณฑ์ที่ต้องการให้กับลูกค้าด้วยความแม่นยำ แต่ด้วยชุดข้อมูลขนาดใหญ่และเส้นทางที่ไม่ชัดเจนที่โมเดล AI สร้างผลลัพธ์ออกมา ทำให้ความสามารถในการอธิบายที่โรงพยาบาลและผู้ให้บริการสุขภาพต้องการเพื่อติดตามและป้องกันความไม่ถูกต้องที่อาจเกิดขึ้นได้ถูกบดบัง
ในบริบทนี้ ความสามารถในการอธิบายหมายถึงความสามารถในการเข้าใจเส้นทางตรรกะของ LLM ใดๆ ผู้เชี่ยวชาญด้านสุขภาพที่ต้องการใช้เครื่องมือ AI ที่สร้างข้อความเพื่อช่วยเหลือจะต้องมีทางเลือกในการเข้าใจว่าโมเดลของตนให้ผลลัพธ์อย่างไร เพื่อให้ผู้ป่วยและพนักงานมีความโปร่งใสอย่างเต็มที่ตลอดกระบวนการตัดสินใจต่างๆ ในอีกคำหนึ่ง ในอุตสาหกรรมเช่นสุขภาพ ซึ่งชีวิตของผู้คนอยู่ในความเสี่ยง การเสี่ยงก็สูงเกินไปสำหรับผู้เชี่ยวชาญที่จะสับสนกับข้อมูลที่ใช้ในการฝึกเครื่องมือ AI ของตน
幸นั้น มีวิธีในการหลีกเลี่ยงปัญหาความสามารถในการอธิบายของ AI ที่สร้างข้อความ – เพียงแค่ต้องมีการควบคุมและโฟกัสเพิ่มขึ้น
ความลึกลับและความกังขา
ใน AI ที่สร้างข้อความ ความคิดที่จะเข้าใจว่า LLM ไปจากจุด A – ข้อมูลเข้า – ถึงจุด B – ข้อมูลออก – มีความซับซ้อนมากกว่าในอัลกอริทึมที่ไม่ใช่ AI ที่สร้างข้อความที่ทำงานตามรูปแบบที่กำหนด
เครื่องมือ AI ที่สร้างข้อความสร้างการเชื่อมต่ออย่างไม่สิ้นสุดระหว่างการเข้าและออก แต่สำหรับผู้สังเกตการณ์จากภายนอก วิธีการและเหตุผลที่ทำการเชื่อมต่อใดๆ ยังคงเป็นเรื่องลึกลับ โดยไม่มีวิธีในการดู “กระบวนการคิด” ที่อัลกอริทึม AI ใช้ ผู้ดำเนินการของมนุษย์ขาดวิธีการที่ครอบคลุมในการสืบค้นเหตุผลและติดตามความไม่ถูกต้องที่อาจเกิดขึ้น
นอกจากนี้ ชุดข้อมูลที่ขยายตัวอย่างต่อเนื่องที่ใช้โดยอัลกอริทึม ML ยังทำให้ความสามารถในการอธิบายยิ่งซับซ้อนขึ้น ยิ่งชุดข้อมูลใหญ่ขึ้น ก็ยิ่งมีโอกาสที่ระบบจะเรียนรู้จากข้อมูลที่เกี่ยวข้องและไม่เกี่ยวข้องและสร้าง “ภาพหลอนของ AI” – ข้อความที่ไม่ถูกต้องที่เบี่ยงเบนไปจากข้อเท็จจริงภายนอกและตรรกะตามบริบท โดยไม่สนว่าจะมีความน่าเชื่อถือแค่ไหน
ในอุตสาหกรรมสุขภาพ ผลลัพธ์ที่มีข้อบกพร่องเหล่านี้สามารถทำให้เกิดปัญหาหลายอย่าง เช่น การวินิจฉัยที่ไม่ถูกต้องและยาที่สั่งไม่ถูกต้อง ผลที่ตามมาจากด้านจริยธรรม กฎหมาย และการเงิน นอกเหนือจากความเสียหายต่อชื่อเสียงของผู้ให้บริการสุขภาพและสถาบันทางการแพทย์ที่พวกเขาตัวแทน
ดังนั้น แม้ว่า AI ที่สร้างข้อความจะมีศักยภาพในการปรับปรุงการแทรกแซงทางการแพทย์ การสื่อสารกับผู้ป่วย และการเพิ่มประสิทธิภาพการดำเนินงาน แต่ AI ที่สร้างข้อความในสุขภาพก็ยังคง มีเงาแห่งความกังขา และเป็นเรื่องที่สมควร – 55% ของแพทย์ไม่เชื่อว่ามันพร้อมสำหรับการใช้งานทางการแพทย์ และ 58% ไม่เชื่อถือมันเลย แต่สถาบันสุขภาพก็ ก้าวหน้าต่อไป โดยมี 98% ที่รวมหรือวางแผนการนำ AI ที่สร้างข้อความมาใช้เพื่อชดเชยผลกระทบของการขาดแคลนแรงงานในภาคส่วน
ควบคุมแหล่งที่มา
อุตสาหกรรมสุขภาพมักถูกจับได้โดยไม่เตรียมตัวในบรรยากาศผู้บริโภคในปัจจุบัน ซึ่งมีคุณค่าในการทำงานอย่างรวดเร็วและไม่ค่อยสนใจมาตรการความปลอดภัยที่มั่นคง ข่าวล่าสุดเกี่ยวกับอันตรายของการเก็บข้อมูลโดยไม่มีการควบคุมเพื่อฝึก LLMs ซึ่งนำไปสู่ การฟ้องร้องเกี่ยวกับการละเมิดลิขสิทธิ์ ทำให้ปัญหาเหล่านี้เป็นที่สนใจของทุกคน บางบริษัทก็เผชิญกับการกล่าวหาว่าข้อมูลส่วนบุคคลของพลเมืองถูกขุดค้นเพื่อฝึกโมเดลภาษา ซึ่งอาจละเมิดกฎหมายความเป็นส่วนตัว
ดังนั้น ผู้พัฒนา AI สำหรับอุตสาหกรรมที่มีการควบคุมอย่างเข้มงวดควรใช้การควบคุมแหล่งที่มาของข้อมูลเพื่อลดข้อผิดพลาดที่อาจเกิดขึ้น นั่นคือ จัดลำดับความสำคัญในการดึงข้อมูลจากแหล่งที่เชื่อถือได้และผ่านการตรวจสอบจากอุตสาหกรรมมากกว่าการขุดข้อมูลจากเว็บเพจภายนอกอย่างไม่เลือก lọcและไม่ได้รับอนุญาต สำหรับอุตสาหกรรมสุขภาพ สิ่งนี้หมายถึงการจำกัดข้อมูลเข้าไว้เพียงเพจคำถามที่พบบ่อย ไฟล์ CSV และฐานข้อมูลทางการแพทย์ – รวมถึงแหล่งอื่นๆ ภายใน
หากสิ่งนี้ดูเหมือนจำกัดเล็กน้อย ลองค้นหบริการบนเว็บไซต์ของระบบสุขภาพขนาดใหญ่ องค์กรสุขภาพของสหรัฐฯ ตีพิมพ์หลายร้อยถึงหลายพันหน้าข้อมูลบนแพลตฟอร์มของตน แต่ส่วนใหญ่ถูกฝังลึกจนผู้ป่วยไม่สามารถเข้าถึงได้จริงๆ โซลูชัน AI ที่สร้างข้อความที่ใช้ข้อมูลภายในสามารถส่งต่อข้อมูลนี้ให้กับผู้ป่วยได้อย่างสะดวกและราบรื่น นี่คือสิ่งที่ดีทั้งสองฝ่าย เนื่องจากระบบสุขภาพสุดท้ายเห็น ROI จากเนื้อหานี้ และผู้ป่วยสามารถค้นหบริการที่ต้องการได้ทันทีและไม่ต้องเสียเวลา
สิ่งที่จะเกิดขึ้นต่อไปสำหรับ AI ที่สร้างข้อความในอุตสาหกรรมที่มีการควบคุม?
อุตสาหกรรมสุขภาพมีศักยภาพที่จะได้รับประโยชน์จาก AI ที่สร้างข้อความในหลายๆ ด้าน
พิจารณาตัวอย่างเช่น การเผชิญกับความเหนื่อยหน่ายที่แพร่หลายในภาคสุขภาพของสหรัฐฯ ในช่วงหลัง – เกือบ 50% ของกำลังแรงงานคาดว่าจะลาออกในปี 2025 โชตบอท AI ที่สร้างข้อความที่มีพลังสามารถช่วยบรรเทาหนึ่งในหลายๆ ภาระงานและรักษาให้การเข้าถึงผู้ป่วยที่ยืดเยื้อ
ด้านผู้ป่วย AI ที่สร้างข้อความมีศักยภาพในการปรับปรุงบริการศูนย์บริการลูกค้าของผู้ให้บริการสุขภาพ AI อัตโนมัติมีพลังในการตอบคำถามทั่วไปผ่านช่องทางติดต่อหลายช่องทาง รวมถึง FAQs ปัญหา IT การเติมยาซ้ำและการอ้างอิงแพทย์ นอกเหนือจากความ沮หนึ่งที่เกิดขึ้นจากการรอในคิว โดยมีเพียง ประมาณครึ่งหนึ่ง ของผู้ป่วยในสหรัฐฯ ที่สามารถแก้ไขปัญหาได้สำเร็จในการโทรครั้งแรก ซึ่งนำไปสู่อัตราการทิ้งโทรสูงและเข้าถึงการรักษาที่ไม่ดี ความไม่พอใจของลูกค้าที่ตามมานี้สร้างความกดดันต่ออุตสาหกรรมให้ดำเนินการ
เพื่อให้อุตสาหกรรมได้รับประโยชน์จาก AI ที่สร้างข้อความอย่างแท้จริง ผู้ให้บริการสุขภาพต้องอำนวยความสะดวกในการเปลี่ยนแปลงโครงสร้างข้อมูลที่ LLMs ของตนเข้าถึงอย่างมีจุดมุ่งหมาย
