อะไรคือการเรียนรู้ลึก

การเรียนรู้ลึกเป็นหนึ่งในสาขาที่มีอิทธิพลและเติบโตเร็วที่สุดในด้านปัญญาประดิษฐ์ อย่างไรก็ตาม การเข้าใจการเรียนรู้ลึกในทาง直觉อาจเป็นเรื่องที่ยากเนื่องจากคำว่าการเรียนรู้ลึกครอบคลุมอัลกอริทึมและเทคนิคต่างๆ มากมาย การเรียนรู้ลึกยังเป็นสาขาย่อยของการเรียนรู้ของเครื่องโดยทั่วไป ดังนั้นจึงสำคัญที่จะต้องเข้าใจว่าการเรียนรู้ของเครื่องคืออะไรเพื่อที่จะเข้าใจการเรียนรู้ลึก

อะไรคือการเรียนรู้ของเครื่อง?

การเรียนรู้ลึก เป็นการขยายแนวคิดบางอย่างที่มาจากการเรียนรู้ของเครื่อง ดังนั้น เรามาใช้เวลาสักครู่เพื่ออธิบายว่าการเรียนรู้ของเครื่องคืออะไร

โดยสรุป การเรียนรู้ของเครื่องเป็นวิธีการที่ทำให้คอมพิวเตอร์สามารถทำงานเฉพาะอย่างโดยไม่ต้องเขียนโค้ดทุกบรรทัดของอัลกอริทึมที่ใช้ในการทำงานเหล่านั้น มีอัลกอริทึมการเรียนรู้ของเครื่องหลายแบบ แต่อัลกอริทึมที่ใช้บ่อยที่สุดคือ มัลติล레이เปอร์เซปตรอน มัลติล레이เปอร์เซปตรอนเรียกว่าเครือข่ายประสาทเทียมด้วย และประกอบด้วยโหนด/นิวรอนเชื่อมต่อกัน มีสามชั้นในมัลติล레이เปอร์เซปตรอน: ชั้นเข้า, ชั้นซ่อน, และชั้นออก

ชั้นเข้าจะรับข้อมูลเข้าเครือข่าย โดยที่โหนดในชั้นกลาง/ชั้นซ่อนจะจัดการข้อมูล โหนดในชั้นซ่อนเป็นฟังก์ชันทางคณิตศาสตร์ที่สามารถจัดการข้อมูลที่มาจากชั้นเข้า โดยการดึงรูปแบบที่เกี่ยวข้องออกจากข้อมูลเข้า นี่คือวิธีที่เครือข่ายประสาทเทียม “เรียนรู้” เครือข่ายประสาทเทียมได้ชื่อมาจากการที่โครงสร้างและหน้าที่ของมันถูกสร้างแบบอย่างจากสมองของมนุษย์

การเชื่อมต่อระหว่างโหนดในเครือข่ายมีค่าเรียกว่าน้ำหนัก ค่าเหล่านี้เป็นข้อสันนิษฐานเกี่ยวกับวิธีที่ข้อมูลในชั้นหนึ่งเกี่ยวข้องกับข้อมูลในชั้นต่อไป เมื่อเครือข่ายฝึกอบรม น้ำหนักจะถูกปรับ และเป้าหมายคือให้น้ำหนัก/ข้อสันนิษฐานเกี่ยวกับข้อมูลมาบรรจบกันที่ค่าที่แสดงรูปแบบที่มีความหมายภายในข้อมูลได้อย่างแม่นยำ

ฟังก์ชันการกระตุ้นอยู่ในโหนดของเครือข่าย และฟังก์ชันเหล่านี้เปลี่ยนข้อมูลในลักษณะที่ไม่เป็นเส้นตรง ทำให้เครือข่ายสามารถเรียนรู้การแสดงข้อมูลที่ซับซ้อนได้ ฟังก์ชันการกระตุ้นจะคูณค่าเข้าด้วยน้ำหนักและบวกเทอมเบียส

อะไรคือการเรียนรู้ลึก?

การเรียนรู้ลึกเป็นคำที่ใช้กับโครงสร้างการเรียนรู้ของเครื่องแบบหลายชั้น โดยที่มีมัลติล레이เปอร์เซปตรอนหลายตัวเชื่อมต่อกัน เพื่อให้ไม่มีเพียงชั้นซ่อนหนึ่งชั้น แต่มีหลายชั้น “ลึก” ยิ่งเครือข่ายประสาทเทียมลึกเท่าไหร่ เครือข่ายก็สามารถเรียนรู้รูปแบบที่ซับซ้อนยิ่งขึ้นได้

เครือข่ายชั้นลึกที่ประกอบด้วยนิวรอนอาจถูกเรียกว่าเครือข่ายเชื่อมต่อเต็มหรือชั้นเชื่อมต่อเต็ม โดยอ้างอิงถึงข้อเท็จจริงที่ว่านิวรอนหนึ่งๆ มีการเชื่อมต่อกับนิวรอนอื่นๆ ทั้งหมดที่อยู่รอบๆ มัน เครือข่ายเชื่อมต่อเต็มสามารถรวมกับฟังก์ชันการเรียนรู้ของเครื่องอื่นๆ เพื่อสร้างโครงสร้างการเรียนรู้ลึกที่แตกต่างกัน

ประเภทต่างๆ ของการเรียนรู้ลึก

มีโครงสร้างการเรียนรู้ลึกหลายแบบที่นักวิจัยและวิศวกรใช้ และแต่ละโครงสร้างมีกรณีการใช้งานพิเศษ

เครือข่ายประสาทเทียมแบบโคนโวลูชัน

เครือข่ายประสาทเทียมแบบโคนโวลูชัน หรือ CNN เป็นโครงสร้างเครือข่ายประสาทเทียมที่ใช้กันมากที่สุดในการสร้างระบบการมองเห็นของคอมพิวเตอร์ โครงสร้างของเครือข่ายประสาทเทียมแบบโคนโวลูชันทำให้สามารถตีความข้อมูลภาพได้ โดยการแปลงภาพให้เป็นตัวเลขที่เครือข่ายเชื่อมต่อเต็มสามารถตีความได้ เครือข่ายประสาทเทียมแบบโคนโวลูชันมีส่วนประกอบหลักๆ ดังนี้

• ชั้นโคนโวลูชัน
• ชั้นซับซัมพลิง/พูลลิง
• ฟังก์ชันการกระตุ้น
• ชั้นเชื่อมต่อเต็ม

ชั้นโคนโวลูชันจะรับภาพเป็นข้อมูลเข้าเครือข่าย โดยวิเคราะห์ภาพและรับค่าพิกเซล ชั้นซับซัมพลิงหรือพูลลิงคือที่ที่ค่าภาพถูกแปลงหรือลดขนาดเพื่อทำให้การแสดงภาพง่ายขึ้นและลดความไวต่อเสียงรบกวนของตัวกรองภาพ ฟังก์ชันการกระตุ้นจะควบคุมวิธีการไหลของข้อมูลจากชั้นหนึ่งไปยังอีกชั้นหนึ่ง และชั้นเชื่อมต่อเต็มจะวิเคราะห์ค่าที่แสดงภาพและเรียนรู้รูปแบบที่อยู่ในค่าเหล่านั้น

RNNs/LSTMs

เครือข่ายประสาทเทียมแบบเรียกซ้ำ หรือ RNNs เป็นที่นิยมสำหรับงานที่ลำดับของข้อมูลมีความสำคัญ โดยที่เครือข่ายต้องเรียนรู้เกี่ยวกับลำดับของข้อมูล RNNs ถูกใช้กันอย่างแพร่หลายในงานประมวลผลภาษาธรรมชาติ เนื่องจากลำดับของคำมีความสำคัญในการถอดรหัสความหมายของประโยค “เรียกซ้ำ” ในชื่อเครือข่ายประสาทเทียมแบบเรียกซ้ำมาจากข้อเท็จจริงที่ว่าผลลัพธ์สำหรับองค์ประกอบหนึ่งในลำดับขึ้นอยู่กับการคำนวณก่อนหน้าเช่นเดียวกับการคำนวณปัจจุบัน

มีหลายประเภทของ RNNs รวมถึง RNNs ทิศทางสองทาง ซึ่งพิจารณาองค์ประกอบในอนาคตในลำดับเมื่อคำนวณค่าขององค์ประกอบหนึ่ง นอกจากนี้ยังมี เครือข่ายความจำระยะยาวสั้น หรือ LSTM ซึ่งเป็นประเภทของ RNN ที่สามารถจัดการกับช่องของข้อมูลที่ยาวได้ RNNs ทั่วไปอาจตกเป็นเหยื่อของปัญหาที่เรียกว่า “การระเบิดของเกรเดียนต์” ซึ่งเกิดขึ้นเมื่อลำดับของข้อมูลมีความยาวมาก แต่ LSTMs มีเทคนิคในการต่อสู้กับปัญหานี้

อัตลักษณ์

โครงสร้างการเรียนรู้ลึกส่วนใหญ่ที่กล่าวถึงจนถึงตอนนี้ถูกใช้กับงานการเรียนรู้แบบมีคำสอนมากกว่างานการเรียนรู้แบบไม่มีคำสอน อัตลักษณ์สามารถแปลงข้อมูลที่ไม่มีการสอนให้เป็นรูปแบบที่มีการสอนได้ ทำให้เครือข่ายประสาทเทียมสามารถใช้กับปัญหาได้

อัตลักษณ์ถูกใช้บ่อยๆ เพื่อตรวจจับความผิดปกติในเซตข้อมูล ตัวอย่างเช่น การตรวจจับการฉ้อโกงสำหรับสถาบันการเงิน ในบริบทนี้ วัตถุประสงค์ของอัตลักษณ์คือการกำหนดรูปแบบปกติในข้อมูลและระบุความผิดปกติหรือผู้ที่ไม่เข้ากลุ่ม

โครงสร้างของอัตลักษณ์มักจะสมมาตร โดยมีชั้นซ่อนเรียงกันเพื่อให้ผลลัพธ์ของเครือข่ายคล้ายกับข้อมูลเข้า มีอัตลักษณ์สี่ประเภทที่ใช้บ่อยๆ คือ:

• อัตลักษณ์แบบปกติ/ธรรมดา
• อัตลักษณ์แบบหลายชั้น
• อัตลักษณ์แบบโคนโวลูชัน
• อัตลักษณ์แบบปรับให้เหมาะสม

อัตลักษณ์แบบปกติ/ธรรมดาเป็นเพียงเครือข่ายประสาทเทียมที่มีชั้นซ่อนหนึ่งชั้น ในขณะที่อัตลักษณ์แบบหลายชั้นคือเครือข่ายลึกที่มีชั้นซ่อนมากกว่าหนึ่งชั้น อัตลักษณ์แบบโคนโวลูชันใช้ชั้นโคนโวลูชันแทนหรือเพิ่มเติมจากชั้นเชื่อมต่อเต็ม อัตลักษณ์แบบปรับให้เหมาะสมใช้ฟังก์ชันการเสียหายที่เฉพาะเจาะจงซึ่งทำให้เครือข่ายประสาทเทียมสามารถทำงานที่ซับซ้อนมากกว่าการคัดลอกข้อมูลเข้าออก

เครือข่ายแบบกันเอง

เครือข่ายแบบกันเอง (GANs) จริงๆ แล้วเป็นเครือข่ายประสาทเทียมลึกหลายตัวที่ถูกฝึกอบรมพร้อมกัน และผลลัพธ์ของพวกมันถูกส่งไปยังเครือข่ายอื่น เครือข่ายเหล่านี้อยู่ในการแข่งขันกัน และเนื่องจากพวกมันได้รับข้อมูลผลลัพธ์ของกันและกัน พวกมันจึงเรียนรู้จากข้อมูลนั้นและปรับปรุงตัวเอง GANs ได้รับความนิยมในด้านการมองเห็นของคอมพิวเตอร์

สรุปการเรียนรู้ลึก

การเรียนรู้ลึกขยายหลักการของเครือข่ายประสาทเทียมเพื่อสร้างแบบจำลองที่ซับซ้อนซึ่งสามารถเรียนรู้รูปแบบที่ซับซ้อนและทั่วไปในรูปแบบเหล่านั้นไปยังเซตข้อมูลในอนาคต เครือข่ายประสาทเทียมแบบโคนโวลูชันถูกใช้ในการตีความภาพ ในขณะที่ RNNs/LSTMs ถูกใช้ในการตีความข้อมูลแบบลำดับ อัตลักษณ์สามารถแปลงงานการเรียนรู้ที่ไม่มีคำสอนให้เป็นงานการเรียนรู้ที่มีคำสอนได้ สุดท้าย GANs เป็นเครือข่ายหลายตัวที่แข่งขันกันและเป็นที่นิยมในการใช้งานการมองเห็นของคอมพิวเตอร์เป็นพิเศษ