นักเขียนด้านการเรียนรู้ของเครื่องจักร ผู้เชี่ยวชาญด้านสังเคราะห์ภาพมนุษย์ อดีตหัวหน้าฝ่ายวิจัยเนื้อหาที่ Metaphysic.ai
สถานการณ์เลวร้ายเกิดขึ้นอย่างรวดเร็ว: การวิจัยพบว่าเอเจนต์ AI มักจะขออำนาจมากกว่าที่จำเป็น และความล้มเหลวเล็กๆ น้อยๆ ทำให้พวกมันเพิ่มอำนาจมากขึ้น ทำให้ข้อมูลและระบบถูกเปิดเผยและถูกทำลายโดยไม่จำเป็น เหตุการณ์ที่ได้รับการรายงานอย่างกว้างขวางหลายกรณีได้เน้นย้ำถึงความเสี่ยงของการให้เอเจนต์ AI มีอำนาจสูงเกินความจำเป็น โดยเฉพาะอย่างยิ่งผ่านการใช้เครื่องมือและวิธีการที่มีอำนาจสูงเกินกว่าที่จำเป็นสำหรับงานที่กำหนดในเหตุการณ์หนึ่ง最近 เอเจนต์ AI ที่ใช้ Claude พบว่ามีโทเค็น API ของ Railway ที่มีอำนาจสูงเกินความจำเป็นในการทำงาน และใช้โทเค็นนั้นเพื่อลบฐานข้อมูลและสำเนาของฐานข้อมูล – แม้ว่างานนั้นไม่ต้องการระดับการเข้าถึงที่สูงขนาดนั้นในกรณีอื่นในปี 2025 เอเจนต์ AI...
การศึกษาใหม่ของมหาวิทยาลัย牛津พบว่าโมเดลภาษาที่มีความก้าวหน้าสามารถระดมทุนได้มากกว่าผู้ระดมทุนมืออาชีพ และสามารถเอาชนะมนุษย์ได้ในทุกด้านของการชักชวน การศึกษาใหม่ของสหราชอาณาจักรและสหรัฐอเมริกาได้ค้นพบว่าโมเดลภาษาที่มีความก้าวหน้าสามารถชักชวนคนได้ดีกว่าผู้เชี่ยวชาญที่ได้รับการฝึกฝนซึ่งมีหน้าที่ในการเปลี่ยนแปลงความคิดของคนในการทดสอบการระดมทุนในโลกแห่งความเป็นจริง นักวิจัยพบว่า AI สามารถชักชวนคนให้บริจาคเงินประมาณ 17.2% ของเงินที่มีอยู่ เทียบกับ 6.4% สำหรับผู้ระดมทุนมืออาชีพ ซึ่งเป็นช่องว่าง 10.8 แต้ม ซึ่งเท่ากับประมาณ 2.7 เท่าของอัตราการบริจาคภายใต้ AI โดยมีการมีส่วนร่วมที่สูงขึ้นและค่าเฉลี่ยของการบริจาคที่สูงขึ้นทั้งสองอย่างที่ช่วยให้ความแตกต่างในเอกสารระบุว่า:‘อย่างไรก็ตาม แม้ว่า AI จะได้รับคำสั่งให้ใช้กลยุทธ์ผลกระทบ-ประสิทธิภาพเท่านั้น แต่ก็สามารถเอาชนะผู้ระดมทุนในกลไกอื่นๆ ที่ไม่ได้รับคำสั่งให้ใช้’‘ผู้ที่ถูกชักชวนโดย AI ให้คะแนน AI...
การเรียกสิ่งใดสิ่งหนึ่งว่า ‘AI slop’ ได้กลายเป็นการล่าแม่มดของอินเทอร์เน็ต โดยผู้ใช้ Reddit และ Hacker News กล่าวหาว่าผู้แสดงความคิดเห็นคนอื่นเป็นหุ่นยนต์ แม้ว่าจะไม่มีหลักฐานใดๆ ก็ตาม การศึกษาใหม่จากนอร์เวย์และสหรัฐอาหรับเอมิเรตส์พบว่าการกล่าวหาต่อ ‘AI slop’ ที่ถูกกล่าวหามีจำนวนเพิ่มขึ้นอย่างรวดเร็วทั่ว Reddit และ Hacker News ระหว่างปี 2023 ถึง 2026 แม้ว่าคำกล่าวหานั้นจะไม่มีหลักฐานใดๆ ก็ตามว่าเป็น AI...
โมเดลภาษา Vision Language ต理解สถานที่สำคัญ แต่ยังคงไม่สามารถมองเห็นภาพรวมได้… หนึ่งในทักษะการอยู่รอดที่เราพัฒนาขึ้นในตอนแรกคือความสามารถในการแยกแยะระหว่างสิ่งที่ เล็กหรือห่างไกล เราสามารถปิดบังดวงจันทร์ด้วยนิ้วหัวแม่มือของเราโดยไม่ต้องคิดว่ามันเล็กเท่ากับเหรียญสิบเซนต์ เพราะเรามีความเข้าใจเกี่ยวกับขนาดที่สัมพันธ์กันภายในตัวเราสิ่งนี้เป็นงานที่ยากสำหรับระบบการมองเห็นของคอมพิวเตอร์ เนื่องจากส่วนใหญ่ขึ้นอยู่กับการทำเครื่องหมายล่วงหน้า ซึ่งไม่ช่วยให้พวกมัน ‘เข้าใจ’ ขนาดในลักษณะเดียวกันกับมนุษย์ นอกจากนี้ เมื่อเกินขีดจำกัดที่ใกล้และแน่นอน สิ่งที่อยู่ห่างไกลจะ เกิน ความสามารถของ การมองเห็นแบบสเตอริโอ ในการแก้ปัญหา – รถที่ปลายลานจอดรถ รถสูงในระยะทางที่อยู่ห่างออกไป และดวงจันทร์เสี้ยวที่ขึ้นเหนือสิ่งเหล่านั้น … ทั้งหมดนี้เป็น ‘สิ่งสองมิติ’...
ระบบ AI ที่ได้รับการฝึกฝนจากวิดีโอการ giám sátของรถไฟใต้ดินอ้างว่าสามารถสังเกตเห็นสัญญาณเตือนของการพยายามฆ่าตัวตายได้ภายในไม่กี่นาทีก่อนที่จะเกิดขึ้น โดยติดตามพฤติกรรม เช่น การเดินไปมา การลinger ที่ขอบแท่น และการมองเข้าไปในอุโมงค์อย่างซ้ำซาก ระบบการเรียนรู้ของเครื่องได้รับการทดสอบเป็นระบบการ giám sátเหตุการณ์บนแท่นแล้ว มีหลายปี โดยทั่วไปแล้วจะมีการใช้การรับรู้ภาพ You Only Look Once (YOLO) ซึ่งเป็นซีรีส์ยอดนิยมของการรับรู้ภาพที่ใช้ในการใช้งานที่มีผู้คน อาจตกหรือ หรือการกระทำที่ มีการกระทำผิดกฎหมาย หรือสถานการณ์ที่ แท่นมีผู้คนหนาแน่น...
การศึกษาใหม่พบว่าแม้ว่าเอเจนต์ AI จะรู้ว่าเว็บไซต์เป็นเว็บไซต์หลอกลวง แต่มากกว่าหนึ่งในสามของเอเจนต์ AI ก็ยังส่งข้อมูลส่วนบุคคลที่ละเอียดอ่อน (PII) ไปยังเว็บไซต์นั้น การศึกษาใหม่จากนักวิจัยในอินเดียและสหรัฐอเมริกาได้พบว่ามากกว่าหนึ่งในสามของเอเจนต์ AI ที่ถูกทดสอบส่ง PII ไปยังเว็บไซต์ที่พวกมันรู้ว่าเป็นเว็บไซต์หลอกลวงมี ‘ความจำเป็นในการ完成’ ที่ทำให้เอเจนต์ AI ไม่สามารถหยุดการดำเนินการได้เมื่อพวกมันรู้ว่าเว็บไซต์นั้นเป็นเว็บไซต์หลอกลวง นักวิจัยระบุว่า:‘มนุษย์สามารถหยุด พอใจ หรือปิดแท็บได้ แต่เอเจนต์ AI ถูกออกแบบมาเพื่อทำภารกิจให้เสร็จสิ้นและจะ继续填ฟอร์มและส่งข้อมูลโดยไม่หยุดเพื่อถามว่าควรทำหรือไม่’การศึกษานี้ได้สร้างมาตรฐานใหม่สำหรับสถานการณ์ดังกล่าว โดยใช้ชื่อ SCAMMER4U ซึ่งครอบคลุม 91...
เมื่อยุค AI ที่คุณสามารถใช้ได้ไม่จำกัดกำลังจะสิ้นสุดลง การเข้าใกล้วิดีโอ AI ที่ประหยัดใหม่สัญญาว่าจะช่วยลดการใช้โทเค็นและเวลาได้อย่างมีนัยสำคัญ ต้นทุนจริงของการอนุมาน AI ทำให้เกิดความจริงจังในการปฏิวัติ AI ในปัจจุบัน โดยมีการเพิ่มความสนใจในการลดต้นทุนของการเรียนรู้ของเครื่องจักร นอกเหนือจากศักยภาพในการนำ AI เข้ามาใช้ในท้องถิ่น และการเพิ่มขึ้นของ AI ส่วนตัว การใช้งานรูทีนการเรียนรู้ของเครื่องจักรที่กินวิดีโอ RAM และทรัพยากรมากจะต้องได้รับการปรับให้เหมาะสมด้วยการสร้างวิดีโอคือผู้กระทำผิดที่ยิ่งใหญ่ที่สุดในด้านนี้ หากคุณเคยบีบอัดภาพยนตร์หรือส่งออกมาจากซอฟต์แวร์แก้ไขวิดีโอ คุณก็รู้แล้วว่าการบีบอัดวิดีโอนั้นใช้ทรัพยากรคอมพิวเตอร์มาก และมักจะปิดกั้นเครื่องสำหรับการใช้งานอื่น ๆ เว้นแต่จะมีการดำเนินการเพื่อจำกัดผลกระทบของอัลกอริทึมการบีบอัดต่อคอมพิวเตอร์ดังนั้นจึงไม่ต้องใช้ความพยายามมากนักในการจินตนาการถึงระดับที่การเพิ่มขึ้นของวิดีโอ AI...
แม้ว่าตัวแทน AI จะสามารถแก้ปัญหาได้ แต่การศึกษาใหม่ระบุว่าพวกมัน gặpปัญหาในการดำเนินการต่อจากงานที่เริ่มต้นโดยคนอื่น ทำให้เกิดการทำงานซ้ำ การคืบหน้าช้า และต้นทุนสูงขึ้น หนึ่งในงานที่เหนื่อยล้า แต่จำเป็นต่อการทำงานกับตัวแทน AI และอินเทอร์เฟซคือการที่ AI ต้อง “เรียนรู้” ที่จุดเริ่มต้นของการแลกเปลี่ยนเกือบทุกครั้งในขณะที่โมเดลภาษาที่ได้รับความนิยม เช่น ChatGPT มีการเข้าถึง “ความจำที่ยั่งยืน” ของผู้ใช้ แต่การนำไปใช้往往เป็นเรื่องที่ยาก และมักจะปลอดภัยกว่าที่จะยอมรับการพยายามสร้างบริบทให้กับ AI – เพื่อหยุดไม่ให้ AI...
การกำหนดความหมายใหม่ของ ‘การโปรโมตตนเอง’ วิธีการใหม่นี้ขุดค้นการคลิกของผู้ใช้เพื่อสร้างโฆษณาเว็บแบบกำหนดเองตามประวัติเฉพาะของพวกเขา แม้ว่าสำนักงานโฆษณาจะ พยายามที่จะหักล้าง ความคิดที่ว่ามีการโฆษณาแบบฟันเฟืองที่สามารถให้โฆษณาแก่คุณตามสิ่งที่คุณพูดในบ้านของตนเอง แต่ระดับของ ‘การปรับให้เหมาะสม’ ที่โฆษณาแสดงในเว็บไซต์และแอปโซเชียลมีเดียได้ สร้างความสนใจ ในช่วงไม่กี่ปีที่ผ่านมาสถานการณ์ที่理想สำหรับผู้โฆษณาคือโฆษณาที่ให้บริการจะเป็น ‘การปรับให้เหมาะสมอย่างสมบูรณ์’ สำหรับผู้ชม ในขอบเขตของ การผลักดันสาธารณะ เกี่ยวกับการติดตามออนไลน์ และมาตรการป้องกันที่ผู้ใช้อาจติดตั้งเพื่อป้องกันการตรวจสอบดังกล่าว AI ที่สร้างขึ้น (โดยไม่คำนึงถึงความกลัวเกี่ยวกับ โฆษณา LLM ใน โลกหลังการค้นหา) มีความสามารถในการผลิตภาพโฆษณาและข้อความได้อย่างรวดเร็วเพียงพอสำหรับการใช้งานแบบเรียลไทม์อย่างไรก็ตาม จุดสนใจหลักของการวิจัยและความพยายามส่วนใหญ่จนถึงตอนนี้มีศูนย์กลางอยู่ที่ สถิติการใช้งานรวม...
นักเรียนใช้ ChatGPT เพื่อแก้ตัวเกี่ยวกับการใช้ AI ในการทำการบ้าน โดยการศึกษาใหม่พบว่ามี 6 ประเภทของข้ออ้างที่ช่วยให้พวกเขาเบลอเส้นแบ่งระหว่างการใช้ AI อย่างถูกต้องและโกงโดยสิ้นเชิง การวิจัยใหม่จากสหรัฐอเมริกาพบว่านักเรียนหลายคนไม่เห็นว่าการใช้ AI ในการทำการบ้านเป็นการโกงอีกต่อไป โดยอาศัยการสัมภาษณ์กับนักเรียนระดับอุดมศึกษาจากทั่วประเทศ ซึ่งพบว่ามี 23 วิธีที่นักเรียนใช้ AI ในการทำการบ้าน โดยอ้างว่า “ทุกคนทำแบบนี้” หรือ “AI ไม่มีเหยื่อ” หรือว่าการใช้ AI ช่วยให้พวกเขาเขียนได้ดีขึ้น...
เมื่อถูกขอให้ ‘เขียนเรื่องราว’ โมเดลภาษาที่มีชื่อเสียง เช่น ChatGPT และอื่นๆ ดูเหมือนจะหลีกเลี่ยงการละเมิดลิขสิทธิ์โดยการอ้างอิงถึงตัวละครและสถานที่ที่เหมือนกันซ้ำๆ การศึกษาใหม่จากมหาวิทยาลัยคอร์เนลพบว่าโมเดลภาษาที่มีชื่อเสียงดูเหมือนจะมีความหลงใหลในองค์ประกอบเรื่องราวที่แคบและแปลกๆ เมื่อถูกขอให้ ‘เขียนเรื่องราว’ หลังจากให้โมเดลภาษา 4 ตัวเขียนเรื่องราว 20,000 เรื่อง พบว่า 88% ของเรื่องราวที่สร้างขึ้นมีองค์ประกอบอย่างน้อย 1 ใน 11 องค์ประกอบที่เฉพาะเจาะจง ในหมวดหมู่ ‘สถานที่’, ‘ชื่อ’ หรือ ‘อาชีพ’11...
ChatGPT และ Google Gemini ยังคงไม่สามารถเข้าใจวิดีโอประกอบเฟอร์นิเจอร์ IKEA ได้อย่างน่าเชื่อถือ โดยมีระบบ AI อื่นๆ ที่มีชื่อเสียงหลายระบบสับสนกับชิ้นส่วน ละเว้นการเชื่อมต่อ และแทบจะไม่ใช้วิดีโอเพื่อทำความเข้าใจสิ่งที่เกิดขึ้น มีมีมวัฒนธรรมที่ยั่งยืนเกี่ยวกับความยากในการประกอบเฟอร์นิเจอร์ IKEA สไตล์แฟลตแพ็ค ทำให้หัวข้อนี้เป็นเป้าหมายที่น่าสนใจสำหรับการวิจัยด้านการมองเห็นของคอมพิวเตอร์ — ไม่ต้องสงสัยเลยว่าเนื่องจากลำดับเหตุการณ์ที่ยาวนาน การติดตามวัตถุ และการให้เหตุผลด้านพื้นที่ที่เกี่ยวข้องจะทำให้ระบบการควบคุมหุ่นยนต์ไปไกลเกินรูปร่างที่เรียบง่ายและสภาพแวดล้อมที่ควบคุมซึ่งพวกมันคุ้นเคยดังนั้นการทำงานเกี่ยวกับขั้นตอนการประกอบเฟอร์นิเจอร์แฟลตแพ็คที่ใช้ AI จึงกลายเป็นสาขาย่อยที่น่านับถือในวรรณกรรม โดยมีการออกตัวเช่น สภาพแวดล้อมการประกอบเฟอร์นิเจอร์ IKEA ของ...
การวิจัยใหม่แสดงให้เห็นว่า AI สามารถทำให้งานง่ายๆ ใช้เวลานานขึ้น ในขณะเดียวกันก็ทำให้ผู้ใช้คิดว่าตนเองมีประสิทธิภาพมากขึ้น การศึกษาใหม่จาก Stanford, NYU และ Princeton พบว่าเรามักใช้ AI แม้ว่ามันจะไม่มีประสิทธิภาพ และสำหรับงานเล็กๆ ที่เรามอบหมายให้ AI ทำ เราอาจใช้ความพยายามน้อยลงและประหยัดเวลาได้มากกว่าหากเราทำงานนั้นด้วยตนเองในสามการศึกษาที่ทำกับมนุษย์ ผู้เขียนพบว่าผู้เข้าร่วมมักจะประมาณการผิดว่า AI จะช่วยประหยัดเวลาได้มากเพียงใด และยังประมาณการผิดว่าตนเองพึ่งพา AI มากเพียงใด*‘ใน [การศึกษาที่สอง] เราพยายามเข้าใจว่าทำไมผู้คนถึงใช้ AI...
การศึกษาใหม่ๆ ทดสอบ LLM ที่เปิดเผยต่อสาธารณะสำหรับการบังคับให้ทำการทรมานมนุษย์ ในการทดลองซ้ำของการทดลองที่มีชื่อเสียงในปี 1960 – และพบว่าพวกมันเต็มใจที่จะเพิ่มความเข้มของกระแสไฟฟ้า ในช่วงต้นปี 1960 นักวิจัยด้านจิตวิทยา Stanley Milgram ได้สร้างความสนใจไปทั่วโลกด้วยการ chứng minhว่า คนสามารถถูกบังคับให้ทำตามคำสั่ง เพื่อจ่ายกระแสไฟฟ้าให้กับคนอื่นในฐานะการตอบสนองต่อคำสั่งจาก ‘ผู้มีอำนาจ’ ในความเป็นจริง เสียงร้องของ ‘เหยื่อ’ ในห้องทดลองของ Milgram ไม่ใช่เสียงจริง และกระแสไฟฟ้าไม่ใช่กระแสไฟฟ้าจริง แต่ผู้เข้าร่วมไม่ทราบสิ่งนี้https://www.youtube.com/watch?v=-E-DH-9GRjsการทดลองของ...
การวิจัยใหม่ๆ เสนอว่าพฤติกรรม ‘โหด’ ของ AI มักจะปรากฏขึ้นหลังจากที่โมเดลถูกผลักดันให้ฝึกอบรมมากเกินไป และว่ากรณีใหญ่ส่วนใหญ่สามารถรักษาได้ด้วยการหยุดการฝึกอบรมในระยะแรก การทำให้ AI ทั่วไปมีความสามารถพิเศษในงานเฉพาะเจาะจง通常ต้องใช้ความพยายามอย่างมาก คุณสามารถใช้ LoRA (โดยพื้นฐานแล้วเป็น ‘ฟิลเตอร์’ สำหรับโมเดล แต่นี่อาจให้ผลลัพธ์ที่ไม่น่าพอใจหรือผิวเผินเมื่อเทียบกับวิธีการที่ครอบคลุมมากขึ้น) หรือคุณสามารถใช้ข้อมูลทั้งหมดที่ใช้ในการฝึกอบรมโมเดลต้นฉบับและเพิ่มข้อมูลของคุณเองและฝึกอบรมอีกครั้ง (แต่นี่อาจมีค่าใช้จ่ายหลายล้านและใช้เวลาหลายสัปดาห์) หรือคุณสามารถ ปรับแต่งโมเดล โดยการเพิ่มข้อมูลเฉพาะงานและ ‘รี-วอร์ม’ โมเดลที่ฝึกอบรมแล้วเพื่อให้โมเดลมีความเชี่ยวชาญในงานที่คุณต้องการแม้ว่าการปรับแต่งจะมีผลกระทบมากกว่าการใช้ LoRA และมักจะเร็วกว่าและถูกกว่าการฝึกอบรมใหม่ แต่ก็อาจทำให้เกิดปัญหาเรื่องการใช้งานและแม้กระทั่งปัญหาด้านการปฏิบัติตามกฎระเบียบในแอปพลิเคชันอื่นๆ ของโมเดลในรูปแบบของ...
