Meta ร่วมมือกับ NYU ไขปัญหาการวางแผน AI: การทำให้เส้นทางเวลาเป็นเส้นตรงช่วยให้โมเดลโลกใกล้เคียงความเป็นจริงมากขึ้น

ในประวัติศาสตร์การพัฒนาปัญญาประดิษฐ์ มีนักวิทยาศาสตร์คนหนึ่งที่เกือบจะอยู่กับยุคสมัยแห่งการเรียนรู้เชิงลึกตลอดมา นั่นคือ Yann LeCun

หลายคนเริ่มรู้จักโครงข่ายประสาทเทียมครั้งแรกผ่านระบบจดจำตัวเลขเขียนมือ LeNet ที่เขาเสนอขึ้นในศตวรรษที่แล้ว โมเดลโครงข่ายประสาทเทียมแบบคอนโวลูชันยุคแรกนี้ไม่เพียงแต่ประสบความสำเร็จในการนำไปใช้จดจำเช็คธนาคาร แต่ยังวางรากฐานที่สำคัญให้กับกระแสการเรียนรู้เชิงลึกที่ถาโถมทั่วโลกในเวลาต่อมาอีกด้วย

แตกต่างจากนักวิจัยจำนวนมากในปัจจุบันที่หันความสนใจไปที่ AI แบบสร้างสรรค์ (Generative AI) LeCun ในช่วงหลายปีมานี้เน้นย้ำเส้นทางการวิจัยอีกเส้นหนึ่งที่มองการณ์ไกลกว่า นั่นคือการสร้าง “โมเดลโลก” ที่สามารถเข้าใจโลกและทำการวางแผนได้

ในมุมมองของเขา แม้โมเดลในปัจจุบันจะแสดงผลที่น่าทึ่งในการสร้างข้อความและภาพ แต่ก็ยังขาดความสามารถสำคัญอย่างหนึ่ง นั่นคือการสร้างแบบจำลองโลกแห่งความเป็นจริง และทำนายการเปลี่ยนแปลงที่อาจเกิดขึ้นในอนาคต

จากวิสัยทัศน์นี้ นักวิจัยจาก Meta มหาวิทยาลัยนิวยอร์ก และสถาบันอื่นๆ (รวมถึงสมาชิกในทีมของ LeCun) ได้เผยแพร่บทความวิจัยฉบับใหม่ล่าสุด พยายามแก้ไขปัญหาพื้นฐานในโมเดลโลก: หากเราต้องการให้ AI ทำการวางแผนในพื้นที่แฝง (latent space) พื้นที่แสดงแทน (representation space) นี้ควรมีโครงสร้างอย่างไร?

• ชื่อบทความวิจัย: Temporal Straightening for Latent Planning
• ลิงก์บทความวิจัย: https://arxiv.org/pdf/2603.12231

กับดักความโค้งงอของคุณลักษณะภาพ

แรงบันดาลใจหลักของการศึกษานี้มาจากสมมติฐานที่มีชื่อเสียงในประสาทวิทยาศาสตร์ นั่นคือการรับรู้แบบทำให้เป็นเส้นตรง (Perceptual Straightening) ระบบการมองเห็นของมนุษย์มีแนวโน้มที่จะแปลงข้อมูลภาพที่ซับซ้อนจากการไหลของวิดีโอตามธรรมชาติ ให้กลายเป็นการแสดงแทนที่มีวิถีตรงกว่าในเยื่อหุ้มสมอง (cortex) เพื่อทำนายการเคลื่อนไหวของวัตถุได้อย่างมีประสิทธิภาพมากขึ้น

งานวิจัยชี้ให้เห็นว่า แม้ตัวเข้ารหัสที่ผ่านการฝึกมาก่อน (pre-trained encoder) จะสามารถเรียนรู้การแสดงแทนเชิงความหมายที่หลากหลายได้ แต่วิถีเวลาที่เกิดขึ้นในพื้นที่แฝงมักมีความโค้งงอสูง ซึ่งทำให้การวางแผนบนพื้นฐานของการแสดงแทนนั้นยากขึ้น

ความโค้งงอสูงนี้ก่อให้เกิดปัญหาสำคัญสองประการ:

• ระยะทางใช้การไม่ได้: ในพื้นที่แฝงที่โค้งงอสูง ระยะทางแบบยุคลิด (Euclidean distance) อย่างง่ายไม่สามารถสะท้อนความยากแท้จริง (ระยะทางตามแนวโค้ง – geodesic distance) ในการไปถึงสถานะเป้าหมายได้อย่างแม่นยำ
• การวางแผนไม่เสถียร: อัลกอริทึมการวางแผนที่ใช้เกรเดียนต์ (gradient-based) ในภูมิประเทศที่โค้งงอมีแนวโน้มสูงที่จะติดอยู่ในจุดที่ดีที่สุดเฉพาะที่ (local optimum) ทำให้เอเจนต์ “หมุนวนอยู่กับที่” หรือเกิดความไม่ต่อเนื่องทางตรรกะในภารกิจ

วิถีแฝงที่ถูกเข้ารหัสโดยตัวเข้ารหัสภาพที่ผ่านการฝึกมาก่อนมักโค้งงอสูง (DINO) ซึ่งเพิ่มความยากในการทำนายและการวางแผน บทความนี้ได้แนะนำข้อจำกัดทางเรขาคณิตเพื่อทำให้วิถีที่เป็นไปได้ในพื้นที่นี้ตรงขึ้น (Ours)

การทำให้เวลาเป็นเส้นตรง

เพื่อแก้ไขปัญหานี้ ทีมวิจัยได้แนะนำข้อจำกัดทางเรขาคณิต นั่นคือ ตัวปรับให้เป็นปกติด้วยความโค้ง (curvature regularizer)

การวางแผนในพื้นที่แฝงแบบดั้งเดิมมักเรียนรู้ตัวเข้ารหัสและตัวทำนาย แต่ในสภาพแวดล้อมไดนามิกที่ซับซ้อน วิถีของสถานะที่อยู่ติดกันในพื้นที่แฝงมักโค้งงออย่างรุนแรง

เพื่อให้เกิดการ “ทำให้ตรง” ทีมวิจัยได้เสนอข้อจำกัดบนพื้นฐานของความโค้ง ในพื้นที่แฝง กำหนดการแสดงแทนสามขั้นเวลาติดต่อกัน

1. นิยามทางคณิตศาสตร์ของความโค้ง

หัวใจของการทำให้เป็นเส้นตรงคือการกำหนดให้วิถีการเคลื่อนไหวในพื้นที่แฝงควรใกล้เคียงกับการเคลื่อนที่เป็นเส้นตรงด้วยความเร็วคงที่มากที่สุด ในทางสูตรคณิตศาสตร์ สิ่งนี้แสดงให้เห็นว่า “เวกเตอร์การกระจัด” ของสองขั้นเวลาที่ติดกันควรสอดคล้องกันมากที่สุด หากวิถีเป็นเส้นตรงสมบูรณ์และมีความเร็วคงที่ เวกเตอร์ทั้งสองนี้ควรเท่ากัน

2. ฟังก์ชันการสูญเสียจากความโค้ง

บทความวิจัยแนะนำฟังก์ชันการสูญเสียต่อไปนี้เพื่อลงโทษระดับความโค้งงอของวิถี เช่น การใช้ค่าโคไซน์ของมุมระหว่างเวกเตอร์หน่วยเพื่อวัดความสม่ำเสมอของทิศทาง

พจน์การปรับให้เป็นปกตินี้จะบังคับให้ตัวเข้ารหัสแมปข้อมูลภาพดั้งเดิมไปยังพื้นที่ที่ราบเรียบมากขึ้น ทำให้การเปลี่ยนสถานะในพื้นที่นั้นแสดงออกเป็นการวิวัฒนาการที่ใกล้เคียงเชิงเส้น

แผนภาพการฝึกและการวางแผน ในกระบวนการฝึกฝน ด้านหนึ่งลดการสูญเสียจากการทำนายให้น้อยที่สุด อีกด้านหนึ่งลดความโค้งเฉพาะที่ของการฝังให้น้อยที่สุด ในกระบวนการวางแผน ใช้ตัวทำนายที่ฝึกแล้วเพื่อดำเนินการขยายเวลาตามลำดับ และเลือกการกระทำที่เหมาะสมที่สุดซึ่งสามารถลดต้นทุนระหว่างสถานะสุดท้ายที่ทำนายกับเป้าหมายในพื้นที่ฝังให้เหลือน้อยที่สุด

ด้วยวิธีนี้ โมเดลเรียนรู้ร่วมกันทั้งตัวเข้ารหัสที่ “ราบเรียบ” มากขึ้นและตัวทำนายที่ “เป็นไปตามสัญชาตญาณ” มากขึ้น การดำเนินการ “ทำให้ตรง” นี้ก่อให้เกิดผลสำคัญสองประการ:

• ระยะทางแบบยุคลิด ≈ ระยะทางตามแนวโค้ง: ในพื้นที่ที่ถูกทำให้ตรงแล้ว ระยะทางเส้นตรงระหว่างสองจุดสามารถแสดงต้นทุนในการเปลี่ยนจากสถานะ A ไปยังสถานะ B ได้อย่างแม่นยำมากขึ้น
• ปรับปรุงการปรับเงื่อนไขตามเป้าหมาย: การชี้นำเส้นทางโดยเป้าหมายการวางแผนกลายเป็นเชิงเส้นและเสถียรมากขึ้น

การเปรียบเทียบวิถีพื้นที่แฝงก่อนและหลังการทำให้เป็นเส้นตรง ตัวอย่าง PushT ด้านบนแสดงการกระทำแบบหมุน ตัวอย่าง UMaze ด้านล่างแสดงกระบวนการที่เอเจนต์เคลื่อนที่จากมุมซ้ายบนไปยังมุมขวาบน โดยที่เครื่องหมายดอกจันแสดงถึงเป้าหมาย การทำให้เป็นเส้นตรงสร้างวิถีที่โค้งงอน้อยลงและราบเรียบมากขึ้น และทำให้ระยะทางแบบยุคลิดสามารถสะท้อนความก้าวหน้าตามแนวโค้งสู่เป้าหมาย (จำนวนก้าวจริง) ได้อย่างแท้จริงมากขึ้น

ผลการทดลอง: ไขปริศนาเขาวงกต “ประตูมิติ”

เพื่อยืนยันทฤษฎีนี้ ทีมวิจัยได้ออกแบบสภาพแวดล้อมการทดลองที่ท้าทายอย่างยิ่ง: Teleport-PointMaze (เขาวงกตจุดที่มีประตูมิติ)

ในเขาวงกตนี้ เมื่อเอเจนต์สัมผัสผนังด้านขวาจะ “เคลื่อนย้าย” ไปยังด้านซ้ายทันที การกระโดดตำแหน่งทันทีทันใดนี้สร้างความท้าทายอย่างมากให้กับตัวเข้ารหัสที่ผ่านการฝึกมาก่อนแบบดั้งเดิม (เช่น DINOv2)

การเปรียบเทียบระหว่างความโค้งแฝงของตัวเข้ารหัสต่างๆ กับอัตราความสำเร็จของการวางแผนแบบเกรเดียนต์ดีเซนต์วงเปิด (open-loop gradient descent planning) ยิ่งค่าความคล้ายโคไซน์สูงแสดงว่าความโค้งต่ำ ในกรณีที่ประเภทของตัวเข้ารหัสเหมือนกัน การลดลงของความโค้งมักนำไปสู่การเพิ่มขึ้นของอัตราความสำเร็จ

งานวิจัยสร้างแผนที่ความร้อนของระยะทางโดยการคำนวณข้อผิดพลาดกำลังสองเฉลี่ยระหว่างจุดใดๆ ในพื้นที่แฝงกับจุดเป้าหมาย

แผนที่ความร้อนระยะทางของ PointMaze (สีน้ำเงินแสดงค่าต่ำ สีแดงแสดงค่าสูง) ดาวห้าแฉกสีเหลืองแสดงตำแหน่งเป้าหมาย คำนวณระยะทางแบบยุคลิดระหว่างการฝังของมันกับการฝังของสถานะอื่นๆ ทั้งหมดในเขาวงกต รูป b และ c ใช้ ResNet ที่ผ่านการฝึกด้วยการปรับให้เป็นปกติแบบทำให้ตรง หลังการทำให้ตรง ระยะทางแฝงสามารถสะท้อนจำนวนขั้นต่ำที่จำเป็นต้องใช้เพื่อไปถึงเป้าหมายได้อย่างแม่นยำ

• DINOv2 (a): แผนที่ความร้อนแสดงเป็นแผ่นที่แตกแยก ไม่สามารถสะท้อนโครงสร้างทางกายภาพของเขาวงกตได้เลย อัลกอริทึมการวางแผนในพื้นที่นี้แทบจะเป็นการ “ค้นหาแบบสุ่ม”
• โปรเจคเตอร์ที่ไม่มีทำให้ตรง (c): แม้จะผ่านการปรับแต่งสำหรับงาน (fine-tuned) แต่แผนที่ความร้อนยังคงแสดงการบิดเบือนอย่างรุนแรง ไม่สามารถระบุการเชื่อมต่อของประตูมิติได้อย่างถูกต้อง
• การทำให้เวลาเป็นเส้นตรง (b): แผนที่ความร้อนแสดงเกรเดียนต์ที่ราบเรียบมาก และสอดคล้องกับค่าจริงของจุดสังเกต (landmark ground truth) (d) อย่างสมบูรณ์แบบ ซึ่งหมายความว่าในพื้นที่ที่ถูกทำให้ตรงแล้ว ระยะทางแบบยุคลิดอย่างง่ายสามารถชี้นำเอเจนต์ผ่านประตูมิติได้อย่างแม่นยำ

เบาะแสใหม่ในการวิจัยโมเดลโลก

เมื่อการวิจัยโมเดลโลกพัฒนาอย่างต่อเนื่อง นักวิชาการจำนวนมากขึ้นเริ่มให้ความสนใจว่า: การแสดงแทนแบบใดที่เหมาะสมสำหรับการวางแผนจริงๆ?

บทความวิจัยนี้ให้คำตอบที่เรียบง่ายแต่ให้แรงบันดาลใจ: ในพื้นที่แฝงที่ดี วิถีเวลาควรเป็นเส้นตรงมากที่สุด

การออกแบบนี้ไม่เพียงแต่สามารถเพิ่มประสิทธิภาพการวางแผน แต่ยังอาจส่งผลกระทบต่อทิศทางการวิจัยในอนาคตมากมาย เช่น การควบคุมหุ่นยนต์ โมเดลโลกวิดีโอ การขับขี่อัตโนมัติ…

บางทีอาจเป็นดังที่ Yann LeCun เน้นย้ำ: ปัญญาที่แท้จริงขาดไม่ได้ซึ่งโมเดลที่สามารถเข้าใจและทำนายโลกได้ และการทำให้ “เวลาเป็นเส้นตรง” อาจเป็นก้าวสำคัญสู่เป้าหมายนี้

⚠️ หมายเหตุ: เนื้อหาได้รับการแปลโดย AI และตรวจสอบโดยมนุษย์ หากมีข้อผิดพลาดโปรดแจ้ง

☕ สนับสนุนค่ากาแฟทีมงาน

หากคุณชอบบทความนี้ สามารถสนับสนุนเราได้ผ่าน PromptPay

SCAN TO PAY WITH ANY BANK