ArcFlow: เทคโนโลยีโฟลว์แบบไม่เชิงเส้นเร่งการอนุมาน 40 เท่า สร้างผลงานใน 2 ขั้นตอนเทียบเท่ารูปวาดต้นฉบับ

ArcFlow: เทคโนโลยีโฟลว์แบบไม่เชิงเส้นเร่งความเร็วการอนุมานได้ 40 เท่า สร้างภาพคุณภาพสูงเทียบเท่าภาพต้นฉบับใน 2 ขั้นตอน

ในวงการสร้างภาพ แบบจำลองแพร่กระจาย (Diffusion Model) มักต้องใช้การวนซ้ำกำจัดสัญญาณรบกวนหลายสิบขั้นตอนเพื่อสร้างภาพคุณภาพสูง ซึ่งนำมาซึ่งต้นทุนการคำนวณที่สูงและเป็นอุปสรรคต่อการใช้งานแบบเรียลไทม์ เพื่อเร่งการอนุมาน วิธีการกลั่นความรู้ (Knowledge Distillation) ทั่วไปพยายามบีบอัดกระบวนการสร้างให้เหลือเพียงไม่กี่ขั้นตอน แต่โดยมากมักสมมติว่าเส้นทางจากสัญญาณรบกวนไปสู่ภาพเป็นเส้นตรง ในขณะที่เส้นทางการสร้างจริงของแบบจำลองครู (Teacher Model) ที่ผ่านการฝึกมาก่อนมักเป็นเส้นโค้งที่ซับซ้อน ความ “ไม่ตรงกันทางเรขาคณิต” นี้ทำให้แบบจำลองนักเรียน (Student Model) เรียนรู้ได้ยากภายในไม่กี่ขั้นตอน ส่งผลให้รายละเอียดภาพพร่ามัวและโครงสร้างผิดเพี้ยน

ArcFlow เป็นโซลูชันเร่งการสร้างภาพที่เสนอโดยมหาวิทยาลัยฟู่ตานร่วมกับ Microsoft Research Asia แทนที่จะใช้กลยุทธ์ลดทอนแบบเส้นตรงทั่วไป กลับใช้กลไกโมเมนตัมอย่างสร้างสรรค์เพื่อนำเสนอโฟลว์แบบไม่เชิงเส้น ทำให้สามารถประมาณเส้นทางการสร้างที่ซับซ้อนของแบบจำลองครูได้แม่นยำยิ่งขึ้น

การปรับปรุงนี้ทำให้แบบจำลองสามารถรักษาคุณภาพภาพที่ใกล้เคียงกับแบบจำลองครูได้สูง แม้ใช้การอนุมานเพียง 2 ขั้นตอน เทียบกับกระบวนการเดิม ArcFlow บรรลุการเร่งความเร็วการอนุมานประมาณ 40 เท่า และการเร่งการลู่เข้าของการฝึก 4 เท่า ในขณะเดียวกัน วิธีนี้ต้องการเพียงปรับจูนพารามิเตอร์ในสัดส่วนที่น้อยมาก และเป็นมิตรกับทรัพยากรหน่วยความจำกราฟิก

หลักการสำคัญ: “ไม่เชิงเส้น” ที่ไหลตามกระแส

ความเข้าใจหลักของ ArcFlow คือ: เนื่องจากเส้นทางการสร้างของแบบจำลองครูเป็นเส้นโค้ง แบบจำลองนักเรียนก็ควรเรียนรู้ที่จะเดินตามเส้นโค้งนั้น แทนที่จะพยายามดึงให้ตรง โดยเฉพาะอย่างยิ่ง มันบรรลุเป้าหมายนี้ผ่านนวัตกรรมหลักสามประการต่อไปนี้:

1. การกำหนดพารามิเตอร์ด้วยโมเมนตัม: จับความต่อเนื่องของความเร็ว

กระบวนการกำจัดสัญญาณรบกวนของแบบจำลองครูเป็นกระบวนการทางกายภาพที่เปลี่ยนแปลงอย่างต่อเนื่อง โดยมีสหสัมพันธ์สูงระหว่างทิศทางความเร็วในขั้นตอนเวลาที่ติดกัน ArcFlow นำแนวคิดโมเมนตัมจากฟิสิกส์มาใช้ โดยสร้างแบบจำลองสนามความเร็วเป็นการผสมผสานของกระบวนการโมเมนตัมต่อเนื่องหลายกระบวนการ ผ่านการกำหนดพารามิเตอร์กฎการวิวัฒนาการของความเร็ว แบบจำลองสามารถคาดการณ์เส้นทางไม่เชิงเส้นที่ต่อเนื่องได้จากการคำนวณเพียงครั้งเดียว ทำซ้ำการเปลี่ยนแปลงเชิงพลวัตที่ซับซ้อน และขจัดความซ้ำซ้อนในการคำนวณของการสุ่มตัวอย่างแบบดั้งเดิม

2. ตัวแก้ปัญหาเชิงวิเคราะห์: บรรลุการอินทิเกรตความแม่นยำสูง

จากสูตรโมเมนตัม ArcFlow ได้หาคำตอบเชิงวิเคราะห์แบบปิด (Closed-form) ซึ่งทำให้แบบจำลองสามารถคำนวณสถานะที่แม่นยำของขั้นตอนเวลาใดๆ ได้โดยตรงผ่านสูตรคณิตศาสตร์ในการส่งต่อครั้งเดียว บรรลุการจับคู่โฟลว์ความแม่นยำสูง และขจัดข้อผิดพลาดในการประมาณของการสร้างภาพแบบขั้นตอนน้อยแบบดั้งเดิมโดยสิ้นเชิง

3. กลยุทธ์กลั่นความรู้จากเส้นทาง: สืบทอดความรู้ก่อนหน้าของครูอย่างมีประสิทธิภาพ

เส้นทางไม่เชิงเส้นของ ArcFlow สอดคล้องกับโหมดการสร้างของแบบจำลองครูโดยธรรมชาติ กลยุทธ์กลั่นความรู้ของมันคือการจัดตำแหน่งความเร็วชั่วขณะภายใต้เงื่อนไขที่รักษาลักษณะไม่เชิงเส้นไว้ จึงรักษาความรู้ก่อนหน้าที่ผ่านการฝึกของแบบจำลองครูไว้ได้มากที่สุด ดังนั้น ArcFlow ไม่จำเป็นต้องปรับจูนพารามิเตอร์ทั้งหมด แต่สามารถลู่เข้าได้อย่างรวดเร็วโดยปรับจูนพารามิเตอร์จำนวนน้อยมากผ่านเทคโนโลยีเช่น LoRA บรรลุการก้าวกระโดดทั้งในด้านประสิทธิภาพการฝึกและคุณภาพการสร้าง

ผลการทดลอง

ArcFlow ได้รับการทดสอบบนแบบจำลองขนาดใหญ่เช่น Qwen-Image-20B และ FLUX.1-dev โดยให้ผลที่น่าประทับใจ:

• ความเร็วสุดขีด: ต้องการเพียง 2 ขั้นตอนในการสร้างภาพคุณภาพสูง เร็วกว่าการอนุมานเดิม 40 เท่า
• ประสิทธิภาพพารามิเตอร์: ปรับจูนพารามิเตอร์น้อยกว่า 5% ลดขีดจำกัดการฝึกอย่างมาก
• คุณภาพภาพยอดเยี่ยม: ในการทดสอบมาตรฐานหลายชุด คุณภาพภาพ (FID) และความสอดคล้องทางความหมายของ ArcFlow ภายใต้การอนุมาน 2 ขั้นตอน ดีกว่าวิธีการล้ำสมัยที่มีอยู่ในปัจจุบัน
• การลู่เข้าอย่างรวดเร็ว: ความเร็วการลู่เข้าของการฝึกเร็วกว่าวิธีฐาน (Baseline) มากกว่า 4 เท่า

การเปรียบเทียบที่เห็นได้ชัด:
จากภาพผลลัพธ์ ภายใต้การอนุมาน 2 ขั้นตอนเดียวกัน วิธีการกลั่นความรู้แบบเส้นตรงอื่นๆ มักสร้างภาพที่มีพื้นหลังพร่ามัว โครงสร้างวัตถุบิดเบี้ยว ในขณะที่ภาพที่สร้างโดย ArcFlow ไม่เพียงแต่มีความคมชัดสูง แต่ยังรักษารายละเอียดอันหลากหลาย และความหลากหลายของภาพดั้งเดิมของแบบจำลองครูไว้ได้

สรุป

ArcFlow ที่เสนอในการศึกษานี้ เป็นเฟรมเวิร์กการกลั่นความรู้แบบขั้นตอนน้อยที่ใช้เส้นทางไม่เชิงเส้นอย่างชัดเจนเพื่อประมาณพลวัตที่ซับซ้อนของแบบจำลองครูแพร่กระจายที่ผ่านการฝึกมาก่อน โดยการกำหนดพารามิเตอร์สนามความเร็วเป็นการผสมผสานของกระบวนการโมเมนตัมต่อเนื่อง ArcFlow ได้รับตัวแก้ปัญหาแบบปิดในรูปแบบวิเคราะห์ บรรลุการอินทิเกรตเส้นทางที่แม่นยำ

ด้วยคุณสมบัติไม่เชิงเส้นภายใน ArcFlow รับประกันการจัดตำแหน่งความแม่นยำสูงกับแบบจำลองครู ในขณะเดียวกันหลีกเลี่ยงการฝึกแบบต่อต้านที่ไม่เสถียรและการปรับจูนพารามิเตอร์ทั้งหมดที่รุกล้ำ จึงบรรลุความเร็วการลู่เข้าที่เร็วขึ้น และกระบวนการกลั่นความรู้ที่มีประสิทธิภาพสูงขึ้น

การทดลองอย่างกว้างขวางแสดงให้เห็นว่า เมื่อเทียบกับวิธีการฐานแบบเส้นตรง ArcFlow บรรลุคุณภาพการสร้างที่ดีกว่าอย่างต่อเนื่องโดยใช้พารามิเตอร์ที่ฝึกได้น้อยกว่า เป็นการมอบทิศทางที่มีศักยภาพสูงสำหรับการวิจัยแบบจำลองสร้างประสิทธิภาพสูงในอนาคต

(หมายเหตุ: ข้อมูลและภาพในบทความนี้อ้างอิงจากเอกสารต้นฉบับ)

ที่อยู่เอกสาร: https://arxiv.org/abs/2602.09014
รหัสโครงการ: https://github.com/pnotp/ArcFlow

ติดตาม “Whale Habitat” Mini Program เพื่อรับข่าวสาร AI ล่าสุด

⚠️ หมายเหตุ: เนื้อหาได้รับการแปลโดย AI และตรวจสอบโดยมนุษย์ หากมีข้อผิดพลาดโปรดแจ้ง