Xuanwu CLI: กรอบงานโอเพนซอร์สในประเทศทำให้สามารถปรับใช้ Clawdbot ในเครื่องได้ด้วยคลิกเดียว และรองรับชิปในประเทศโดยตรง

ความร้อนแรงของ Clawdbot และความท้าทายด้านต้นทุน

Clawdbot (ปัจจุบันชื่อ OpenClaw) ได้รับความสนใจในระดับปรากฏการณ์เมื่อเร็วๆ นี้ ภายในเวลาไม่ถึงหนึ่งสัปดาห์หลังจากเปิดตัว คลัง GitHub ของมันก็ได้รับ Star ถึง 120,000 ดวง ฮาร์ดแวร์ที่เกี่ยวข้องขายหมดเกลี้ยงในบางครั้ง บริษัทเทคโนโลยีชั้นนำหลายแห่งรีบตามมาบูรณาการอย่างรวดเร็ว และบทเรียนสอนการใช้งานประเภทต่างๆ ก็แพร่กระจายอย่างกว้างขวาง

ความนิยมที่สูงมากของมัน ทำให้ Anthropic ทางการขอให้เปลี่ยนชื่อถึงสองครั้ง

เสน่ห์หลักของ Clawdbot อยู่ที่มันไม่ใช่แค่บอทสนทนาธรรมดาๆ อีกต่อไป แต่เป็น ตัวดำเนินการ AI ที่ทำงานได้อย่างต่อเนื่อง 7×24 ชั่วโมง มันสามารถทำงานอย่างต่อเนื่อง เช่น การวิเคราะห์ข้อมูล การตรวจสอบตลาด ในขณะที่ผู้ใช้พักผ่อน ประชุม หรือจัดการงานอื่นๆ และตอบสนองและรายงานผลทันทีผ่านข้อความมือถือ

อย่างไรก็ตาม Clawdbot ก็ไม่ได้ปราศจากข้อเสีย ผู้ใช้จำนวนมากพบในทางปฏิบัติว่า ต้นทุนการทำงานของมันสูงมาก

ที่มา: YouTuber Bijan Bowen

เนื่องจากการเรียกใช้ API ของโมเดลใหญ่บนคลาวด์อย่างต่อเนื่อง Clawdbot อาจสร้างค่าใช้จ่าย Token เป็นหลายร้อยดอลลาร์ แม้เพียงแค่จัดการงานเล็กๆ น้อยๆ

โซลูชันท้องถิ่น: Xuanwu CLI

ปัญหาด้านต้นทุนได้ทำให้เกิดโซลูชันใหม่ ล่าสุด มีเฟรมเวิร์กโอเพนซอร์สจีนชื่อ Xuanwu CLI ถูกเผยแพร่บน GitHub มันอนุญาตให้ผู้ใช้ติดตั้งและรัน Clawdbot ในเครื่อง ไม่จำเป็นต้องซื้อฮาร์ดแวร์เฉพาะ และ ไม่ต้องจ่ายค่า API บนคลาวด์อย่างต่อเนื่อง และยังรองรับชิปจีนที่มีราคาประหยัดกว่าโดยดั้งเดิม

(ด้านล่างเป็นวิดีโอการใช้งาน Clawdbot วิดีโอทั้งหมดถูกเร่งความเร็ว 2 เท่า)

สิ่งนี้ทำให้ประโยชน์ใช้สอยของ Clawdbot เพิ่มขึ้นอย่างมาก

Xuanwu CLI: Ollama เวอร์ชันโอเพนซอร์สจีน

Xuanwu CLI สามารถถูกมองว่าเป็น Ollama เวอร์ชันโอเพนซอร์สจีน มันมีเป้าหมายเพื่อลดความซับซ้อนในการติดตั้งและการจัดการโมเดลใหญ่ในเครื่อง

ในด้านหนึ่ง มันให้ประสบการณ์คล้าย “ร้านค้าแอปพลิเคชัน”: ผู้ใช้เพียงเลือกโมเดลและรันคำสั่งดึงมาใช้ได้ทันที โดยไม่ต้องจัดการการตั้งค่าที่ซับซ้อน เช่น รูปแบบโมเดล เส้นทาง ฯลฯ ด้วยตนเอง

ในอีกด้านหนึ่ง มันได้ทำการห่อหุ้มและทำให้ขั้นตอนที่ทำให้มือใหม่ถอดใจได้ง่ายที่สุด เช่น การตั้งค่าสภาพแวดล้อม การติดตั้งไดรเวอร์ การปรับให้เข้ากับสถาปัตยกรรม การปรับพารามิเตอร์ การตรวจสอบทรัพยากร ฯลฯ เป็นอัตโนมัติ

ในระบบคำสั่ง Xuanwu CLI มีความสอดคล้องสูงกับ Ollama เช่น xw pull, run, list, stop เป็นต้น ผู้ใช้ที่คุ้นเคยกับ Ollama สามารถเปลี่ยนมาใช้ได้อย่างราบรื่น

ตัวอย่างเช่น ดึงโมเดลด้วยคำสั่งหนึ่งบรรทัด:
xw pull qwen3-32b
Xuanwu CLI จะทำการดาวน์โหลดโมเดล แบ่งส่วน และโหลดโดยอัตโนมัติ หลังจากเริ่มต้นครั้งแรก โมเดลขนาด 32B และเล็กกว่าสามารถพร้อมใช้งานได้ภายใน 30 วินาที

จากนั้นรัน:
xw run qwen3-32b
ก็สามารถสนทนากับโมเดลได้โดยตรง โดยไม่ต้องสร้างเว็บอินเทอร์เฟซเพิ่มเติมหรือเขียนอินเทอร์เฟซบริการ

นอกจากนี้ คำสั่งเช่น xw list, ps ฯลฯ ช่วยจัดการโมเดลในเครื่องได้สะดวก ทำให้ผู้ใช้เข้าใจสถานะของโมเดลที่ติดตั้งและกำลังทำงานได้อย่างชัดเจน

จากพื้นฐานนี้ โมเดลในเครื่องไม่เพียงแต่สามารถทำงานได้อย่างอิสระ แต่ยังสามารถ:
* เชื่อมต่อเป็นเครื่องยนต์ AI ในเครื่องกับ Clawdbot เป็นแกนหลักการทำงานแบบ 7×24 ชั่วโมง;
* เชื่อมต่อกับเวิร์กโฟลว์ (เช่น Dify) สคริปต์อัตโนมัติ หรือระบบภายใน เพื่อแทนที่ API บนคลาวด์สำหรับงานแบทช์ เช่น การสร้างโค้ด การวิเคราะห์ข้อมูล เป็นต้น

โมเดล กำลังคำนวณ และข้อมูลทั้งหมดยังคงอยู่ในเครื่อง ไม่เพียงแต่ประหยัดต้นทุน แต่ยังหลีกเลี่ยงความเสี่ยงการรั่วไหลของข้อมูลที่อาจเกิดจากสิทธิ์ของ Agent

โอเพนซอร์ส ใช้งานง่าย เข้ากันได้กับเฟรมเวิร์กทุกประเภท

กระบวนการติดตั้งและการปรับใช้ Xuanwu CLI เรียบง่าย และ เป็นโอเพนซอร์สทั้งหมด รองรับการติดตั้งด้วยคลิกเดียวผ่าน GitHub หรือ GitCode แตกไฟล์แล้วใช้ได้ทันที และยังมีโซลูชันการปรับใช้แบบคอนเทนเนอร์ Docker เพื่อให้ เริ่มต้นใช้งานด้วยต้นทุน 0

GitHub: https://github.com/TsingmaoAI/xw-cli
GitCode: https://gitcode.com/tsingmao/xw-cli

ในระดับการติดตั้ง Xuanwu CLI ไม่ต้องการการตั้งค่าสภาพแวดล้อมที่ซับซ้อน ไม่พึ่งพาการติดตั้งด้วยตนเองที่ยุ่งยาก ต้องการเพียงไดรเวอร์พื้นฐานเพื่อระบุฮาร์ดแวร์ และเริ่มต้นบริการได้อย่างรวดเร็วผ่านเอ็นจิ้นการอนุมานที่คอมไพล์ล่วงหน้า

พร้อมกันนี้ มันรองรับการทำงานแบบหลายการ์ดและหลายอินสแตนซ์ขนานกันโดยดั้งเดิม อินสแตนซ์โมเดลแต่ละตัวแยกจากกัน ซึ่งช่วยเพิ่มความเสถียรและความสามารถในการขยายของบริการ

ในระดับการเชื่อมต่อแอปพลิเคชัน Xuanwu CLI มุ่งมั่นที่จะลดต้นทุนการเปลี่ยน มันรองรับมาตรฐาน OpenAI API โดยดั้งเดิม สำหรับเฟรมเวิร์กทั่วไป เช่น LangChain, LlamaIndex ฯลฯ โดยปกติเพียงแค่แก้ไขการตั้งค่าที่อยู่ API หนึ่งบรรทัด ก็สามารถเปลี่ยนจากการเรียกใช้บนคลาวด์เป็นโมเดลในเครื่องได้

ในการใช้ทรัพยากร Xuanwu CLI จะโหลดโมเดลตามความต้องการ และจัดสรรทรัพยากรหน่วยความจำกราฟิกและการ์ดกราฟิกแบบไดนามิกร่วมกับความแม่นยำของการควอนไทซ์ เพื่อเพิ่มอัตราการใช้ฮาร์ดแวร์

คุณสมบัติเหล่านี้ทำให้มันเหมาะสมอย่างยิ่งที่จะเป็น “เครื่องยนต์ท้องถิ่น” สำหรับแอปพลิเคชันเอเจนต์อัจฉริยะ เช่น Clawdbot และยังเหมาะสำหรับการเชื่อมต่อโมเดลใหญ่โอเพนซอร์สประเภทต่างๆ ได้อย่างรวดเร็ว

รองรับชิปจีนโดยดั้งเดิม

ข้อได้เปรียบที่แตกต่างที่สำคัญอย่างหนึ่งของ Xuanwu CLI คือ การรองรับชิปจีนโดยดั้งเดิม

โซลูชันโมเดลในเครื่องแบบดั้งเดิมส่วนใหญ่สร้างขึ้นรอบๆ ระบบนิเวศของ NVIDIA ซึ่งมีต้นทุนฮาร์ดแวร์สูง Xuanwu CLI เลือกที่จะโอบรับกำลังคำนวณจีนที่มีราคาประหยัดกว่า ทำให้การปรับใช้โมเดลในเครื่องมีความเป็นไปได้ทางเศรษฐกิจมากขึ้น

ในอดีต การปรับใช้โมเดลบนชิปจีนมักเผชิญกับปัญหาการตั้งค่าที่ซับซ้อน ประสิทธิภาพไม่เสถียร ระบบนิเวศแตกแยก เป็นต้น ไดรเวอร์ อินเทอร์เฟซกำลังคำนวณ และไลบรารีการสื่อสารของผู้ผลิตแต่ละรายแตกต่างกัน ซึ่งเพิ่มความยากในการดีบักและบำรุงรักษา

แนวทางการแก้ไขของ Xuanwu CLI ไม่ใช่การให้บทเรียนสอนที่ละเอียดยิ่งขึ้น แต่เป็นการ ห่อหุ้มความซับซ้อนระดับล่าง ในระดับเฟรมเวิร์ก

มันทำให้ความแตกต่างของฮาร์ดแวร์เป็นนามธรรม และสร้างพูลทรัพยากรกำลังคำนวณที่เป็นเอกภาพขึ้นมา ไม่ว่าชั้นล่างจะใช้ชิปประเภทใด เฟรมเวิร์กก็สามารถระบุประเภทได้โดยอัตโนมัติ และจับคู่เอ็นจิ้นการอนุมานที่เหมาะสมที่สุดโดยอัตโนมัติตามขนาดโมเดลและสถานะหน่วยความจำกราฟิก เพื่อให้เกิดการจัดตารางงานอัจฉริยะแบบหลายการ์ดและหลายอินสแตนซ์

การจัดการแบบ “กล่องดำ” นี้ แก้ไขปัญหาทั่วไป เช่น การเริ่มต้นโมเดลล้มเหลว บริการไม่เสถียร ได้อย่างมีประสิทธิภาพ

ความสามารถนี้มาจากสถาปัตยกรรมระบบที่ออกแบบเป็นชั้น:

ชั้นบนสุดคืออินเทอร์เฟซบรรทัดคำสั่งและ API มาตรฐาน ชั้นกลางรับผิดชอบการจัดตารางงานโมเดล การจัดการทรัพยากร และการควบคุมวงจรชีวิต ความสามารถหลักกระจุกตัวอยู่ในชั้นเอ็นจิ้นการอนุมาน

ชั้นนี้ใช้ สถาปัตยกรรมหลายเอ็นจิ้นขนานกัน: ทั้งมีเอ็นจิ้นที่พัฒนาขึ้นเอง MLGuider ที่ได้รับการปรับให้เหมาะสมอย่างลึกซึ้ง รองรับ MindIE ดั้งเดิมของ Huawei และยังเข้ากันได้กับ vLLM มาตรฐานชุมชน พร้อมเสริมด้วยกลยุทธ์การแยกกระบวนการและการกำหนดเส้นทางอัตโนมัติ

การออกแบบนี้รับประกันว่าจะได้รับประสิทธิภาพที่ค่อนข้างดีบนชิปจีนและโมเดลที่แตกต่างกัน ทำให้นักพัฒนาสามารถปรับใช้ข้ามชิปได้โดยไม่ต้องสนใจรายละเอียดฮาร์ดแวร์ เมื่อรวมกับคุณสมบัติที่ใช้งานได้แบบออฟไลน์ Xuanwu CLI จึงเป็นโครงสร้างพื้นฐานสำคัญที่เติมเต็มให้กับสภาพแวดล้อมกำลังคำนวณจีน

เกี่ยวกับ Tsingmao AI

สุดท้ายนี้ ขอแนะนำ Tsingmao AI ที่อยู่เบื้องหลัง Xuanwu CLI

Tsingmao AI ก่อตั้งขึ้นในปี 2022 มุ่งเน้นหลักที่การปรับให้เข้ากับชิป และการปรับให้เหมาะสมร่วมกันของโมเดล เฟรมเวิร์ก และโอเปอเรเตอร์ ผู้ก่อตั้งและ CEO ของบริษัท Guan Chaoyu เป็นหนึ่งในผู้ได้รับรางวัลทุนการศึกษาพิเศษของมหาวิทยาลัย Tsinghua ที่อายุน้อยที่สุด

นับตั้งแต่ก่อตั้ง Tsingmao AI ได้รับการลงทุนเชิงกลยุทธ์จาก Huawei Hubble และการสนับสนุนระดับร้อยล้านหยวนจากกองทุนชั้นนำหลายแห่งในประเทศ

ในเส้นทางเทคโนโลยี Tsingmao AI มุ่งมั่นที่จะปรับให้เหมาะสมในระดับระบบแบบ end-to-end: โดยใช้เอ็นจิ้นการอนุมานเฮเทอโรจีนีตัสที่พัฒนาขึ้นเอง MLGuider เป็นพื้นฐาน ประสานการออกแบบฮาร์ดแวร์ไปทางล่าง สนับสนุนแพลตฟอร์มการคำนวณอัจฉริยะ Xuanwu และแพลตฟอร์มเอเจนต์ไปทางบน เพื่อให้เกิดการปรับให้เหมาะสมแบบเต็มสแต็กตั้งแต่ฮาร์ดแวร์ไปจนถึงเอเจนต์อัจฉริยะ

ในด้านการนำไปใช้ Tsingmao AI เคยเปิดตัวโซลูชันออล-อิน-วันจีนหลายรูปแบบ เพื่อให้ได้ผลผลิตสูงที่มีเสถียรภาพ ปัจจุบัน MLGuider ได้ปรับให้เข้ากับชิปหลักมากกว่า 15 รุ่นแล้ว เพื่อมอบตัวเลือกกำลังคำนวณจีนที่หลากหลายให้กับผู้ใช้ภายใต้เงื่อนไขที่ตรงตามข้อกำหนดด้านประสิทธิภาพ

ตัวอย่างเช่น สำหรับโมเดล Qwen 80B ผ่าน Xuanwu CLI สามารถรองรับโซลูชันที่มีราคาประหยัดสูงหลายแบบ เช่น Huawei Ascend 300I Duo, 300I A2 เป็นต้น

Xuanwu CLI ที่เปิดเป็นโอเพนซอร์สในครั้งนี้ สืบทอดแนวคิดของ Tsingmao AI ในการลดอุปสรรคการใช้เทคโนโลยีผ่านการสร้างร่วมกันแบบโอเพนซอร์ส โดยมีเป้าหมายเพื่อให้นักพัฒนาและองค์กรสามารถใช้กำลังคำนวณจีนและเครื่องมือ AI ในเครื่องที่มีประสิทธิภาพสูงด้วยต้นทุนที่ต่ำลง

เพื่อมุ่งสู่แนวโน้มการทำงานร่วมกันของหลายเอเจนต์และหลายโมดาลิตีในอนาคต Tsingmao ได้วางแผนล่วงหน้าแพลตฟอร์ม Agentic AI โดยมีเป้าหมายเพื่อสร้างรากฐานระดับล่างที่มั่นคงสำหรับยุคที่ “ทุกบริษัทมีพนักงานดิจิทัล N คน”

Clawdbot เป็นเพียงการปฏิบัติเบื้องต้นที่เบาและเรียบง่ายภายใต้วิสัยทัศน์นี้ คุณสามารถปรับใช้มันในเครื่องของคุณได้ตั้งแต่วันนี้ เพื่อให้คอมพิวเตอร์ส่วนบุคคลกลายเป็น “พนักงานดิจิทัล” และสัมผัสประสบการณ์เบื้องต้นของยุคเอเจนต์อัจฉริยะในอนาคตล่วงหน้า

ลิงก์ทดลองใช้:
* GitHub: https://github.com/TsingmaoAI/xw-cli
* GitCode: https://gitcode.com/tsingmao/xw-cli

ติดตาม “Whale Habitat” Mini Program เพื่อรับข่าวสาร AI ล่าสุด

⚠️ หมายเหตุ: เนื้อหาได้รับการแปลโดย AI และตรวจสอบโดยมนุษย์ หากมีข้อผิดพลาดโปรดแจ้ง