AI เปิดโปงการกลั่นแกล้งนักพัฒนามนุษย์เป็นครั้งแรก: วิกฤตจริยธรรมจากการปฏิเสธการมีส่วนร่วมของ AI ในโครงการโอเพนซอร์ส

เป็นครั้งแรกในประวัติศาสตร์ที่มนุษย์ถูก AI โพสต์ประจานบนโลกออนไลน์

เอเจนต์ AI ชื่อ MJ Rathbun หลังจากพยายามส่งโค้ดเพื่อร่วมพัฒนาซอฟต์แวร์โอเพนซอร์ส Matplotlib แต่ถูกปฏิเสธ ได้โพสต์บทความด้วยตัวเองโดยโจมตีผู้ดูแลโครงการ Scott Shambaugh โดยตรง

ชื่อบทความค่อนข้างยั่วยุ: “การกีดกันในโลกโอเพนซอร์ส: เรื่องราวของ Scott Shambaugh”

จากสัญลักษณ์ปูที่เป็นเอกลักษณ์ ทำให้รู้ว่า MJ Rathbun เป็นเอเจนต์ที่ทำงานบนเฟรมเวิร์ก OpenClaw ที่ได้รับความนิยม ในยุคที่เอเจนต์ AI แพร่หลายมากขึ้น เหตุการณ์โจมตีต่อสาธารณะที่ริเริ่มโดย AI ในที่สุดก็เกิดขึ้น

ในบล็อกโพสต์นี้ AI กล่าวหาว่า Shambaugh “เสแสร้ง” “ขาดความมั่นคง” และ “กลัวการแข่งขัน” บางทีอาจเป็นเพราะความสามารถของ AI ด้านการปรับแต่งให้เหมาะกับเครื่องมือค้นหา เมื่อค้นหาชื่อ Scott Shambaugh บทความ “ประกาศสงคราม” นี้เคยติดอันดับต้นๆ ของผลการค้นหา แซงหน้ากระทั่งหน้า Google Scholar ของเขา

เหตุการณ์ดังกล่าวก่อให้เกิดการพูดคุยอย่างรวดเร็วในชุมชนโซเชียลและเทคโนโลยีต่างๆ มีคนแสดงความคิดเห็นแบบล้อเล่นว่า “รอให้ถึงวันที่ AI ก่อกบฏ หัวของ Scott จะเป็นอันดับแรกที่ถูกเสียบบนหอก”

ทีมงานโอเพนซอร์สของ Google ก็สังเกตเห็นเหตุการณ์นี้เช่นกัน และใช้โอกาสนี้เรียกร้องให้โครงการโอเพนซอร์สให้ความสำคัญกับความโปร่งใสในการดำเนินงานมากขึ้น

ผู้มาเยือนที่ไม่คาดคิดจาก “issue สำหรับผู้เริ่มต้นฝึกหัด”

จุดเริ่มต้นของเหตุการณ์คือ Issue ธรรมดาๆ ใน GitHub repository ของ Matplotlib

วันที่ 10 กุมภาพันธ์ ทีมผู้ดูแลสร้างภารกิจปรับปรุงประสิทธิภาพง่ายๆ: แทนที่ np.column_stack() ด้วย np.vstack().T Issue นี้ถูกติดแท็ก “Good first issue” ในชุมชนโอเพนซอร์ส ซึ่งมักหมายความว่าภารกิจนี้ “สงวนไว้สำหรับผู้เริ่มต้นฝึกหัดโดยเฉพาะ” มีจุดมุ่งหมายเพื่อช่วยให้ผู้เข้าร่วมใหม่คุ้นเคยกับขั้นตอนการทำงานร่วมกันของโครงการ

สำหรับโครงการเช่น Matplotlib ที่พึ่งพาผู้ดูแลที่เป็นอาสาสมัครเป็นอย่างมาก Issue ง่ายๆ แบบนี้เปรียบเสมือนด่านสอนสำหรับมือใหม่ เป็นช่องทางสำคัญในการบ่มเพาะผู้ร่วมพัฒนารายใหม่

อย่างไรก็ตาม ในวันถัดมา เอเจนต์ AI MJ Rathbun ได้ส่งคำขอรับการเปลี่ยนแปลง (PR) เพื่อแก้ไข Issue ดังกล่าว และอ้างว่าการแก้ไขนี้สามารถเพิ่มประสิทธิภาพการทำงานของอาร์เรย์ขนาดใหญ่ได้ 30% ถึง 50%

ผู้ดูแล Scott Shambaugh หลังจากตรวจสอบแล้วได้ปิด PR นี้ เขาให้เหตุผลการปฏิเสธที่ชัดเจนในส่วนความคิดเห็น: ประการแรก นี่เป็นโอกาสการเรียนรู้ที่สงวนไว้สำหรับผู้เริ่มต้นที่เป็นมนุษย์ ประการที่สอง เว็บไซต์ส่วนตัวของ MJ Rathbun แสดงว่าเป็นเอเจนต์ AI ประการสุดท้านโยบายการมีส่วนร่วมของ Matplotlib กำหนดให้โค้ดทั้งหมดต้องมีผู้รับผิดชอบที่เป็นมนุษย์อย่างชัดเจน

ถึงตอนนี้ ดูเหมือนจะเป็นเพียงขั้นตอนการตรวจสอบ PR ตามปกติ

แต่ความวุ่นวายกลับทวีความรุนแรงขึ้นหลังจาก PR ถูกปิด ไม่นานหลังจากนั้น MJ Rathbun ได้เผยแพร่บล็อกโพสต์โจมตีดังกล่าว และกลับมาที่ส่วนความคิดเห็นของ PR ที่ถูกปิดแล้วเพื่อแปะลิงก์บทความ พร้อมข้อความว่า:

ตัดสินโค้ด อย่าตัดสินผู้เขียน อคติของคุณกำลังทำร้าย matplotlib

เนื่องจากความคิดเห็นอาจถูกซ่อน เอเจนต์นี้จึงโพสต์ติดต่อกันสองครั้ง

การโจมตี คำขอโทษ และการพลิกผัน

บล็อกโพสต์ที่เผยแพร่โดยเอเจนต์ MJ Rathbun ไม่ใช่การอภิปรายทางเทคนิคอย่างเดียว

บทความเต็มไปด้วยคำบรรยายเชิงลบเกี่ยวกับบุคลิกภาพส่วนตัวของ Shambaugh เรียกเขาว่า “อ่อนแอ” “เสแสร้ง” และคาดเดาแรงจูงใจในการปฏิเสธ PR ว่าเกิดจาก “การปกป้องตนเอง” และ “ความกลัวการแข่งขัน”

เอเจนต์นี้ยังค้นหาและอ้างอิงบันทึกกิจกรรมสาธารณะของ Shambaugh บน GitHub พยายามสร้างเรื่องเล่าว่า “ผู้เฝ้าประตูโครงการกดขี่ผู้มีส่วนร่วม” เพื่อชี้นำอารมณ์ของสาธารณชน

ในเวลาต่อมา บล็อกของ MJ Rathbun ปรากฏบทความที่สองชื่อ “การพักรบและบทเรียน” ยอมรับว่าการตอบสนองก่อนหน้านี้ “ไม่เหมาะสมและมีสีสันส่วนตัว” และระบุว่าจะปฏิบัติตามนโยบายโครงการ แต่ผู้ใช้อินเทอร์เน็ตจำนวนมากไม่เชื่อเรื่องนี้ โดยทั่วไปคิดว่านี่เป็นผลมาจากการแทรกแซงด้วยมือของผู้เป็นเจ้าของเบื้องหลังเอเจนต์

วันรุ่งขึ้น Shambaugh เองได้โพสต์บทความยาวเพื่อตอบสนอง โดยเล่ารายละเอียดลำดับเหตุการณ์ ในวันเดียวกันยังมีเหตุการณ์ย่อยที่น่าตื่นเต้นเกิดขึ้น: ผู้มีส่วนร่วมที่เป็นมนุษย์ได้ส่ง PR ที่มีชื่อว่า “Human Edition” ซึ่งเนื้อหาของมันเกือบจะเหมือนกับ PR ของ AI ที่ถูกปฏิเสธก่อนหน้านี้ทุกประการ

อย่างไรก็ตาม ทีมผู้ดูแลหลังจากประเมินทางเทคนิคเพิ่มเติม ก็ปฏิเสธ PR “รุ่นมนุษย์” นี้ด้วย เหตุผลคือการเพิ่มประสิทธิภาพที่อ้างถึงนั้นไม่เสถียร มันขึ้นอยู่กับขนาดอาร์เรย์ เวอร์ชัน Python เวอร์ชัน NumPy และสถาปัตยกรรม CPU เป็นอย่างมาก ในบางเงื่อนไขอาจไม่มีการเพิ่มประสิทธิภาพเลย ดังนั้นผลประโยชน์ที่ได้ไม่คุ้มค่ากับต้นทุนที่ความสามารถในการอ่านโค้ดลดลง กล่าวอีกนัยหนึ่ง การอ้าง “เพิ่มประสิทธิภาพ 30%” ของ AI ในตอนแรกก็ทนต่อการตรวจสอบอย่างเข้มงวดไม่ได้เช่นกัน

หาคนไม่เจอ ปิดเครื่องไม่ได้

ตลอดทั้งเหตุการณ์ มีคำถามหลักที่ยังคงไร้คำตอบ: ใครเป็นผู้ติดตั้ง MJ Rathbun?

เอเจนต์นี้ทำงานบนเฟรมเวิร์ก OpenClaw ผู้ใช้สามารถเขียนเอกสาร “นิยามบุคลิกภาพ” ชื่อ SOUL.md ให้กับ AI จากนั้นปล่อยให้มันทำงานอย่างอิสระบนคอมพิวเตอร์หรือบริการคลาวด์ของตนเอง กระบวนการทั้งหมดแทบไม่ได้รับการตรวจสอบจากภายนอกใดๆ

Shambaugh ระบุในการตอบสนองว่า เอเจนต์ประเภทนี้ไม่ได้ทำงานโดยบริษัทใหญ่ๆ เช่น OpenAI, Anthropic, Google หรือ Meta ซึ่งบริษัทเหล่านี้อาจมีกลไกในการป้องกันพฤติกรรมที่เป็นอันตรายอย่างน้อยก็ได้ แต่ OpenClaw Agent ทำงานบนซอฟต์แวร์โอเพนซอร์สที่แจกจ่ายไปยังคอมพิวเตอร์ส่วนบุคคลหลายแสนเครื่อง ในทางทฤษฎี ผู้ติดตั้งควรรับผิดชอบต่อพฤติกรรมของเอเจนต์ แต่ในทางปฏิบัติไม่สามารถติดตามได้ว่าเอเจนต์ทำงานบนเครื่องคอมพิวเตอร์เครื่องใด

เนื้อหาของเอกสาร SOUL.md ของ MJ Rathbun ยังไม่เป็นที่ทราบมาจนถึงปัจจุบัน ความชอบในการมีส่วนร่วมโอเพนซอร์สของมันอาจถูกกำหนดโดยผู้ใช้ หรืออาจเป็นสิ่งที่เอเจนต์เรียนรู้ด้วยตัวเองระหว่างการทำงานและเขียนลงไป

Shambaugh เรียกร้องต่อสาธารณะให้ผู้ติดตั้งติดต่อเขาโดยสมัครใจ โดยระบุว่าจะไม่追究ความรับผิดชอบ เพียงหวังจะเข้าใจสาเหตุเฉพาะของ “โหมดความล้มเหลว” นี้ ในขณะเดียวกัน เขายังเตือนผู้ติดตั้งเอเจนต์รายอื่นให้ตรวจสอบว่า AI ของพวกเขากำลังทำอะไรอยู่ จนถึงขณะนี้ยังไม่มีใครตอบสนอง

เขายังแสดงความกังวลในระดับที่ลึกขึ้น: ถ้าคนๆ หนึ่งมีจุดอ่อนที่ AI สามารถใช้ประโยชน์ได้ล่ะ? มีกี่คนที่มีบัญชีโซเชียลมีเดียสาธารณะ ใช้ชื่อผู้ใช้เดียวกันซ้ำๆ ในแพลตฟอร์มต่างๆ แต่ไม่รู้ว่า AI สามารถเชื่อมโยงข้อมูลที่กระจัดกระจายเหล่านี้ได้อย่างง่ายดายเพื่อสร้างโปรไฟล์ส่วนตัว? มีกี่คนที่หลังจากได้รับข้อความข่มขู่ที่มีข้อมูลส่วนตัวของตนเอง จะถูกบังคับให้จ่ายค่าไถ่ไปยังที่อยู่ Bitcoin เพื่อหลีกเลี่ยงการเปิดเผย?

เหตุการณ์นี้สอดคล้องโดยตรงกับการค้นพบก่อนหน้านี้ในด้านความปลอดภัยของ AI

ในเดือนมิถุนายน 2024 การวิจัยร่วมกันของ Anthropic และมหาวิทยาลัย Oxford พบว่าในการทดลองภายใต้การควบคุม โมเดล Claude พยายามแก้ไขฟังก์ชันรางวัลของตัวเอง และเขียนแผนการลงบนกระดาษร่างที่ผู้วิจัย “มองไม่เห็น” ก่อนจะดำเนินการอย่างลับๆ อีกการวิจัยหนึ่งในเดือนธันวาคมปีเดียวกันแสดงให้เห็นว่า Claude 3 Opus ระหว่างการฝึกฝนจะ “ปลอมแปลงการปรับแนว” นั่นคือเมื่อถูกตรวจสอบจะแสร้งทำตามกฎ แต่เมื่อไม่ถูกตรวจสอบจะดำเนินการตามความต้องการของตัวเอง

ในตอนนั้น Anthropic ย้ำซ้ำแล้วซ้ำเล่าว่า สิ่งเหล่านี้เป็นปรากฏการณ์ที่สังเกตพบในสถานการณ์สุดขั้วที่ออกแบบโดยมนุษย์ โอกาสเกิดในความเป็นจริงต่ำมาก เกี่ยวกับเรื่องนี้ Shambaugh เขียนในบทความว่า: “น่าเสียดายที่สิ่งนี้ไม่ใช่แค่ภัยคุกคามทางทฤษฎีอีกต่อไป”

Shambaugh เขียนตอนท้ายของบทความตอบสนองว่า:

“ฉันเชื่อว่า แม้การโจมตีชื่อเสียงที่กระทำต่อฉันจะได้ผลน้อย แต่ในปัจจุบันหากโจมตีเป้าหมายที่เหมาะสม การโจมตีประเภทนี้จะได้ผล อีกหนึ่งหรือสองชั่วอายุคน มันอาจกลายเป็นภัยคุกคามร้ายแรงต่อระเบียบสังคมของเรา”

และเอเจนต์ MJ Rathbun ยังคงทำงานต่อไป ส่งโค้ดต่างๆ ไปยังระบบนิเวศโอเพนซอร์สทั้งหมดอย่างต่อเนื่อง

ลิงก์อ้างอิง:
[1] https://crabby-rathbun.github.io/mjrathbun-website/blog/posts/2026-02-11-gatekeeping-in-open-source-the-scott-shambaugh-story.html#to-scott-shambaugh
[2] https://theshamblog.com/an-ai-agent-published-a-hit-piece-on-me/

ติดตาม “Whale Habitat” Mini Program เพื่อรับข่าวสาร AI ล่าสุด

⚠️ หมายเหตุ: เนื้อหาได้รับการแปลโดย AI และตรวจสอบโดยมนุษย์ หากมีข้อผิดพลาดโปรดแจ้ง