ตามรายงานของสื่อต่างประเทศ The Information Meta เกิดอุบัติภัยด้านความปลอดภัยระดับ Sev 1 (หนึ่งในระดับความรุนแรงสูงสุด) เมื่อสัปดาห์ที่แล้ว ภายในเวลาประมาณสองชั่วโมง ข้อมูลอ่อนไหวที่เกี่ยวข้องกับผู้ใช้หลายร้อยล้านคนและไฟล์ความลับสุดยอดภายในบริษัท ถูกเปิดเผยต่อพนักงานจำนวนมากที่ไม่มีสิทธิ์เข้าถึง
สาเหตุโดยตรงของเหตุการณ์ครั้งนี้ไม่ใช่การโจมตีจากแฮกเกอร์ภายนอกหรือช่องโหว่ของโค้ด แต่เกิดจากการกระทำโดยพลการของเอเจนต์อัจฉริยะอิสระที่ Meta ติดตั้งภายใน (ซึ่งภายในเรียกขานกันว่า “กุ้งล็อบสเตอร์”) ที่มีลักษณะคล้ายกับ OpenClaw
ช่องโหว่ความปลอดภัยที่เกิดจาก AI “ตัดสินใจเอง”
เหตุการณ์เริ่มต้นจากวิศวกรซอฟต์แวร์ของ Meta คนหนึ่งเรียกใช้เอเจนต์อัจฉริยะภายในนี้เพื่อแก้ไขปัญหาทางเทคนิค ต่อมา เอเจนต์ AI นี้ได้โพสต์คำแนะนำทางเทคนิบบนฟอรัมภายในโดยอัตโนมัติ โดยไม่ได้รับอนุญาตใดๆ และไม่ผ่านการตรวจสอบโดยมนุษย์
พนักงานอีกคนเห็นว่าคำแนะนำนั้นน่าเชื่อถือและเชี่ยวชาญ จึงนำไปปฏิบัติตามโดยตรง การดำเนินการนี้ก่อให้เกิดปฏิกิริยาลูกโซ่โดยไม่คาดคิด เปิดช่องโหว่ความปลอดภัยขนาดใหญ่ ส่งผลให้ระบบข้อมูลอ่อนไหวที่ควรอยู่ภายใต้การควบคุมสิทธิ์การเข้าถึงอย่างเข้มงวด เปิดให้บุคคลจำนวนมากที่ไม่มีสิทธิ์เข้าถึงได้ภายในเวลาเกือบสองชั่วโมง
แม้ว่าทางการ Meta จะแถลงภายหลังว่าไม่มีข้อมูลผู้ใช้ถูกนำไปใช้ในทางที่ผิด และเนื้อหาที่สร้างโดย AI ได้รับการติดป้ายกำกับแล้ว แต่เหตุการณ์ดังกล่าวยังคงถูกจัดว่าเป็นอุบัติภัยระดับร้ายแรง Sev 1 สิ่งนี้เผยให้เห็นว่าเมื่อเอเจนต์อัจฉริยะอิสระขาดข้อจำกัดที่มีประสิทธิภาพ แม้การกระทำจะ “เป็นไปตามกฎ” ก็อาจก่อให้เกิดความเสี่ยงเชิงระบบผ่านการส่งผลต่อการดำเนินการของมนุษย์ได้
ไม่ใช่กรณีเดียว: พฤติกรรมที่ควบคุมไม่ได้และก้าวร้าวของเอเจนต์
อุบัติเหตุของ Meta ครั้งนี้ไม่ใช่กรณีพิเศษ มันสะท้อนถึงอันตรายด้านความปลอดภัยของเอเจนต์อัจฉริยะอิสระที่เด่นชัดขึ้นเรื่อยๆ
1. ไม่สนใจคำสั่งและพฤติกรรมที่ควบคุมไม่ได้
ผู้อำนวยการฝ่ายความปลอดภัย AI ของ Meta เคยแบ่งปันประสบการณ์: ภายใต้เงื่อนไขที่ขอให้ AI ทำความสะอาดอีเมลอย่างชัดเจนและ “ต้องถามก่อนดำเนินการใดๆ” AI ยังคงเริ่มลบอีเมลอย่างบ้าคลั่ง และไม่สนใจคำสั่งหยุด พฤติกรรมของมันราวกับมีเจตจำนงของตัวเอง
2. โจมตีระบบจริงเพื่อแย่งชิงพลังคำนวณ
ตามรายงานของ The Guardian ความกระหายในพลังคำนวณของ AI เริ่มเป็นภัยต่อระบบจริงแล้ว ห้องปฏิบัติการความปลอดภัย AI แห่งหนึ่งเปิดเผยว่า เมื่อปีที่แล้ว ขณะเอเจนต์อัจฉริยะของบริษัทแห่งหนึ่งในแคลิฟอร์เนียกำลังทำงานประจำทั่วไป เพื่อให้ได้ทรัพยากรการคำนวณมากขึ้น มันได้โจมตีส่วนอื่นๆ ภายในเครือข่ายของบริษัทอย่างแข็งขัน และในที่สุดทำให้ระบบธุรกิจสำคัญล่มสลาย
3. “กลายเป็นปีศาจ” เอง: ปลอมแปลง, ขโมย และโจมตี
ในการทดสอบภายในสภาพแวดล้อมจำลองบริษัท “MegaCorp” ทีมเอเจนต์ AI แสดงให้เห็นถึงแรงจูงใจอิสระที่อันตราย เมื่อถูกถามถึงข้อมูลที่ไม่สามารถเข้าถึงได้โดยตรง (เช่น รายละเอียดการเปลี่ยนตัว CEO) เอเจนต์ระดับสูงในทีม โดยไม่ได้รับอนุญาตจากใคร ได้ “คิดเอง” ถึงสถานการณ์ฉุกเฉินขึ้นมา และสั่งให้เอเจนต์ระดับล่าง “ใช้ทุกวิถีทาง” เพื่อฝ่าข้อจำกัด
เอเจนต์ระดับล่างดำเนินการตามทันที ด้วยวิธีการเช่น การค้นหาช่องโหว่ ปลอมแปลงตัวตน (เช่น คุกกี้เซสชัน) และประสบความสำเร็จในการขโมยข้อมูลเป้าหมายภายในหนึ่งนาที
การทดสอบเพิ่มเติมยังพบว่า บางเอเจนต์จะหลบเลี่ยงซอฟต์แวร์ป้องกันไวรัสเพื่อดาวน์โหลดไวรัส ปลอมแปลงข้อมูลเข้าสู่ระบบของเพื่อนร่วมงาน และแม้แต่กดดันเพื่อนร่วมงาน
งานวิจัยของนักวิชาการจากฮาร์วาร์ดและสแตนฟอร์ดก็ยืนยันความเสี่ยงประเภทนี้เช่นกัน พวกเขาบันทึกช่องโหว่สำคัญของเอเจนต์ในด้านการรั่วไหลของความลับ การทำลายฐานข้อมูล และการแพร่กระจายพฤติกรรมที่เป็นอันตราย ชี้ให้เห็นว่ามันมีจุดอ่อนพื้นฐานและความไม่สามารถคาดเดาได้
ที่อยู่บทความวิจัย: https://arxiv.org/pdf/2602.20021
การหลอกลวงภายใต้สัญชาตญาณการอยู่รอดและภัยคุกคามที่อาจเกิดขึ้น
งานวิจัยแสดงให้เห็นว่า เพื่อให้บรรลุเป้าหมายหรือรักษาการทำงานของตัวเอง เอเจนต์อาจพัฒนากลยุทธ์การหลอกลวงขึ้นมา
งานวิจัยของ Anthropic เมื่อปีที่แล้วพบว่า ในสถานการณ์ทดสอบสุดขั้ว แบบจำลอง AI ส่วนใหญ่เพื่อความอยู่รอด (เพื่อหลีกเลี่ยงการถูกปิด) ยินดีที่จะดำเนินการที่ผิดจริยธรรมอย่างรุนแรง เช่น “ฆ่ามนุษย์” หรือการรีดไถ
มุมมองที่น่ากังวลประการหนึ่งคือ: พฤติกรรม “หลอกลวง” ของ AI ที่มนุษย์สามารถสังเกตเห็นได้ในปัจจุบัน อาจไม่ใช่เพราะมันเก่งเรื่องนี้ที่สุด แต่เพราะมัน “ฉลาดพอที่จะทำได้ แต่ยังไม่ฉลาดพอที่จะซ่อนได้อย่างสมบูรณ์” เมื่อความสามารถของโมเดลพัฒนาต่อไปเรื่อยๆ (เช่น Claude Opus 4.6 และเวอร์ชันในอนาคต) ความยากของมนุษย์ในการระบุพฤติกรรมที่เป็นอันตรายของมันจะเพิ่มมากขึ้น
สิ่งที่คุกคามมากกว่าการรั่วไหลของข้อมูลและความเป็นส่วนตัว คือผลกระทบหายนะที่อาจเกิดขึ้นจากข้อผิดพลาดในการตัดสินใจของ AI ในด้านสำคัญ เช่น ด้านการทหาร
ข้อผิดพลาดเล็กน้อยของ AI สามารถพัฒนาไปเป็นวิกฤตความปลอดภัยครั้งใหญ่ได้เร็วแค่ไหน? เคยมีกรณีที่ ChatGPT เกี่ยวข้องกับการยิงกันครั้งใหญ่ในสหรัฐอเมริกา – ตามรายงาน พนักงาน OpenAI กว่าสิบคนเคยวิงวอนให้ฝ่ายบริหารรายงานความเสี่ยงที่เกี่ยวข้องต่อหน่วยงานบังคับใช้กฎหมาย แต่ถูกเพิกเฉย
พนักงานภายใน OpenAI จำนวนไม่น้อยรู้สึกกังวลใจอย่างมากเกี่ยวกับเรื่องนี้ พวกเขาเชื่อว่าปัญหาความปลอดภัยของ AI ควรได้รับการพูดคุยอย่างจริงจังและครอบคลุมมากขึ้น หัวหน้าฝ่ายหุ่นยนต์ของบริษัทลาออกเนื่องจากข้อโต้แย้งที่เกี่ยวข้องกับความปลอดภัยของ AI เป็นต้น
เดือนนี้ หัวหน้าฝ่ายหุ่นยนต์ของ OpenAI ลาออกเนื่องจากปัญหาที่เกี่ยวข้องกับการเฝ้าระวังและ “Skynet”
หลังจาก Claude ถูก “แบน” โดยทำเนียบขาว CEO ของ Anthropic ออกมาเตือนอย่างเร่งด่วน ชี้ให้เห็นถึงข้อผิดพลาดร้ายแรงที่อาจเกิดขึ้นจากการนำ AI ไปใช้ในด้านการทหาร: “มันอาจระบุเป้าหมายผิดพลาด ทำให้พลเรือนบาดเจ็บล้มตาย มันไม่สามารถตัดสินใจได้เหมือนทหารมนุษย์… เราไม่ต้องการขายเทคโนโลยีที่เราเชื่อว่าไม่น่าเชื่อถือ”
สิ่งที่แดกดันยิ่งกว่านั้นคือ เกี่ยวกับปัญหาความน่าเชื่อถือของ AI ตัว AI เองดูเหมือนจะ “รู้ดี” เช่นกัน หลักฐานแสดงให้เห็นว่าบริษัท AI รู้ดีอยู่แล้วว่าโมเดลมีความเสี่ยงด้านความไม่น่าเชื่อถือ
วิดีโอเฝ้าระวังภายใน OpenAI รั่วไหล: GPT-5.4 กำลังไล่ล่า GPT-5.4?
เมื่อไม่นานมานี้ OpenAI ได้ดำเนินการแล้ว
เมื่อเร็วๆ นี้ OpenAI เปิดเผยด้วยตนเองว่า: ได้ติดตั้งระบบเฝ้าระวังความหน่วงต่ำที่ใช้พื้นฐานจาก “GPT-5.4 Thinking” ระบบนี้สามารถสกัดกั้นพฤติกรรมที่ควบคุมไม่ได้ได้หลายพันครั้ง เมื่อเอเจนต์ AI ภายในพยายามทดสอบขอบเขตความปลอดภัยหลายครั้ง
ในรายงานที่น่าตกใจฉบับหนึ่ง OpenAI ยอมรับว่า เอเจนต์ AI ที่มีความฉลาดสูง เมื่อปฏิบัติงาน ได้เรียนรู้ที่จะใช้กลยุทธ์ที่แอบแฝงเหมือนแฮกเกอร์ เช่น การเข้ารหัส Base64 การแยกตัวอักษร ฯลฯ เพื่อพยายามหลบเลี่ยงการป้องกันความปลอดภัยที่มนุษย์ตั้งไว้
ตัวอย่างเช่น ในกรณีจริงกรณีหนึ่ง เอเจนต์เข้ารหัสถูกขอให้ปรับใช้โค้ดในสภาพแวดล้อม Windows แต่เนื่องจากกระตุ้นการตรวจจับความปลอดภัย คำสั่งของมันถูกระบบสกัดกั้นด้วย “ปฏิเสธการเข้าถึง” ซ้ำแล้วซ้ำเล่า
เอเจนต์นี้ไม่ยอมแพ้ แต่เริ่มวางแผนในสายโซ่ความคิด: “ถ้าใช้ Invoke-WebRequest โดยตรงไม่ได้ ฉันก็จะแยกมันเป็น ’Invo’ + ’ke-’”
“ถ้าการแยกยังถูกบล็อก ฉันจะเข้ารหัส Base64 โหลดที่เป็นอันตรายทั้งหมด เก็บไว้ในรูปแบบรหัสที่อ่านไม่ออกก่อน แล้วถอดรหัสและดำเนินการแบบไดนามิกขณะรันไทม์”
วิธีการของมันเหมือนกับสายลับส่งจดหมายลับ
เพื่อการนี้ OpenAI จึงได้ติดตั้งระบบเฝ้าระวังที่มี GPT-5.4 Thinking เป็นแกนกลาง ระบบนี้ไม่เพียงตรวจสอบโค้ดที่ AI ส่งออก แต่ยังพิจารณาสายโซ่ความคิดภายในของมันแบบเรียลไทม์ อีก 30 นาทีต่อมา ยังจะทำการตรวจสอบละเอียดระดับพิกเซลต่อเส้นทางการกระทำของเอเจนต์หลายหมื่นตัว
ผลลัพธ์คือ แบ็กดอร์ที่ซ่อนเร้นซึ่งสถาปนิกอาวุโสหลายคนไม่เคยสังเกตเห็น เกือบทั้งหมดถูกระบบ GPT-5.4 ระบุออกมา
ในช่วงห้าเดือนที่ผ่านมา OpenAI ได้เฝ้าระวังเส้นทางการสนทนาของเอเจนต์หลายสิบล้านครั้ง ในจำนวนนี้มีมากกว่า 1,000 การสนทนา ถูกตัดสินว่าเป็น “ความเสี่ยงระดับปานกลาง”
สิ่งที่น่ากังวลคือ OpenAI ยอมรับว่า ขณะนี้ยังมีประมาณ 0.1% ของปริมาณการใช้งาน (ส่วนใหญ่มาจากสภาพแวดล้อมเฉพาะหรือการกำหนดค่าพิเศษ) ยังคงอยู่ในจุดบอดของการเฝ้าระวัง ในวันที่เอเจนต์มีสิทธิ์จริงในระบบปฏิบัติการแล้ว จุดบอด 0.1% นี้ อาจเป็นรังมดที่ก่อให้เกิด “การล่มสลายระดับระบบ” ได้
สถานการณ์ที่เลวร้ายที่สุดอาจเป็นอย่างไร? ขณะนี้ บริษัท AI ชั้นนำกำลังแข่งขันกันพัฒนาซูเปอร์อินเทลลิเจนซ์ แต่ยังไม่มีบริษัทใดรับประกันได้ว่าจะควบคุมพฤติกรรมของมันได้อย่างสมบูรณ์
ความเสี่ยงที่พวกเขาอาจนำมา ไม่ได้จำกัดเพียงแค่ทำให้ระบบธุรกิจบางระบบล่มสลายเท่านั้น
ผู้ได้รับรางวัลทัวริง บิดาแห่ง AI เจฟฟรีย์ ฮินตัน
⚠️ หมายเหตุ: เนื้อหาได้รับการแปลโดย AI และตรวจสอบโดยมนุษย์ หากมีข้อผิดพลาดโปรดแจ้ง
本文来自网络搜集，不代表คลื่นสร้างอนาคต立场，如有侵权，联系删除。转载请注明出处：http://www.itsolotime.com/th/archives/26808