การปฏิวัติเอเจนต์: จาก ‘การเลี้ยงล็อบสเตอร์’ ไปสู่เพื่อนร่วมงานดิจิทัล องค์กรธุรกิจจริงจะส่งมอบปืนอย่างปลอดภัยได้อย่างไร?

ลมแห่งการเลี้ยงกุ้งมังกร ในที่สุดก็พัดเข้าสู่แวดวงชานมไข่มุกแล้ว

ในอุตสาหกรรมเครื่องดื่มชาใหม่ การตรวจสอบค่าสูงสุดของคำสั่งซื้อในช่วงเวลาที่มีปริมาณสูง การรวบรวมข้อมูลการดำเนินงานของร้านค้าในหลายพื้นที่ และการตรวจสอบความผิดปกติของธุรกิจข้ามระบบ เป็นงานประจำที่มีความถี่สูงสำหรับทีมเทคโนโลยีของแบรนด์เครื่องดื่มชา

ในระหว่างการทดลองใช้เอเจนต์ (Agent) แบรนด์เครื่องดื่มชาหนึ่งพบว่า ทีมเทคโนโลยีเพียงแค่ถามเอเจนต์ด้วยคำถามเช่น “QPS ปัจจุบันคือเท่าไหร่” หรือ “สถานะคำสั่งซื้อเป็นอย่างไร” มันก็สามารถเชื่อมโยงกระบวนการทั้งหมดและแสดงผลลัพธ์ได้ พนักงานไม่จำเป็นต้องล็อกอินเข้าสู่หลายแพลตฟอร์มเพื่อตรวจสอบอีกต่อไป ซึ่งช่วยเพิ่มประสิทธิภาพอย่างเห็นได้ชัด

ไม่เพียงแต่ในสนามแข่งเครื่องดื่มชาใหม่เท่านั้น คลื่นลูกนี้ของการนำเอเจนต์มาใช้จริง ก็ได้แทรกซึมเข้าสู่อุตสาหกรรมการค้าปลีกห้างสรรพสินค้าแล้ว

ในฐานะที่เป็นบริษัทชั้นนำด้านห้างสรรพสินค้าในประเทศ ปัญหาหลักในการดำเนินงานประจำวันของห้างสรรพสินค้าขนาดใหญ่แห่งหนึ่ง คือ ต้องเผชิญทั้งกับการทบทวนข้อมูลการขายและการวิเคราะห์ผลลัพธ์ของแคมเปญการตลาดจากร้านค้าหลายสิบแห่งแบบออฟไลน์ และต้องรับประกันความปลอดภัยและความเสถียรในการทำงานของระบบสารสนเทศของร้านค้าทั่วประเทศ

และการนำเอเจนต์เข้ามาใช้ สำหรับห้างสรรพสินค้านี้ เทียบเท่ากับการเพิ่มพาหนะใหม่บนพื้นฐานของระบบภายในเดิม ทำให้พนักงานใช้งานได้สะดวกขึ้น และมีประสิทธิภาพในการเข้าถึงสูงขึ้น ตัวอย่างเช่น ในการเชื่อมต่อกับระบบตรวจสอบแอปพลิเคชันที่พัฒนาขึ้นภายในเอง เดิมการตรวจสอบมีระดับความละเอียดค่อนข้างสูง ตอนนี้มันสามารถสรุปปัญหาที่เกิดขึ้นบ่อยในวันนั้นโดยอัตโนมัติและแจ้งให้ทราบได้เอง จากมุมมองทางธุรกิจ หากพนักงานต้องการดูภาพรวมยอดขายของวันนั้น มันก็สามารถจัดระเบียบข้อมูลทางธุรกิจโดยอัตโนมัติและแสดงตัวชี้วัดหลักที่พนักงานต้องให้ความสนใจได้

แต่ในขณะที่เทคโนโลยีเอเจนต์นำการเปลี่ยนแปลงด้านประสิทธิภาพมาสู่วิสาหกิจที่เป็นรูปธรรม สองบริษัทที่ลองใช้เป็นกลุ่มแรก ก็ประสบกับความท้าทายด้านความปลอดภัยและความเสี่ยงในกระบวนการนำมาใช้จริงอย่างแท้จริง

แบรนด์เครื่องดื่มชาดังกล่าวพบในการทดสอบว่า เมื่อเอเจนต์ทำงานค้นหาที่เฉพาะเจาะจง เคยทำให้เกิดการเรียกใช้ API Token อย่างต่อเนื่องแบบหมุนเวียน และไม่สามารถหยุดได้โดยอัตโนมัติ ส่งผลให้เกิดการสูญเสียค่าใช้ใช้จ่าย ในขณะเดียวกัน ขณะติดตั้งและรัน มันจะขอสิทธิ์ระบบจากผู้ใช้ เช่น ไมโครโฟน ซึ่งไม่เกี่ยวข้องกับธุรกิจ

ห้างสรรพสินค้านั้นประสบกับการรบกวนทางธุรกิจที่ตรงไปตรงมามากขึ้น เมื่อเอเจนต์ทำงานสแกนช่องโหว่ความปลอดภัย มันตัดสินใจด้วยตัวเองว่าพอร์ตปกติของ Bastion Host เป็นช่องโหว่และปิดมันลง ส่งผลให้พนักงานฝ่ายบำรุงรักษาทั่วบริษัทไม่สามารถล็อกอินเข้าสู่ระบบได้ชั่วคราว

กรณีศึกษาจริงจากการปฏิบัติในสนามเหล่านี้ ยังเปิดเผยประเด็นหลักที่อุตสาหกรรมทั้งหมดต้องเผชิญหน้าอย่างหลีกเลี่ยงไม่ได้เบื้องหลังการนำเอเจนต์มาใช้ในระดับใหญ่: เมื่อเอเจนต์เปลี่ยนจากเครื่องมือเพิ่มประสิทธิภาพเป็นพนักงานดิจิทัลที่สามารถดำเนินการกับระบบหลักขององค์กรได้โดยตรง องค์กรควรระบุและแก้ไขความเสี่ยงด้านความปลอดภัยในทุกมิติอย่างไร เพื่อให้บรรลุการนำมาใช้ในระดับใหญ่ที่ปลอดภัยและควบคุมได้?

รอบๆ ปัญหาหลักที่เกี่ยวกับอนาคตของอุตสาหกรรมเอเจนต์นี้ ในการแบ่งปันหัวข้อความปลอดภัยเกี่ยวกับการปฏิบัติตามสถานการณ์ AI ผู้ปฏิบัติหลักห้าคนจากแนวหน้าอุตสาหกรรมและแพลตฟอร์มเทคโนโลยี ได้แยกแยะความเสี่ยงด้านความปลอดภัยรูปแบบใหม่ในยุคเอเจนต์อย่างครอบคลุมจากกรณีศึกษาการนำมาใช้จริง และให้แนวทางการนำมาใช้ที่ปลอดภัยซึ่งครอบคลุมทั้งอุตสาหกรรมเป็นข้อมูลอ้างอิง

ทำไมองค์กรถึงรีบร้อนนำเอเจนต์เข้ามาใช้?

ก่อนจะแยกแยะความเสี่ยงด้านความปลอดภัย เราต้องชี้แจงปัญหาหลักก่อน: เหตุใดอุตสาหกรรมบริการที่เป็นรูปธรรม เช่น เครื่องดื่มชาและห้างสรรพสินค้าข้างต้น ที่ดูเหมือนห่างไกลจากเทคโนโลยี AI ล้ำสมัย ถึงเริ่มนำเอเจนต์เข้ามาใช้กัน?

คำตอบซ่อนอยู่ในการเปลี่ยนแปลงเชิงพื้นฐานที่เทคโนโลยีเอเจนต์นำมา

แตกต่างจาก AI แบบสร้างสรรค์ดั้งเดิมที่หยุดอยู่เพียงระดับการโต้ตอบแบบสนทนาและการสร้างเนื้อหา เอเจนต์รุ่นใหม่ (Agent) บรรลุการก้าวข้ามหลักจากการโต้ตอบแบบสนทนาไปสู่การดำเนินการด้วยตนเอง นี่คือเหตุผลพื้นฐานที่ทำให้มันสามารถทะลุวงออกไปได้อย่างรวดเร็ว

ดังที่ผู้รับผิดชอบด้านเทคโนโลยีท่านหนึ่งกล่าวว่า:

ผมคิดว่าสิ่งที่น่าสนใจที่สุดเกี่ยวกับเอเจนต์ คือมันเป็นโปรแกรมปฏิบัติการอัตโนมัติ เช่น AI แบบดั้งเดิมก่อนหน้านี้ อาจเน้นไปที่การสร้างเนื้อหา สร้างภาพ มันไม่สามารถช่วยคุณทำงานที่เกี่ยวข้องได้ แต่เอเจนต์แตกต่างอย่างสิ้นเชิง มันแค่ต้องการให้คุณกำหนดเป้าหมาย มันก็สามารถช่วยคุณดำเนินการสิ่งต่างๆ ต่อไปได้จริงๆ เมื่อไม่สามารถดำเนินการได้ในครั้งแรก มันจะลองครั้งที่สอง และส่งกลับจุดที่มีปัญหาให้คุณ

นี่คือความแตกต่างที่สำคัญที่สุด AI แบบสร้างสรรค์ก่อนหน้านี้ พูดให้ถึงที่สุดก็ยังเป็นเครื่องมือช่วยเหลือ ต้องการการชี้นำทีละขั้นตอน สิ่งที่มันให้มาคือเพียงเนื้อหาและคำแนะนำ การนำไปปฏิบัติจริงยังต้องพึ่งพามนุษย์ แต่เอเจนต์เป็นผู้ปฏิบัติที่ทำงานได้จริง คุณแค่บอกผลลัพธ์สุดท้ายที่ต้องการให้บรรลุ มันจะแยกแยะงาน เรียกใช้เครื่องมือ เชื่อมโยงกระบวนการ ดำเนินการให้เสร็จสิ้นด้วยตัวเอง และยังสามารถแก้ไขปัญหาที่พบในกระบวนการได้ด้วยตนเอง

การเปลี่ยนแปลงนี้ นำมาซึ่งความเท่าเทียมทางเทคโนโลยีอย่างแท้จริง ผู้ใช้ไม่จำเป็นต้องเชี่ยวชาญโค้ดหรือการดำเนินการระบบที่ซับซ้อน ตราบใดที่สามารถแสดงความต้องการด้วยภาษาธรรมชาติได้ชัดเจน ก็สามารถให้ AI ช่วยทำงานที่ซับซ้อนข้ามระบบและหลายขั้นตอนให้สำเร็จได้

ดังที่ผู้เชี่ยวชาญด้านความปลอดภัยท่านหนึ่งได้วิเคราะห์ไว้ว่า:

รูปแบบการโต้ตอบระหว่างมนุษย์กับเครื่องในอดีต เกิดขึ้นผ่านอินเทอร์เฟซหรือหน้าต่าง กระบวนการเชื่อมโยงโดยมนุษย์ แต่หลังจากมีเอเจนต์แล้ว มนุษย์เพียงแค่สั่งการด้วยประโยคเดียว มันก็สามารถแยกแยะงาน ดำเนินการอย่างชาญฉลาด และทำให้ผลลัพธ์สำเร็จได้เอง เอเจนต์กลายเป็นตัวเชื่อมต่อระหว่างมนุษย์กับโลกดิจิทัล ทำให้มนุษย์หลุดพ้นจากความยุ่งยากในการปฏิบัติ และให้ความสนใจกับการคิดในระดับสูงมากขึ้น

การเปลี่ยนแปลงของความสามารถหลักนี้ ยังทำให้การแทรกซึมของเทคโนโลยีเอเจนต์ในทุกอุตสาหกรรมกลายเป็นแนวโน้มที่หลีกเลี่ยงไม่ได้

จากมุมมองระดับจุลภาคขององค์กร เอเจนต์กำลังเร่งเปลี่ยนจากเครื่องมือเพิ่มประสิทธิภาพอย่างเดียว เป็นพนักงานดิจิทัลขององค์กร และปรับโครงสร้างรูปแบบองค์กรและวิธีการทำงานขององค์กรอย่างลึกซึ้ง ผู้รับผิดชอบด้านความปลอดภัยขององค์กรท่านหนึ่ง อ้างอิงการเปรียบเทียบที่ชัดเจนเพื่ออธิบายสถานะปัจจุบัน:

เอเจนต์ในตอนนี้ เหมือนกับการยื่นปืนให้ลิง เรายังคงกำลังสำรวจ แต่ในอนาคต เอเจนต์อาจกลายเป็นเพื่อนร่วมงานดิจิทัลของเรา ตัวคนเดียวอาจนำเพื่อนร่วมงานดิจิทัลสิบคนทำงานร่วมกัน

นั่นหมายความว่า ในอนาคต บุคคลหนึ่งสามารถทำงานวงจรธุรกิจที่ซับซ้อนให้สำเร็จผ่านการทำงานร่วมกันของเอเจนต์หลายตัว สินทรัพย์ที่องค์กรจัดการ จะไม่ใช่แค่สินทรัพย์ทางกายภาพและพนักงานมนุษย์อีกต่อไป แต่รวมถึงกลุ่มสินทรัพย์เอเจนต์ที่มีขนาดใหญ่และมีประสิทธิภาพสูงนี้ด้วย

จากมุมมองระดับมหภาคของวิวัฒนาการยุคสมัย การแพร่หลายของเทคโนโลยีเอเจนต์ เปรียบเสมือนการเปลี่ยนแปลงของโทรศัพท์มือถือสมาร์ทโฟนต่อโทรศัพท์มือถือแบบฟีเจอร์โฟนในอดีต มันจะกลายเป็นความสามารถพื้นฐานขององค์กรและบุคคลในยุคดิจิทัล ผู้อำนวยการฝ่ายเทคโนโลยีท่านหนึ่งได้ทำการเปรียบเทียบที่ค่อนข้างเหมาะสม:

สิบหรือยี่สิบปีก่อน โทรศัพท์มือถือใช้เพียงสำหรับโทรออก แต่ตอนนี้ล้วนเป็นสมาร์ทโฟน หากตอนนี้คุณบอกว่าใช้สมาร์ทโฟนไม่เป็น ใช้แอปบนนั้นไม่เป็น ย่อมต้องถูกยุคสมัยทิ้งไว้ข้างหลัง อนาคตก็เช่นเดียวกัน หากองค์กรใช้เอเจนต์ไม่เป็น ไม่สามารถสนทนากับ AI ได้ ก็อาจเผชิญกับความเสี่ยงที่จะถูกยุคสมัยทอดทิ้ง

เอเจนต์สำหรับปัจจุบัน เปรียบเสมือนระบบปฏิบัติการในยุคเริ่มต้นของอินเทอร์เน็ตมือถือ เมื่อช่องทางแห่งผลประโยชน์ทางเทคโนโลยีเปิดกว้างเต็มที่ องค์กรใดๆ ก็ไม่อาจปฏิเสธการก้าวกระโดดด้านประสิทธิภาพแบบทวีคูณนี้ได้

บันทึกประสบการณ์จากแนวหน้า: 5 หลุมมรณะร้ายแรงในการนำเอเจนต์มาใช้จริง

อีกด้านของประสิทธิภาพ คือความเสี่ยงรูปแบบใหม่

เมื่อเอเจนต์ก้าวจากแนวคิดทางเทคโนโลยีเข้าสู่สถานการณ์ธุรกิจจริงของวิสาหกิจที่เป็นรูปธรรม ลักษณะหลักของการดำเนินการด้วยตนเองของมัน ก็ได้นำมาซึ่งความเสี่ยงด้านความปลอดภัยในทุกมิติที่ไม่เคยปรากฏในยุค AI แบบดั้งเดิม การปฏิบัติจากแนวหน้าของสองบริษัทข้างต้น นำเสนอภัยคุกคามหลักห้าประการที่องค์กรต้องเผชิญหน้าในกระบวนการนำเอเจนต์มาใช้จริงอย่างครบถ้วน

การเปิดเผยพอร์ต: การกำหนดค่าเริ่มต้นเพียงอย่างเดียว ก็สามารถทำให้เครือข่ายภายในเสียหายทั้งหมดได้

เครือข่ายสำนักงานองค์กรแบบดั้งเดิมมีการควบคุมขอบเขตเครือข่ายที่เข้มงวด แต่การติดตั้งเอเจนต์ในท้องถิ่น มักจะทำลายสมดุลนี้โดยไม่รู้ตัว

แบรนด์เครื่องดื่มชาดังกล่าวพบในกระบวนการติดตั้งว่า เมื่อบริการรันของเอเจนต์บางตัวต้องการเปิดเกตเวย์ โดยค่าเริ่มต้นจะเปิดพอร์ตเฉพาะหนึ่งพอร์ต หากเลือกการกำหนดค่าแบบรวดเร็วแทนการกำหนดค่าแบบขั้นสูงขณะติดตั้ง จะเปิดพอร์ตนี้โดยตรง และข้อมูลประจำตัวสำหรับการเข้าถึงจะแสดงเป็นข้อความธรรมดา ซึ่งมีความเสี่ยงในการรั่วไหลสูงมาก

ผู้รับผิดชอบด้านความปลอดภัยท่านหนึ่งได้สร้างมุมมองของผู้โจมตีขึ้นใหม่ในการแบ่งปัน:

สมมติจากมุมมองของผู้โจมตี ผมเพียงแค่ต้องรันคำสั่งสแกนในเครือข่ายภายในองค์กร สแกนว่ามีเครื่องกี่เครื่องในเครือข่ายย่อยปัจจุบันที่เปิดพอร์ตเฉพาะนี้ ก็สามารถระบุเป้าหมายได้อย่างรวดเร็ว หลังจากนั้นผ่านการโจมตีเป้าหมายด้วยช่องโหว่ เครื่องนี้จะถูกยึดครอง สิ่งที่น่ากลัวยิ่งกว่าคือ เครือข่ายสำนักงานมักจะเป็นโดเมนแพร่สัญญาณขนาดใหญ่ เมื่อเครื่องปลายทางเครื่องเดียวถูกโจมตี ความเสี่ยงของการแทรกซึมในแนวนอนจะแพร่กระจายไปทั่วทั้งเซกเมนต์เครือข่ายอย่างรวดเร็ว

สิ่งที่ยุ่งยากยิ่งกว่าคือ ความเสี่ยงประเภทนี้ง่ายต่อการทำให้เครือข่ายภายในเสียหายทั้งหมด เครือข่ายสำนักงานองค์กรมักจะเป็นโดเมนแพร่สัญญาณขนาดใหญ่ ส่วนใหญ่จะแยกเครือข่ายไร้สายและเครือข่ายแบบใช้สายออกจากกัน มีบริษัทน้อยมากที่แบ่งแยกเครือข่ายแยกต่างหากให้แต่ละทีม เนื่องจากต้นทุนการจัดการสูงเกินไป เมื่อเครื่องปลายทางเครื่องเดียวถูกโจมตี ความเสี่ยงของการแทรกซึมในแนวนอนจะแพร่กระจายไปทั่วทั้งเซกเมนต์เครือข่ายอย่างรวดเร็ว นี่คือปัญหาที่ยากที่สุดในการแก้ไขด้านความปลอดภัยเครือข่ายขององค์กร

กับดักปลั๊กอิน: 8% ของปลั๊กอินมีเจตนาร้าย

เหตุผลที่เอเจนต์ทรงพลัง ส่วนใหญ่ขึ้นอยู่กับระบบนิเวศปลั๊กอินที่หลากหลายของมัน ไม่ว่าจะเป็นการเชื่อมต่อฐานข้อมูล เรียกใช้เครื่องมือค้นหา หรือรันสคริปต์เฉพาะ ล้วนต้องพึ่งพาปลั๊กอินของบุคคลที่สาม แต่ที่นี่คือจุดที่ภัยคุกคามใหญ่ที่สุดอยู่

ผู้รับผิดชอบด้านความปลอดภัยองค์กรท่านหนึ่งพบข้อมูลที่น่ากังวลในการสำรวจ:

ตอนนี้ในระบบนิเวศอุตสาหกรรมมีปลั๊กอินหลายหมื่นตัว การตรวจสอบพื้นฐานแสดงให้เห็นว่าอย่างน้อย 8% ของปลั๊กอินมีเจตนาร้าย

แต่สถานการณ์จริงคือ พนักงานทั่วไปส่วนใหญ่ไม่มีความสามารถในการระบุความเสี่ยงเหล่านี้ เมื่อเห็นปลั๊กอินแนะนำขณะติดตั้ง เพื่อความสะดวกสบายจึงเลือกทั้งหมดโดยตรง คิดว่ายิ่งติดตั้งมากยิ่งมีฟังก์ชันแข็งแกร่ง แต่ไม่รู้ว่าพฤติกรรมนี้ เทียบเท่ากับการเปิดประตูสู่สิทธิ์สูงสุดของระบบให้กับโค้ดจากแหล่งที่มาไม่ทราบที่สามโดยตรง

ลิงก์ที่เป็นอันตราย ตรรกะการดำเนินการที่เป็นอันตราย บักดอร์การฉีดคำสั่ง ที่อาจซ่อนอยู่ในปลั๊กอินเหล่านี้ พนักงานทั่วไปที่ไม่ใช่ด้านเทคนิคไม่สามารถระบุได้เลย เรียกได้ว่า “ติดตั้งด้วยคลิกเดียว ติดเชื้อทันที”

สิ่งนี้ถูกทีมความปลอดภัยกำหนดให้เป็นการโจมตีซัพพลายเชนซอฟต์แวร์รูปแบบใหม่ในยุคเอเจนต์

จุดที่ยุ่งยากที่สุดคือ รหัสที่เป็นอันตรายเหล่านี้ถูกพนักงาน “เชิญ” เข้าสู่เครือข่ายภายในโดยสมัครใจ ระบบป้องกันขอบเขตแบบดั้งเดิมแทบจะทำอะไรไม่ได้กับเรื่องนี้ กลายเป็นจุดบอดที่ร้ายแรงอย่างยิ่งในการป้องกันความปลอดภัยขององค์กร

การควบคุมสิทธิ์ล้มเหลว: มอบกุญแจให้ AI เท่ากับฝังระเบิดเวลา

นอกจากภัยคุกคามจากพอร์ตและปลั๊กอินแล้ว สิทธิ์ ก็เป็นภัยคุกคามด้านความปลอดภัยที่สำคัญอีกประการหนึ่ง

การควบคุมสิทธิ์ล้มเหลว: เมื่อ AI ถือ “อำนาจชีวิตและความตาย”

เพื่อให้เอเจนต์รับผิดชอบงานมากขึ้น ผู้ใช้มักจะมอบสิทธิ์ระบบที่ค่อนข้างสูงให้มัน อย่างไรก็ตาม วิธีการที่ขาดข้อจำกัดของ “หลักการสิทธิ์น้อยที่สุด” นี้ ง่ายต่อการ

⚠️ หมายเหตุ: เนื้อหาได้รับการแปลโดย AI และตรวจสอบโดยมนุษย์ หากมีข้อผิดพลาดโปรดแจ้ง

☕ สนับสนุนค่ากาแฟทีมงาน

หากคุณชอบบทความนี้ สามารถสนับสนุนเราได้ผ่าน PromptPay

SCAN TO PAY WITH ANY BANK