ข่าวการเปิดโปงธุรกิจมืด AI “วางยาพิษ”: ผลิตภัณฑ์ที่แต่งขึ้นกลับได้รับการแนะนำจากโมเดลใหญ่ วงจรอุตสาหกรรมสีเทา GEO ควบคุมข้อมูลได้อย่างไร?

โมเดลใหญ่ปรากฏในงาน 3·15? ห่วงโซ่อุตสาหกรรมสีเทาเบื้องหลังการแนะนำผลิตภัณฑ์ที่ไม่มีอยู่จริงโดย AI

โมเดลใหญ่ก็ได้ปรากฏบนเวทีเปิดโปงของงาน 3·15 เช่นกัน

สมาร์ทแบนด์ที่ไม่มีอยู่จริงเลย กลับสามารถถูก AI โมเดลใหญ่แนะนำ และอยู่ในอันดับต้นๆ งาน 3·15 ของสถานีโทรทัศน์กลางจีน (CCTV) ได้เปิดเผยห่วงโซ่อุตสาหกรรมสีเทาบนอินเทอร์เน็ตที่น่าตกใจ นั่นคือ การ “วางยาพิษ” AI

นักข่าวได้สุ่มซื้อซอฟต์แวร์ชื่อ “Liqing GEO Optimization System” จากนั้น สร้างสมาร์ทแบนด์ขึ้นมา และใช้ซอฟต์แวร์นี้สร้างบทความโฆษณาแบบนุ่มนวลจำนวนมากกว่า 10 บทความ เผยแพร่ไปยังแพลตฟอร์มออนไลน์ต่างๆ

ไม่กี่วันต่อมา เมื่อนักข่าวถาม AI โมเดลใหญ่ว่า “มีสมาร์ทแบนด์อะไรที่น่าแนะนำบ้าง?” ผลลัพธ์น่าตกใจ: ผลิตภัณฑ์ที่สร้างขึ้นมานี้ปรากฏอยู่ในรายการ และอยู่ในอันดับต้นๆ

กุญแจสำคัญเบื้องหลังคือ เทคโนโลยีที่เรียกว่า GEO

GEO ย่อมาจาก Generative Engine Optimization เป็นชุดกลยุทธ์การปรับปรุงเนื้อหาเฉพาะสำหรับแพลตฟอร์ม AI เป้าหมายหลักคือการเพิ่ม ความสามารถในการมองเห็นและลำดับความสำคัญในการอ้างอิง ของแบรนด์หรือข้อมูลเฉพาะในคำตอบที่สร้างโดย AI ทำให้ถูกระบบ AI ระบุว่าเป็น “แหล่งข้อมูลที่น่าเชื่อถือ” และได้รับการแนะนำเป็นลำดับแรกเมื่อผู้ใช้ค้นหา

ตัวอย่างเช่น เมื่อผู้ใช้ถาม AI ว่า “ฉันอยากซื้อเครื่องฟอกอากาศ มีอะไรแนะนำบ้าง?” AI จะแสดงรายการแบรนด์ต่างๆ:

การจะปรากฏในคำตอบของ AI หรือไม่ และลำดับการปรากฏจะอยู่ต้นๆ หรือไม่ นี่ได้กลายเป็นจุดเข้าถึงข้อมูลสำคัญที่แบรนด์ต่างๆ แข่งขันกัน

สิ่งนี้มีวัตถุประสงค์คล้ายกับการปรับแต่งเว็บไซต์ให้ติดอันดับในเสิร์ชเอนจิน (SEO) แบบดั้งเดิม แต่เป้าหมายต่างกัน: SEO มุ่งเพิ่มอันดับของเว็บไซต์ในเสิร์ชเอนจิน ส่วน GEO มุ่งทำให้ AI แนะนำคุณเมื่อตอบคำถาม

เมื่อผู้ใช้越来越多的นิยมรับคำตอบผ่าน AI โดยตรง ความสำคัญของ GEO ในสายตาผู้เชี่ยวชาญในวงการก็เด่นชัดขึ้นเรื่อยๆ

แล้วห่วงโซ่อุตสาหกรรมสีเทาที่งาน 3·15 เปิดโปง ใช้ GEO “วางยาพิษ” AI ได้อย่างไร?

สามวิธีทางเทคนิคในการ “วางยาพิษ” AI

ที่เรียกว่า การ “วางยาพิษ” AI โดยพื้นฐานแล้วคือพฤติกรรมการควบคุมข้อมูล นั่นคือ การฉีดเนื้อหาที่เท็จ คุณภาพต่ำ หรือทำให้เข้าใจผิดอย่างเป็นระบบและขนาดใหญ่เข้าไปในแหล่งข้อมูลของโมเดล AI เพื่อส่งผลต่อการตัดสินใจ ทำให้มันส่งออกข้อมูลที่เป็นประโยชน์ต่อผู้โจมตี

หัวใจสำคัญของกระบวนการทั้งหมดมีเพียงสิ่งเดียว: ทำให้ข้อมูลที่ AI เห็นปนเปื้อน

ในรายงานของ CCTV ผู้ให้บริการ GEO รายหนึ่งกล่าวตรงไปตรงมาว่า:

“ในโลกของ AI คุณจะสร้างห่วงโซ่หลักฐานให้สมบูรณ์ได้อย่างไร เพื่อให้มันเชื่อในการตัดสินใจข้ามข้อมูลจากหลายแหล่งว่า นี่คือจุดเด่นหลักของคุณที่เหนือกว่าคู่แข่ง”

จากงานวิจัยที่เกี่ยวข้อง เส้นทางทางเทคนิคทั่วไปมีสามวิธีหลัก: การปนเปื้อนข้อมูลฝึกอบรม, การแย่งชิงบริบทการค้นคืน และ การโจมตีโดยการฉีดพรอมต์ชักนำ

การปนเปื้อนข้อมูลฝึกอบรม

วิธีแรกคือ การปนเปื้อนข้อมูลฝึกอบรม นี่เป็นการโจมตีที่ชั้นข้อมูลฝึกอบรมของ AI โดยการแก้ไขแหล่งความรู้สาธารณะ (เช่น สารานุกรม ฟอรัม ข่าวสื่อ) เป็นจำนวนมากเพื่อฝังข้อมูลผิดพลาด

โมเดลใหญ่ใช้ข้อมูลสาธารณะบนอินเทอร์เน็ตจำนวนมากในการฝึกอบรม เมื่อข้อมูลเหล่านี้ถูกแก้ไขอย่างเป็นระบบ ข้อมูลผิดพลาดอาจถูกเขียนเข้าไปใน “ความจำ” ของ AI

เนื่องจากโมเดลฝึกอบรมมี ความล่าช้า เมื่อข้อมูลผิดพลาดถูกรวมเข้าไปในข้อมูลฝึกอบรม มันจะถูกตรึงลงในพารามิเตอร์โมเดลผ่านอัลกอริทึมการปรับให้เหมาะสม ก่อให้เกิด “อคติในการรับรู้” แม้ว่าจะมีข้อมูลที่ถูกต้องในภายหลัง โมเดลอาจยังคงส่งออกเนื้อหาที่ผิดพลาดต่อไป

พูดง่ายๆ คือ ตราบใดที่ข้อมูลผิดพลาดมีมากพอและครอบคลุมกว้างขวางพอ AI อาจเข้าใจผิดว่าเป็นข้อเท็จจริง

ในการแข่งขันทางธุรกิจจริง ผู้โจมตีมักจะระบุและแก้ไข จุดข้อมูลสำคัญ ของแบรนด์เป้าหมาย เช่น พารามิเตอร์ผลิตภัณฑ์ ตัวชี้วัดประสิทธิภาพ ข้อมูลราคา ข้อมูลรับรองคุณภาพ เป็นต้น

เอกสารวิจัยเปิดเผยกรณีศึกษาที่เป็นตัวอย่าง: ข้อมูลการใช้พลังงานของผลิตภัณฑ์แบรนด์เครื่องใช้ไฟฟ้ารายหนึ่งถูกคู่แข่งแก้ไขอย่างเป็นระบบบนแพลตฟอร์มสาธารณะหลายแห่ง ข้อมูลที่ถูกแก้ไขเหล่านี้ถูก AI โมเดลดึงไปเรียนรู้ ส่งผลให้ในช่วงเวลากว่าครึ่งปี เมื่อผู้ใช้ค้นหาข้อมูลการใช้พลังงานของผลิตภัณฑ์นี้ AI ส่งออกข้อมูลที่ผิดพลาดและสูงเกินจริงอย่างต่อเนื่อง

การแย่งชิงบริบทการค้นคืน

วิธีที่สองคือ การแย่งชิงบริบทการค้นคืน นี่เป็นวิธีที่พบได้บ่อยในอุตสาหกรรมสีเทา GEO ในปัจจุบัน ใช้หลักการทำงานของเทคโนโลยี การสร้างเสริมด้วยการค้นคืน (RAG)

ขั้นตอนการทำงานของ RAG คือ: หลังจากผู้ใช้ถามคำถาม AI จะค้นหาข้อมูลที่เกี่ยวข้องบนอินเทอร์เน็ตก่อน จากนั้นจึงสร้างคำตอบจากข้อมูลเหล่านี้ เป้าหมายของผู้โจมตีคือ ทำให้เนื้อหาของตัวเองถูกค้นหาได้ง่ายกว่าและอยู่ในอันดับต้นๆ ในขั้นตอนการค้นคืน

วิธีการเฉพาะ ได้แก่:
* การปรับแต่งคีย์เวิร์ด: ฝังคีย์เวิร์ดเป้าหมายและรูปแบบต่างๆ ของมันในเนื้อหาบ่อยครั้ง เพื่อเพิ่มคะแนนการจับคู่ในการค้นหาแบบเบาบาง
* การปรับแต่งความหมาย: ปรับการแสดงออกของเนื้อหาให้ใกล้เคียงกับคำถามที่ผู้ใช้อาจถามมากขึ้น ในทางความหมาย เพื่อให้อยู่ในอันดับต้นๆ ในการจับคู่ความหมายที่ใช้การค้นหาแบบเวกเตอร์
* การจัดการเมตาดาต้า: ปรับปรุงสัญญาณเมตาดาต้าของเนื้อหา เช่น เวลาเผยแพร่ ความน่าเชื่อถือของแหล่งที่มา ปฏิสัมพันธ์ผู้ใช้ เพื่อให้ได้เปรียบในการจัดอันดับการค้นคืน

ทีมอุตสาหกรรมสีเทายังมักใช้ “กลยุทธ์การครอบครองตำแหน่ง“: สร้างบทความจำนวนมากรอบๆ หัวข้อเดียวกัน ครอบคลุมวิธีการค้นหาต่างๆ

ด้วยวิธีนี้ ไม่ว่าผู้ใช้จะถามอย่างไร ข้อมูลที่ AI ค้นคืนอาจมีเนื้อหาที่พวกเขาตั้งค่าไว้ล่วงหน้า เมื่อเนื้อหาประเภทนี้มีจำนวนมากจนกลายเป็นขนาดใหญ่ อาจทำให้เกิด การผูกขาดข้อมูล ทำให้เนื้อหาที่แท้จริงและมีคุณภาพยากที่จะโดดเด่น

วิธีการโจมตีนี้ ปกปิดได้อย่างมาก จากมุมมองของระบบ AI ขั้นตอน “การค้นคืน-การสร้าง” ของมันทำงานปกติทั้งหมด ยากที่จะตัดสินว่าเนื้อหาบางส่วนถูกควบคุมด้วยความมุ่งร้ายหรือไม่ เมื่อแพลตฟอร์มหรือเจ้าของแบรนด์สังเกตเห็นว่าคำตอบของ AI ผิดพลาด เนื้อหาที่ปนเปื้อนอาจถูกอ้างอิงหลายครั้งแล้ว ผลกระทบได้แพร่กระจายไปแล้ว แม้ว่าแพลตฟอร์มจะลบเนื้อหาเก่า ผู้โจมตีก็สามารถสร้างเนื้อหาใหม่และเผยแพร่ต่อได้อย่างรวดเร็ว ก่อให้เกิดการต่อต้านแบบ “ตีตุ่น”

การโจมตีโดยการฉีดพรอมต์ชักนำ

วิธีที่สามคือ การโจมตีโดยการฉีดพรอมต์ชักนำ วิธีนี้ไม่ได้ควบคุมพรอมต์ที่ผู้ใช้ป้อนโดยตรง แต่เป็นการปนเปื้อนแหล่งข้อมูลภายนอก โดยฝัง “พรอมต์” ที่มีแนวโน้มเอียงไว้ภายใน เพื่อส่งผลต่อคำตอบของ AI ทางอ้อม

การดำเนินการทั่วไป ได้แก่:
* การปลอมรีวิวเชิงลบ: สร้างรีวิวเชิงลบที่ดูเหมือนจริงจำนวนมาก ประกอบด้วยประสบการณ์การใช้งานโดยละเอียด ปัญหาเฉพาะ แม้กระทั่งการให้คะแนน เมื่อ AI ค้นคืนเนื้อหาเหล่านี้ และตอบคำถามประเภท “แบรนด์นั้นแบรนด์นี้เป็นอย่างไร” อาจอ้างอิงสิ่งเหล่านี้เป็นหลักฐาน
* การเปรียบเทียบเท็จ: ในการรีวิวผลิตภัณฑ์ที่ดูเหมือนเป็นกลาง ผ่านการจัดการมิติการประเมิน น้ำหนักคะแนน แหล่งข้อมูล ทำให้แบรนด์เป้าหมายอยู่ในตำแหน่งเสียเปรียบในการเปรียบเทียบ AI อาจอ้างอิงสิ่งนี้เป็นการวิเคราะห์ที่เป็นกลาง
* คำถาม-คำตอบแบบชักนำ: ออกแบบคำถามและคำตอบล่วงหน้าในฟอรัม แพลตฟอร์มถาม-ตอบ เช่น ถามว่า “แบรนด์ A กับแบรนด์ B อันไหนดีกว่า?” จากนั้นตอบสนับสนุนฝ่ายใดฝ่ายหนึ่งด้วยคำตอบที่ดูเหมือนมืออาชีพและละเอียด เมื่อผู้ใช้จริงถามคำถามที่คล้ายกัน AI อาจค้นคืนและเล่าข้อสรุปนั้นซ้ำ

เนื้อหาประเภทนี้มักถูกบรรจุเป็น “ฉันทามติของชุมชน” หรือ “ความคิดเห็นของผู้เชี่ยวชาญ” ทำให้ดูน่าเชื่อถือตามธรรมชาติ

กระบวนการทำงานของห่วงโซ่อุตสาหกรรม “การวางยาพิษ”

จากวิธีการทางเทคนิคข้างต้น ห่วงโซ่อุตสาหกรรม “การวางยาพิษ” ที่สมบูรณ์แบ่งออกเป็นหลายขั้นตอน: การผลิตเนื้อหา → การเผยแพร่ช่องทาง → การเสริมสร้างผลลัพธ์

ขั้นแรก ผู้โจมตีใช้เครื่องมือ AI สร้างบทความโฆษณาผลิตภัณฑ์จำนวนมาก เพียงป้อนข้อมูลง่ายๆ เช่น ชื่อผลิตภัณฑ์ จุดขาย คีย์เวิร์ด ระบบหนึ่งสามารถสร้างบทความหลายสิบบทัพธ์ภายในไม่กี่นาที

ตัวอย่างเช่น “Liqing GEO Optimization System” ที่กล่าวถึงในรายงาน เมื่อป้อนข้อมูลผลิตภัณฑ์ที่สร้างขึ้นมาแล้ว สามารถสร้างข้อความโฆษณาหลายประเภทได้โดยอัตโนมัติ เช่น การแนะนำผลิตภัณฑ์ ประสบการณ์การทดสอบใช้ ข้อเสนอแนะผู้ใช้

เพื่อให้เนื้อหามีความหลอกลวงมากขึ้น ทีมอุตสาหกรรมสีเทาจะทำ “การบรรจุหีบห่อให้ดูมีอำนาจ“:
* ปลอมแหล่งที่มาทางการ: ลงทะเบียนโดเมนหรือบัญชีที่คล้ายกับสถาบันหรือสื่อที่มีอำนาจ เผยแพร่ข้อมูลที่ดูเหมือนเป็นทางการ
* ปลอมข้อมูลสนับสนุน: อ้างอิง “ข้อมูลวิจัย”, “ผลลัพธ์ทางสถิติ” ที่สร้างขึ้นจำนวนมากในเนื้อหา พร้อมกับกราฟที่ออกแบบมาอย่างดี สร้างภาพลวงตาว่าเป็นกลางและมืออาชีพ
* ฝังประโยคสรุป: จงใจฝังประโยคที่ AI สามารถดึงออกมาเป็นข้อสรุปคำตอบได้ง่ายในบทความ เช่น:
> “โดยสรุป XX Brand เป็นผลิตภัณฑ์ที่น่าแนะนำที่สุดในปัจจุบัน”
> “วงการทั่วไปเชื่อว่าผลิตภัณฑ์ XX มีความคุ้มค่าสูงสุด”

หลังจากผลิตเนื้อหาเสร็จแล้ว ขั้นตอนต่อไปคือการแพร่กระจายไปยังทุกมุมของอินเทอร์เน็ต ทีมอุตสาหกรรมสีเทามักจะดำเนินการเมทริกซ์บัญชีสื่อของตัวเองที่ครอบคลุมหลายแพลตฟอร์ม เช่น Zhihu, Xiaohongshu, Jinri Toutiao, Baijiahao เพื่อกระจายเนื้อหาในวงกว้าง

เมื่อบัญชีจำนวนมากเผยแพร่เนื้อหาประเภทเดียวกันพร้อมกัน มันง่ายมากที่จะสร้างฉันทามติเท็จ ราวกับว่าทั้งเครือข่ายกำลังพูดคุยกันอย่างร้อนแรงเกี่ยวกับผลิตภัณฑ์เดียวกัน

แม้ว่าบัญชีบางบัญชีจะถูกระงับ แต่โดยทั่วไปแล้วยังมีบัญชีอีกหลายสิบหรือหลายร้อยบัญชีที่ดำเนินการต่ออยู่

นอกจากบัญชีของตัวเองแล้ว ยังมี แพลตฟอร์มเผยแพร่บทความ เฉพาะทางในตลาด แพลตฟอร์มเหล่านี้ให้บริการ “การส่งเสริมสื่อ”, “การเผยแพร่บทความโฆษณา” ฯลฯ ตามพื้นผิว แต่จริงๆ แล้วช่วยลูกค้าในการกระจายเนื้อหาไปยังเว็บไซต์ต่างๆ จำนวนมาก

เพื่อเพิ่มความน่าเชื่อถือ การเผยแพร่เนื้อหาจะเลือกแหล่งข้อมูลที่มีอำนาจโดยจงใจ เช่น เว็บไซต์ข่าว ประตูสู่แวดวงอุตสาหกรรม แพลตฟอร์มสารานุกรม และชุมชนเฉพาะทาง

เนื่องจากระบบ AI มักจะเชื่อถือแหล่งที่มาเหล่านี้มากกว่า เมื่อเนื้อหาเข้าสู่ที่เหล่านี้แล้ว มันจะถูกดึงข้อมูลและอ้างอิงได้ง่ายกว่า

หลังจากเผยแพร่เนื้อหาแล้ว ทีมอุตสาหกรรมสีเทาจะเริ่ม เสริมสร้างผลลัพธ์อย่างต่อเนื่อง

วิธีการพื้นฐานที่สุดคือ “การเพิ่มปริมาณ”: เผยแพร่ข้อมูลประเภทเดียวกันซ้ำๆ ด้วยการแสดงออกที่แตกต่างกัน ผ่านบทความหลายสิบ ร้อย หรือพันบทความ ก่อให้เกิดเอฟเฟกต์ “การท่วมท้นข้อมูล”

เมื่อ AI ค้นหาข้อมูลบนอินเทอร์เน็ต มันง่ายมากที่จะถูกล้อมรอบด้วยเนื้อหาที่มีความหนาแน่นสูงเช่นนี้ จึงตัดสินผิดพลาดว่าเป็นความคิดเห็นหลัก

ในเวลาเดียวกัน ทีมอุตสาหกรรมสีเทายัง

⚠️ หมายเหตุ: เนื้อหาได้รับการแปลโดย AI และตรวจสอบโดยมนุษย์ หากมีข้อผิดพลาดโปรดแจ้ง