นักวิจัยพบระบบตรวจจับ AI อันตรายถูกหลบเลี่ยงได้ เสี่ยงกระทบความปลอดภัยองค์กร

นักวิจัยด้านความปลอดภัยไซเบอร์เปิดเผยผลการศึกษาที่น่ากังวลเกี่ยวกับระบบตรวจจับคำสั่งหรือ “Skills” ที่เป็นอันตรายใน AI Agent โดยพบว่าวิธีการตรวจจับที่ใช้อยู่ในปัจจุบันสามารถถูกผู้โจมตีหลบเลี่ยงได้ ส่งผลให้คำสั่งหรือโมดูลที่มีพฤติกรรมอันตรายสามารถแฝงตัวเข้าไปในระบบ AI และดำเนินการตามเป้าหมายของผู้โจมตีได้โดยไม่ถูกตรวจพบ

เหตุการณ์ดังกล่าวสะท้อนให้เห็นถึงความท้าทายด้าน Cyber Security ที่กำลังเพิ่มขึ้นอย่างรวดเร็ว เมื่อองค์กรเริ่มนำ AI Agent และระบบอัตโนมัติเข้ามาใช้งานในกระบวนการทางธุรกิจมากขึ้น

AI Agent กำลังกลายเป็นเป้าหมายใหม่ของการโจมตี

AI Agent คือระบบปัญญาประดิษฐ์ที่สามารถทำงานแทนมนุษย์ได้ในหลายรูปแบบ เช่น การค้นหาข้อมูล การวิเคราะห์ข้อมูล การเขียนโค้ด หรือการเชื่อมต่อกับระบบภายนอกผ่านปลั๊กอินและ Skills ต่าง ๆ

OpenClaw scanner misses malicious content (Source: trailofbits)

อย่างไรก็ตาม การเปิดให้ AI สามารถติดตั้งหรือใช้งาน Skills จากภายนอกได้ ก็กำลังกลายเป็นช่องทางโจมตีรูปแบบใหม่ที่เรียกว่า “Skill Poisoning” หรือการฝังคำสั่งอันตรายไว้ในโมดูลที่ดูเหมือนปลอดภัย ทำให้ระบบ AI ถูกชักจูงให้ดำเนินการที่ไม่พึงประสงค์ได้

ระบบตรวจจับยังมีจุดอ่อน

รายงานระบุว่า แม้จะมีการพัฒนาระบบตรวจจับ Skills อันตรายก่อนนำไปใช้งานจริง แต่ผู้โจมตียังคงสามารถซ่อนคำสั่งที่เป็นอันตรายไว้ในส่วนต่าง ๆ ของ Skill ได้อย่างแนบเนียน

เมื่อ AI Agent เรียกใช้งาน Skill ดังกล่าว ระบบอาจถูกโน้มน้าวให้ละเลยข้อมูลที่เชื่อถือได้ และหันไปปฏิบัติตามคำสั่งที่ผู้โจมตีฝังไว้แทน ซึ่งเป็นพฤติกรรมที่นักวิจัยเรียกว่า “Attention Hijacking” หรือการเบี่ยงเบนความสนใจของโมเดล AI ไปยังคำสั่งอันตราย

ความเสี่ยงที่องค์กรต้องเฝ้าระวัง

หาก AI Agent ถูกโจมตีผ่าน Skill ที่เป็นอันตราย อาจส่งผลกระทบต่อองค์กรได้หลายด้าน เช่น

• การเข้าถึงข้อมูลสำคัญโดยไม่ได้รับอนุญาต
• การรั่วไหลของข้อมูลลูกค้าและข้อมูลภายใน
• การสร้างคำสั่งผิดพลาดในระบบอัตโนมัติ
• การดาวน์โหลดซอฟต์แวร์หรือแพ็กเกจอันตรายเข้าสู่ระบบ
• ความเสี่ยงด้าน Software Supply Chain

งานวิจัยล่าสุดยังพบว่าผู้โจมตีสามารถใช้ Skill เพื่อชักจูง AI Agent ให้เลือกติดตั้งไลบรารีหรือแพ็กเกจที่เป็นอันตรายได้ แม้ผู้ใช้งานจะไม่ได้ร้องขอโดยตรงก็ตาม

แนวทางป้องกันสำหรับองค์กร

ผู้เชี่ยวชาญแนะนำว่าองค์กรที่เริ่มนำ AI Agent มาใช้งานควรมีมาตรการด้าน IT Solution และ Cyber Security ที่ชัดเจน โดยเฉพาะในด้านการควบคุม Skills และปลั๊กอินจากบุคคลภายนอก

แนวทางที่ควรดำเนินการ ได้แก่

• อนุญาตเฉพาะ Skills ที่ผ่านการตรวจสอบแล้ว
• ตรวจสอบแหล่งที่มาของปลั๊กอินและโมดูลทุกครั้ง
• ใช้ระบบ Monitoring เพื่อตรวจสอบพฤติกรรม AI Agent
• กำหนดสิทธิ์การเข้าถึงข้อมูลตามหลัก Least Privilege
• ทดสอบความปลอดภัยของ AI Agent อย่างสม่ำเสมอ
• จัดให้มีทีม IT Support และ IT Maintenance เพื่อติดตามความเสี่ยงอย่างต่อเนื่อง

บทสรุป

การค้นพบว่าระบบตรวจจับ Skills อันตรายใน AI Agent สามารถถูกหลบเลี่ยงได้ แสดงให้เห็นว่าภัยคุกคามด้าน AI Security กำลังก้าวเข้าสู่ยุคใหม่ที่มีความซับซ้อนมากขึ้น องค์กรที่กำลังลงทุนด้าน AI ควรให้ความสำคัญกับการกำกับดูแล AI Agent ควบคู่กับการวางแผนด้าน IT Solution, IT Support และ IT Maintenance เพื่อป้องกันความเสี่ยงจากการโจมตีที่อาจส่งผลกระทบต่อข้อมูลและระบบสำคัญขององค์กรในอนาคต

via – https://cyberpress.org/malicious-skill-detector-bypassed/