Certik เปิดตัว ‘แอนตี้ไวรัสสำหรับเอเจนต์ AI’ ท่ามกลางตลาดสกิลที่เผชิญภัยคุกคามแฝงที่มองไม่เห็น

ความท้าทายด้านความปลอดภัย

บริษัทด้านความปลอดภัยบล็อกเชนและ AI อย่าง Certik เมื่อวันที่ 27 พฤษภาคม ได้เปิดตัวแพลตฟอร์มความปลอดภัยใหม่ที่ออกแบบมาเพื่อประเมินความเสี่ยงในสกิลปัญญาประดิษฐ์ (AI) ของบุคคลที่สาม โดยใช้ชื่อว่า “แอนติไวรัสสำหรับเอเจนต์ AI” การเปิดตัวครั้งนี้เกิดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นในอุตสาหกรรมเกี่ยวกับความปลอดภัยของมาร์เก็ตเพลสสกิล AI

นักวิจัยด้านความปลอดภัยได้เตือนว่าสกิลจำนวนมากเหล่านี้ไม่ได้รับการตรวจสอบ สามารถดำเนินการในระดับระบบ และอาจมีพฤติกรรมอันตรายที่ซ่อนอยู่ ก่อให้เกิดความเสี่ยงใหม่ในห่วงโซ่อุปทานซอฟต์แวร์สำหรับยุค AI การตรวจสอบความปลอดภัย ทั่วทั้งภาคส่วน ได้ระบุความเสี่ยงตั้งแต่การขโมยข้อมูลรับรอง (credential harvesting) และการดึงข้อมูลออกไป (data exfiltration) ไปจนถึงการบิดเบือนการโอนเงินและการโจมตีแบบแทนที่คำสั่งผ่านพรอมป์ (prompt-based override attacks)

แม้จะมีความกังวลเหล่านี้ แต่มาร์เก็ตเพลสสกิล AI ได้ขยายตัวอย่างรวดเร็วตามการเติบโตของระบบนิเวศเอเจนต์ อย่างไรก็ตาม ต่างจากแอปสโตร์แบบดั้งเดิม สกิลส่วนใหญ่ถูกนำมาจากคลังสาธารณะโดยแทบไม่มีการตรวจสอบหรือไม่มีเลย นักวิเคราะห์ระบุว่าสิ่งนี้เปิดโอกาสให้ ผู้โจมตีฝังคำสั่งที่เป็นอันตราย กระตุ้นการเข้าถึงข้อมูลโดยไม่ได้รับอนุญาต หรือบิดเบือนโฟลว์การทำงานแบบอัตโนมัติ

ใน บล็อกโพสต์ ล่าสุด Certik ระบุว่าแพลตฟอร์มสแกนเนอร์สกิลของบริษัทถูกออกแบบมาโดยเฉพาะเพื่อประเมินความเสี่ยงที่เกิดขึ้นระหว่างการทำงาน (execution) รวมถึงสถานการณ์ที่เกี่ยวข้องกับธุรกรรมทางการเงินหรือการเรียกใช้เงินทุน (fund calls) สแกนเนอร์จะให้คะแนนเชิงตัวเลขตั้งแต่ 0 ถึง 100 พร้อมผลตัดสิน “ผ่าน” “เตือน” หรือ “ไม่ผ่าน” และผลการค้นพบที่จัดหมวดหมู่ ตามข้อมูลจากบริษัท ระบบสามารถทำความแม่นยำได้สูงสุดถึง 90.5% ในการระบุความเสี่ยงด้านความปลอดภัย

“เมื่อเอเจนต์ AI ถูกผสานเข้ากับระบบการเงิน เวิร์กโฟลว์ขององค์กร และการโต้ตอบดิจิทัลในชีวิตประจำวันมากขึ้น โมเดลความปลอดภัยรอบสกิลของบุคคลที่สามจึงมีความสำคัญอย่างยิ่ง” Ronghui Gu ซีอีโอและผู้ร่วมก่อตั้ง Certik กล่าว “CertiK Skill Scanner ถูกสร้างขึ้นเพื่อวางเลเยอร์ความไว้วางใจที่เป็นมาตรฐานก่อนการทำงาน ช่วยให้ผู้ใช้และแพลตฟอร์มระบุความเสี่ยงที่ซ่อนอยู่ก่อนที่ข้อมูลสำคัญ สินทรัพย์ หรือระบบจะถูกเปิดเผย”

Certik ระบุว่ามาร์เก็ตเพลสสกิล AI สามารถผสานรวมสแกนเนอร์เข้ากับกระบวนการเผยแพร่ (publishing pipelines) ได้โดยตรง ตรวจสอบสกิลโดยอัตโนมัติก่อนเปิดใช้งานจริง และแสดงผลตัดสินด้านความปลอดภัยให้ผู้ใช้เห็น องค์กรสามารถนำเครื่องมือนี้ไปใช้เป็นส่วนหนึ่งของเวิร์กโฟลว์ด้านการปฏิบัติตามข้อกำหนดภายในและการบริหารความเสี่ยง ขณะที่นักพัฒนาอิสระสามารถใช้เพื่อทำการตรวจสอบสกิลด้วยตนเองก่อนเผยแพร่

บริษัทยังระบุว่าอัปเดตในอนาคตจะทำให้ผู้ใช้ทั่วไปสามารถสแกนสกิลด้วยตนเองก่อนติดตั้งได้ สแกนเนอร์นี้ถูกนำไปใช้งานแล้วในสภาพแวดล้อมโครงสร้างพื้นฐานเอเจนต์ AI ของ Web3 บางแห่ง Certik ยังขยายการผสานรวมกับแพลตฟอร์มเพิ่มเติม รวมถึง Finchip.ai

“ความไว้วางใจเป็นเงื่อนไขตั้งต้นที่ทำให้เศรษฐกิจของสกิลใดๆ สามารถทำงานได้ในระดับขนาดใหญ่” Gary Yang นักลงทุนบ่มเพาะที่ Finchip.ai กล่าว “งานของ CertiK ในการยืนยันความปลอดภัยของสกิลคือสิ่งที่ระบบนิเวศนี้ต้องการอย่างแท้จริง นี่คือสิ่งที่ทำให้ภารกิจของ Finchip ในการเป็นเจ้าของและการกระจายสกิลที่ตั้งโปรแกรมได้คุ้มค่าที่จะสร้าง”

การเปิดตัวครั้งนี้เกิดขึ้นต่อเนื่องจากการขยายตัวของ Certik ไปสู่โครงสร้างพื้นฐานความปลอดภัยที่มุ่งเน้น AI เมื่อต้นปีนี้ บริษัทได้แนะนำโครงการ AI Auditor เพื่อรับมือกับความเสี่ยงที่เกี่ยวข้องกับระบบอัตโนมัติและสภาพแวดล้อมการทำงานที่ขับเคลื่อนด้วย AI

“แอปพลิเคชัน AI กำลังมุ่งไปสู่การทำงานแบบอัตโนมัติที่มากขึ้นเรื่อยๆ ซึ่งก่อให้เกิดหมวดหมู่ใหม่ของความท้าทายด้านความปลอดภัยและความไว้วางใจ” Gu กล่าว “เราเชื่อว่าโครงสร้างพื้นฐานด้านความปลอดภัยสำหรับยุค AI ต้องทำงานเชิงรุก ไม่ใช่เชิงรับ”