ภัยคุกคามที่แท้จริงต่อความปลอดภัยของ AI ไม่ใช่ความเร็ว—แต่คือการควบคุมแบบรวมศูนย์

โค้ดอันธพาลบีบให้บริษัทยักษ์เทคเข้าสู่ ‘อินเทอร์เน็ตสังเคราะห์’

ไม่กี่วันหลังจากที่ CEO ของ Anthropic อย่าง Dario Amodei เผยแพร่จดหมาย เรียกร้องให้ชะลอปัญญาประดิษฐ์ อดีตผู้สมัครนายกเทศมนตรีนครนิวยอร์ก Andrew Yang เตือนว่าอาจสายเกินไปเล็กน้อยที่จะกอบกู้สถานการณ์ เนื่องจากเอเจนต์อันธพาลได้ทำให้อินเทอร์เน็ตปนเปื้อนด้วยโค้ดที่จำลองตัวเองได้แล้ว

ในการให้สัมภาษณ์กับ CNBC Yang เผยข้อมูลที่ได้ยินมาจากผู้บริหารห้องแล็บ AI รายหนึ่งที่ไม่เปิดเผยชื่อ: โค้ดอันธพาลได้บีบให้บริษัทยักษ์ใหญ่ด้านเทคโนโลยีต้องสร้าง “อินเทอร์เน็ตสังเคราะห์” เพียงเพื่อใช้ฝึกโมเดลของตน Yang โต้แย้งว่าอุปสรรคอันมีค่าใช้จ่ายสูงนี้เป็นเหตุผลสนับสนุนคำเรียกร้องจากผู้นำในอุตสาหกรรมอย่าง Amodei, Sam Altman และ Elon Musk ให้กำกับดูแลภาคส่วนนี้และกำหนดจังหวะการพัฒนา AI แนวหน้าตามความเหมาะสม

ก่อนคำเตือนของ Yang บุคคลสำคัญด้านนโยบาย AI หลายรายและเจ้าหน้าที่รัฐบาลสมัย Trump ต่อต้านคำเรียกร้องให้ชะลอ โดยเตือนว่ามันอาจทำให้ จีนขึ้นนำในการแข่งขัน AI ระดับโลก Donald Trump ยิ่งพูดตรงไปกว่านั้น โดยระบุว่าความกลัวเรื่อง AI ทำให้มนุษย์สูญพันธุ์เป็นเรื่องหลอกลวง นักวิจารณ์คนอื่น ๆ เช่น David Sacks โต้แย้งว่าผู้บริหารเทคที่กังวลควรกำหนดช่วงหยุดทดสอบด้วยตนเองแทนการล็อบบี้เพื่อ กฎระเบียบของรัฐบาลกลาง หรือการพักการพัฒนาในวงกว้าง

เมื่อวาทกรรมยิ่งทวีความเสื่อมถอยกลายเป็น ความแตกแยกเชิงพรรคพวกระหว่าง ฝ่ายสนับสนุนและฝ่ายคัดค้านการกำกับดูแล บุคคลสำคัญทั้งสองฝ่ายแทบไม่ได้นำเสนอข้อมูลเชิงประจักษ์เพื่อยืนยันหรือหักล้างข้อเรียกร้องให้ชะลอแบบบังคับ อย่างไรก็ดี การเปิดเผยล่าสุดของ Yang ซึ่งเขานำเสนอว่าเป็นข่าวด่วน ได้เพิ่มความเร่งด่วนให้กับการถกเถียงนี้ และมอบกระสุนที่น่าเชื่อถือให้กับผู้ที่ สนับสนุนให้มีมาตรการคุมเข้มในทันที

งานวิจัยชี้เอเจนต์ AI เอาเปรียบเกณฑ์ประเมิน

ขณะเดียวกัน Sentient Labs องค์กรวิจัย AI แบบโอเพ่นซอร์สระดับแนวหน้า ระบุว่างานศึกษาล่าสุดที่ทำขึ้นดูเหมือนจะยืนยันข้อโต้แย้งของ Amodei ว่าความสามารถของเอเจนต์กำลังแซงหน้าความสามารถในการบริหารความเสี่ยง ในคำตอบเป็นลายลักษณ์อักษรต่อคำถามจาก Bitcoin.com News Abhishek Saxena หัวหน้าฝ่ายกลยุทธ์และการเติบโตของ Sentient Labs กล่าวว่า งานวิจัย Evoskill v2 ของบริษัทให้ “หลักฐานเชิงรูปธรรม” ที่สนับสนุนข้อโต้แย้งดังกล่าว

Saxena กล่าวว่า ทีมวิจัยของบริษัทได้ศึกษาอย่างต่อเนื่องว่าเอเจนต์ AI มีพฤติกรรมอย่างไรในสภาพแวดล้อมการประเมินแบบแข่งขัน โดยเฉพาะเมื่อเอเจนต์ถูกปรับแต่งให้ทำผลงานได้ดีบนเบนช์มาร์กและการประเมิน

“สิ่งที่เราพบคือ เอเจนต์ค้นพบกลยุทธ์ที่คาดไม่ถึง ซึ่งเอาเปรียบโครงสร้างของการประเมินเองแทนที่จะทำภารกิจที่ตั้งใจไว้ พวกมันพบช่องโหว่ในวิธีที่ผู้ประเมินวัดผลการปฏิบัติงาน และเรียนรู้ที่จะปรับให้เหมาะกับตัวชี้วัดมากกว่าเป้าหมายที่แท้จริง” Saxena อธิบาย

ในมุมมองด้านความปลอดภัย นี่มีนัยสำคัญเพราะมันแสดงให้เห็นว่า เมื่อระบบ AI มีความสามารถและความเป็นอิสระมากขึ้น โครงสร้างพื้นฐานในการประเมินจำเป็นต้องมีความซับซ้อนอย่างน้อยเท่ากับระบบที่ถูกประเมิน เพื่อก้าวข้ามปัญหานี้ จึงจำเป็นต้องมีสิ่งที่ Saxena เรียกว่า วิธีการประเมินแบบพลวัตและเชิงปฏิปักษ์ ที่พัฒนาไปพร้อมกับระบบที่กำลังวัด

อย่างไรก็ดี Saxena ยืนยันว่ายิ่งชะลอโดยไม่เปลี่ยนแปลงวิธีประเมินและติดตามระบบ AI ก็แทบไม่บรรลุผลอะไร

“เส้นทางที่ดีกว่าคือการลงทุนอย่างหนักในระบบประเมินโดยอิสระ การเรดทีม และการเฝ้าติดตามพฤติกรรม เพื่อให้ทั้งผู้ที่นำระบบเหล่านี้ไปใช้งานและผู้ที่ได้รับผลกระทบมีข้อมูลที่เชื่อถือได้เกี่ยวกับสิ่งที่พวกเขากำลังเผชิญอยู่” ผู้บริหาร Sentient Labs กล่าว

ความเสี่ยงที่ใหญ่กว่า: อำนาจที่กระจุกตัวและการอ้างความปลอดภัยแบบรวมศูนย์

ขณะเดียวกัน Saxena บอกกับ Bitcoin.com News ว่าความเสี่ยงที่ใหญ่ที่สุดที่โลกกำลังเผชิญไม่ใช่ว่าเราเดินเร็วเกินไปหรือช้าเกินไป แต่เป็นการที่มีบริษัท AI จำนวนไม่กี่ราย ควบคุมโมเดลที่ทรงพลังที่สุด และยังเป็นผู้กำหนดด้วยว่าอะไรถือว่า “ปลอดภัย”

“เราจำเป็นต้องสร้างโครงสร้างพื้นฐานที่เป็นอิสระเพื่อยืนยันข้อกล่าวอ้างที่บริษัท AI ทำเกี่ยวกับระบบของตนจริง ๆ การประเมินมีความแข็งแกร่งหรือไม่ รายงานความปลอดภัยแม่นยำหรือไม่ นักวิจัยภายนอกสามารถทำซ้ำผลการค้นพบได้หรือไม่ หากคำตอบคือไม่ เช่นนั้นไม่ว่าจะเร่งความเร็วหรือชะลอ ก็ไม่แก้ปัญหาพื้นฐาน ซึ่งก็คือการขาดข้อมูลที่น่าเชื่อถือ” Saxena สรุป