Certik ra mắt ‘Phần mềm diệt virus dành cho các tác nhân AI’ trong bối cảnh các nền tảng giao dịch kỹ năng phải đối mặt với những mối đe dọa tiềm ẩn

Thách thức về bảo mật

Công ty bảo mật blockchain và AI Certik, vào ngày 27 tháng 5, đã công bố một nền tảng bảo mật mới được thiết kế để đánh giá rủi ro trong các kỹ năng trí tuệ nhân tạo (AI) của bên thứ ba. Được mệnh danh là “chống vi-rút cho các tác nhân AI”, sản phẩm này ra mắt trong bối cảnh ngành công nghiệp ngày càng lo ngại về tính bảo mật của các thị trường kỹ năng AI.

Các nhà nghiên cứu bảo mật đã cảnh báo rằng nhiều kỹ năng này chưa được kiểm duyệt, có thể thực hiện các hành động cấp hệ thống và có thể chứa hành vi độc hại ẩn, tạo ra rủi ro mới trong chuỗi cung ứng phần mềm cho kỷ nguyên AI. Các cuộc kiểm toán bảo mật trong ngành đã xác định các rủi ro từ việc thu thập thông tin đăng nhập, rò rỉ dữ liệu đến thao túng chuyển khoản và các cuộc tấn công vượt qua lệnh dựa trên lời nhắc.

Bất chấp những lo ngại này, các thị trường kỹ năng AI đã mở rộng nhanh chóng khi hệ sinh thái các tác nhân AI ngày càng phát triển. Tuy nhiên, khác với các cửa hàng ứng dụng truyền thống, phần lớn các kỹ năng được lấy từ các kho lưu trữ công khai với ít hoặc không có sự kiểm duyệt. Các nhà phân tích cho rằng điều này tạo cơ hội cho kẻ tấn công nhúng các lệnh độc hại, kích hoạt truy cập dữ liệu trái phép hoặc thao túng luồng thực thi tự động.

Trong một bài đăng blog gần đây, Certik cho biết nền tảng quét kỹ năng của họ được thiết kế riêng để đánh giá các rủi ro phát sinh trong quá trình thực thi, bao gồm các tình huống liên quan đến giao dịch tài chính hoặc yêu cầu chuyển khoản. Công cụ quét này tạo ra một điểm số từ 0 đến 100, kèm theo các kết luận “đạt”, “cảnh báo” hoặc “thất bại” cùng các phát hiện được phân loại. Theo công ty, hệ thống đạt độ chính xác lên đến 90,5% trong việc xác định rủi ro bảo mật.

“Khi các tác nhân AI ngày càng được tích hợp sâu vào hệ thống tài chính, quy trình làm việc của doanh nghiệp và các tương tác kỹ thuật số hàng ngày, mô hình bảo mật xung quanh các kỹ năng của bên thứ ba trở nên cực kỳ quan trọng,” Ronghui Gu, CEO và đồng sáng lập Certik, cho biết. “CertiK Skill Scanner được xây dựng để thiết lập một lớp tin cậy tiêu chuẩn trước khi thực thi, giúp người dùng và nền tảng xác định các rủi ro tiềm ẩn trước khi dữ liệu, tài sản hoặc hệ thống nhạy cảm bị lộ.”

Certik cho biết các thị trường kỹ năng AI có thể tích hợp trình quét trực tiếp vào quy trình phát hành, tự động kiểm tra các kỹ năng trước khi chúng được triển khai và hiển thị kết quả đánh giá bảo mật cho người dùng. Các doanh nghiệp có thể triển khai công cụ này như một phần của quy trình tuân thủ và quản lý rủi ro nội bộ, trong khi các nhà phát triển độc lập có thể sử dụng nó để tự kiểm tra các kỹ năng trước khi phát hành.

Công ty cho biết các bản cập nhật trong tương lai sẽ cho phép người dùng thông thường tự quét các kỹ năng trước khi cài đặt. Công cụ quét này đã được triển khai trong một số môi trường hạ tầng đại lý AI Web3. Certik cũng đang mở rộng tích hợp với các nền tảng khác, bao gồm Finchip.ai.

“Niềm tin là điều kiện tiên quyết để bất kỳ nền kinh tế kỹ năng nào hoạt động trên quy mô lớn,” Gary Yang, nhà đầu tư ươm tạo tại Finchip.ai, cho biết. “Công việc của CertiK trong việc xác minh bảo mật kỹ năng chính xác là điều mà hệ sinh thái này cần. Đó là điều khiến sứ mệnh của Finchip về sở hữu và phân phối kỹ năng có thể lập trình trở nên đáng để xây dựng.”

Việc ra mắt này diễn ra sau khi Certik mở rộng sang lĩnh vực hạ tầng bảo mật tập trung vào AI. Đầu năm nay, công ty đã giới thiệu sáng kiến AI Auditor nhằm giải quyết các rủi ro liên quan đến hệ thống tự động và môi trường thực thi do AI điều khiển.

“Các ứng dụng AI đang chuyển hướng sang thực thi ngày càng tự động, điều này tạo ra một loại thách thức mới về bảo mật và niềm tin,” Gu cho biết. “Chúng tôi tin rằng hạ tầng bảo mật cho kỷ nguyên AI phải hoạt động chủ động, chứ không phải phản ứng.”