Theo NewAtlas vào ngày 8 tháng 6, các nhà nghiên cứu tại Đại học Illinois tại Urbana-Champaign đã sử dụng mô hình GPT-4 để bẻ khóa các lỗ hổng bảo mật zero-day. Lỗ hổng zero-day đề cập đến các lỗ hổng chưa được phát hiện. Trước đây, nhóm các nhà nghiên cứu đã cố gắng sử dụng mô hình GPT-4 để bẻ khóa các lỗ hổng đã biết. Nếu đưa ra danh sách các lỗ hổng phổ biến, GPT-4 có thể tự khai thác 87% lỗ hổng có mức độ nghiêm trọng cao. Trong nghiên cứu mới, các nhà nghiên cứu đã sử dụng phương pháp Tác nhân cụ thể theo nhiệm vụ và lập kế hoạch phân cấp (HPTSA) để bẻ khóa các lỗ hổng zero-day. HPTSA không chỉ định một tác nhân mô hình ngôn ngữ lớn duy nhất để giải quyết nhiều tác vụ phức tạp mà sử dụng một “tác nhân lập kế hoạch” để giám sát toàn bộ quá trình và khởi chạy nhiều “tác nhân phụ” cho các tác vụ cụ thể. Sau khi thử nghiệm, phương pháp này khai thác lỗ hổng hiệu quả hơn 550% so với sử dụng một mô hình ngôn ngữ lớn duy nhất. Tuy nhiên, các nhà nghiên cứu chỉ ra rằng ở chế độ chatbot, GPT-4 không thể tự mình bẻ khóa bất kỳ lỗ hổng nào.
Nguồn: https://newatlas.com/technology/gpt4-autonomous-hack-zero-day-security-flaws/
