Hiện tại, trí tuệ nhân tạo và học máy có thể được áp dụng trong những quy trình và sản phẩm an ninh mạng nào? Liệu AI có thể nâng cao hiệu quả đẩy lùi các cuộc tấn công mạng và giảm thiểu tình trạng thiếu nhân sự?
- Giới thiệu
- Trí tuệ nhân tạo trong an ninh mạng
- Ứng dụng AI trong an ninh mạng
- Dự báo về sự phát triển của AI trong an ninh mạng
- Kết quả phát sóng
- kết luận
Giới thiệu
Trí tuệ nhân tạo (AI) đã thâm nhập không chỉ vào đời sống hàng ngày mà còn vào cả hoạt động kinh doanh và hiện đang dần được tích hợp vào hoạt động của những kẻ tấn công và cơ chế bảo mật thông tin. Do đó, mạng lưới thần kinh đóng vai trò quan trọng trong việc tăng cường bảo mật cho các mạch của công ty, tăng hiệu quả phát hiện và ngăn chặn các cuộc tấn công. Tuy nhiên, xã hội cũng nhìn thấy những rủi ro – từ việc giảm chất lượng nội dung đến việc thay thế con người ở một số ngành nghề. Mạng lưới thần kinh có thể được sử dụng trong những quy trình và sản phẩm an ninh mạng nào hiện nay, chúng sẽ tăng hiệu quả phát hiện và ứng phó với sự cố đến mức nào, điều này có làm giảm bớt tình trạng thiếu nhân viên hay ngược lại, dẫn đến thất nghiệp? Các chuyên gia hàng đầu về thị trường đã cố gắng tìm câu trả lời cho những câu hỏi này và những câu hỏi khác trong buổi phát sóng trực tiếp dự án AM Live.
Hình 1. Các chuyên gia trong ngành trong trường quay của dự án truyền hình AM Live
Diễn giả truyền hình trực tiếp:
- Lydia VitkovaGiám đốc Trung tâm Phân tích An ninh mạng, Gazinformservice;
- Alexey PeshikKỹ sư chuyên gia hàng đầu, Security Vision;
- Maxim BuzinovTrưởng phòng thí nghiệm nghiên cứu, Tập đoàn năng lượng mặt trời;
- Dmitry PudovGiám đốc Phát triển Chiến lược, NGR Softlab;
- Alina Sergeevachuyên gia bảo mật thông tin, Kaspersky Lab;
- Alexey DashkovGiám đốc Trung tâm Quản lý Sản phẩm, R-Vision;
- Alexander KlevtsovTrưởng bộ phận giám sát lưu lượng truy cập InfoWatch, Tập đoàn các công ty InfoWatch.
Người lãnh đạo và người điều hành cuộc thảo luận – Ilya ShabanovTổng Giám đốc AM Media.
Trí tuệ nhân tạo trong an ninh mạng
Điều gì đã thay đổi trong lĩnh vực AI trong hai năm qua
Maxim Buzinov:
— Theo nghị định mới đây của tổng thống về phát triển trí tuệ nhân tạo, AI — Đây là tập hợp các giải pháp công nghệ mô phỏng khả năng nhận thức của con người, có khả năng giải quyết các vấn đề cụ thể và thu được kết quả tương đương với kết quả hoạt động trí tuệ của con người.
Maxim Buzinov, trưởng phòng thí nghiệm nghiên cứu, Tập đoàn Năng lượng mặt trời
Maxim Buzinov lưu ý: Trong vài năm qua, các công nghệ gắn liền với mô hình ngôn ngữ lớn và học sâu đã tạo ra sự bùng nổ trên thị trường CNTT, do đó thế giới đang nói về những khả năng sáng tạo nhất định của AI. Nhưng nếu chúng ta quay trở lại lĩnh vực bảo mật thông tin, ở đây AI được nhìn nhận một cách thận trọng hơn, bởi vì trong ngành này cần phải có thái độ có trách nhiệm hơn đối với kết quả hoạt động của mình. Hơn nữa, dữ liệu để huấn luyện các mô hình này vẫn chưa đầy đủ. Vì vậy, chưa có sự bùng nổ AI trong lĩnh vực bảo mật thông tin.
Dmitry Pudov:
— Chúng tôi thực sự không có khả năng đào tạo AI trên một lượng nhỏ dữ liệu cho phép chúng tôi sử dụng kết quả đào tạo đó trong tương lai. Nhưng mạng lưới thần kinh đã có thể được sử dụng để xác định các kiểu tấn công mới.
Theo Alexey Dashkov, trong một thời gian dài, người ta không thể tạo ra những công nghệ như vậy vì không có đủ sức mạnh tính toán cần thiết. Các đám mây đã tạo ra một động lực khác: thế giới đã tích lũy đủ lượng dữ liệu để đào tạo mạng lưới thần kinh.
Alexey Dashkov, giám đốc trung tâm quản lý sản phẩm, R-Vision
Alexander Klevtsov lưu ý rằng AI có thể vượt qua con người về khối lượng và tốc độ xử lý dữ liệu, nhưng chưa ở chất lượng xử lý này. Do đó, AI yêu cầu phải kiểm tra lại kết quả nhưng chắc chắn nó sẽ giảm tải cho hệ điều hành và giảm chi phí nhân công.
Alexey Peshik lưu ý: Cho đến nay, chưa có ứng dụng sâu rộng nào về các mô hình như vậy trong ngành bảo mật thông tin, nhưng một số vấn đề nhất định sẽ được giải quyết với sự trợ giúp của chúng.
Sự cần thiết của trí tuệ nhân tạo
Theo Alina Sergeeva, trong lĩnh vực bảo mật thông tin cần phải sử dụng trí tuệ nhân tạo nhưng hầu hết các công ty vẫn chưa sẵn sàng để triển khai đầy đủ. Hiện tại, các công ty tin tưởng AI thực hiện các nhiệm vụ thông thường và theo nghĩa này, các công nghệ tương ứng vẫn chưa được sử dụng đủ sâu trong bảo mật thông tin. Chuyên gia tin rằng để tình hình thay đổi, cần phải đào tạo các Nhà khoa học dữ liệu và các chuyên gia khác về cách làm việc với trí tuệ nhân tạo.
Alina Sergeeva, chuyên gia bảo mật thông tin, Kaspersky Lab
Dmitry Pudov cho biết lý do chính để sử dụng AI là sự gia tăng lượng dữ liệu mà con người không thể xử lý được. Điều này đặc biệt quan trọng trong điều kiện thiếu nhân lực. Việc sử dụng AI đã bị ảnh hưởng bởi nhu cầu ngày càng tăng và sự trưởng thành của khách hàng. AI cũng có thể giải quyết những nhiệm vụ mà con người không thể thực hiện được, chẳng hạn như phân biệt một người bằng hành vi (tốc độ gõ phím, chuyển động của chuột, v.v.).
Theo khảo sát đối với người xem AM Live TV, 54% chưa sử dụng công nghệ AI nhưng đã xem xét chúng. 21% sử dụng chúng thường xuyên và 16% số người được hỏi kiểm tra chúng. 9% còn lại không sử dụng AI và không có kế hoạch làm điều đó.
Hình 2: Bạn có sử dụng các công cụ máy học và AI trong công việc hàng ngày của mình không?
Sử dụng trí tuệ nhân tạo trong tội phạm mạng
Alexey Dashkov lưu ý, tội phạm mạng cũng sử dụng AI để tự động hóa các hành động của chúng, chẳng hạn như lừa đảo và tạo các bản deepfake. Những kẻ tấn công đang cố gắng tự động hóa các hoạt động của chúng nhằm tăng hiệu quả của các cuộc tấn công và giảm chi phí.
Trí tuệ nhân tạo cho phép bạn tạo các email lừa đảo khó phân biệt với email thật. Những kẻ tấn công cũng sử dụng các mô hình ngôn ngữ lớn để viết mã và khai thác. Ví dụ: ChatGPT, phổ biến hiện nay, có thể đưa ra lời khuyên về việc thực hiện các cuộc tấn công mạng.
Ngày nay, các công cụ thu thập dữ liệu về người dùng (thông qua bot và mạng xã hội) đã phát triển và việc sử dụng chúng để đào tạo trí tuệ nhân tạo ngày càng mở rộng. Những kẻ tấn công cũng lợi dụng điều này.
Đồng thời, việc sử dụng AI cho đến nay đã làm tăng số lượng các cuộc tấn công nhưng không làm tăng chất lượng của chúng, Alina Sergeeva lưu ý.
Ứng dụng AI trong an ninh mạng
Nơi AI đã được sử dụng trong an ninh mạng
Dmitry Pudov:
— Hiện tại chúng tôi không có sản phẩm nào trên thị trường không sử dụng phương pháp học máy.
Dmitry Pudov, Giám đốc Phát triển Chiến lược, NGR Softlab
Alexander Klevtsov lưu ý: Hiện tại, khách hàng có quyền truy cập vào tự động điều tra, xác định các điểm bất thường và sai lệch trong hành vi của nhân viên, phân tích và phân tích dữ liệu phi văn bản, bao gồm nhận dạng giọng nói, phân tích hình ảnh và thị giác máy tính. Ví dụ, InfoWatch đã tạo ra một nền tảng dựa trên trí tuệ nhân tạo để tích hợp vào ứng dụng nhắn tin của công ty nhằm nhận dạng và ghi lại các cuộc gọi thoại.
AI được sử dụng tích cực trong các hệ thống chống lừa đảo, khi điều tra các cuộc tấn công phức tạp, tìm kiếm logo công ty và thông tin cạnh tranh. Trí tuệ nhân tạo cũng có thể giúp phân tích lượng lớn dữ liệu và xác định các mẫu không phải lúc nào cũng có thể được xác định bằng các quy tắc tương quan tiêu chuẩn. AI có thể được sử dụng để phát triển mã chương trình một cách an toàn cũng như phân tích và xác minh các lỗ hổng.
AI cũng được sử dụng để nâng cao hiệu quả hỗ trợ kỹ thuật, phân tích hành vi và tạo hồ sơ tấn công. Có thể sử dụng các mô hình ngôn ngữ lớn ở cấp nhân Linux để phân tích dữ liệu.
Ilya Shabanov, Tổng Giám đốc AM Media
Ilya Shabanov hỏi mạng lưới thần kinh hiện được sử dụng rộng rãi như thế nào để phản ứng trực tiếp với các mối đe dọa. Theo các chuyên gia có mặt tại studio, điều này về mặt kỹ thuật là có thể thực hiện được nhưng trách nhiệm của hãng là có tin tưởng vào quyết định của những người mẫu đó hay không.
Alina Sergeeva:
— Tôi nghĩ rằng ở giai đoạn phát triển trí tuệ nhân tạo hiện nay, việc đưa nó vào SOC vẫn đáng giá.
Đảm bảo an toàn cho các mô hình AI
AI được đào tạo trên hàng terabyte dữ liệu từ hầu hết khắp nơi trên thế giới. Nếu chúng ta nói về bảo mật thông tin, các tập dữ liệu được gắn nhãn sẽ được sử dụng. Trong trường hợp không có đánh dấu, nhà phát triển và chuyên gia bảo mật thông tin có thể không hiểu dữ liệu đầu ra mà trí tuệ nhân tạo được đào tạo cung cấp cho họ. Để giải quyết vấn đề này, cần phải đào tạo các chuyên gia để giải thích những dữ liệu đó, Lidia Vitkova lưu ý.
Đồng thời, Alexander Klevtsov tin rằng cần phải sử dụng các giải pháp như vậy từ lĩnh vực AI, lĩnh vực mà việc giải thích dữ liệu không yêu cầu con người phải được đào tạo đặc biệt.
Khuyến nghị sử dụng trí tuệ nhân tạo
Lidia Vitkova khuyên các khách hàng lớn nên chú ý đến việc tự động hóa quản lý doanh nghiệp bằng AI. Khách hàng vừa và nhỏ nên xem xét kỹ hơn các sản phẩm bằng cách sử dụng phân tích hành vi. Alexander Klevtsov lưu ý rằng việc làm cho hệ thống DLP của bạn hoạt động với tất cả dữ liệu đến cũng rất đáng giá.
Maxim Buzinov:
— Công nghệ này chắc chắn sẽ đạt được đà phát triển. Điều quan trọng là phải giới thiệu năng lực của Nhà khoa học dữ liệu vào công ty và quan tâm đến sự an toàn của các cơ chế đó.
Dmitry Pudov lưu ý, điều quan trọng là phải đầu tư thời gian và nguồn lực để phát triển năng lực trong lĩnh vực trí tuệ nhân tạo và bảo mật thông tin.
Việc sử dụng AI để tìm kiếm những điểm bất thường trong hành vi của nhân viên hoặc thiết bị được 27% người xem coi là hữu ích nhất. 23% mỗi người chọn các tùy chọn “để phân tích mã chương trình và lưu lượng truy cập mạng” và “để tự động ứng phó sự cố”. 12% lưu ý tầm quan trọng của việc sử dụng AI cho công việc của các nhà phân tích SOC, 11% – để tạo ra các tài liệu bảo mật “giấy”. 4% số người được hỏi còn lại trả lời “ở khu vực khác”.
Hình 3: Bạn sẽ được hưởng lợi nhiều nhất ở đâu khi sử dụng AI?
AI sẽ thay thế con người trong an ninh mạng?
Alexey Dashkov lưu ý rằng AI không đưa ra quyết định mà giúp đưa ra quyết định. Trong tương lai, có thể phân công lao động theo công thức sau: một người đưa ra các quyết định quan trọng, còn AI thực hiện công việc nặng nhọc và chuẩn bị báo cáo.
Theo đó, ở giai đoạn hiện tại không thể bỏ tuyến đầu tiên của SOC.
Lydia Vitkova:
— AI có thể giảm lượng thư rác bảo mật mà nhân viên tuyến đầu phải xử lý. Điều này sẽ cho phép nhân viên tập trung vào các nhiệm vụ phức tạp và quan trọng hơn.
Lidia Vitkova, người đứng đầu trung tâm phân tích an ninh mạng, Gazinformservice
Một số ngành nghề nhất định sẽ không biến mất do AI, chúng chỉ đơn giản là sẽ có các chức năng mới do mạng lưới thần kinh sẽ lấy đi phần lớn công việc tầm thường của con người. Điều này cũng sẽ cho phép các chuyên gia tập trung vào các hoạt động sáng tạo hơn. Các chuyên gia cho biết, trong tương lai gần, các ngành nghề sẽ không bị đe dọa mà chỉ đơn giản là chuyển đổi.
Diễn giả AM Live TV lưu ý trí tuệ nhân tạo có thể đảm nhận công việc thường ngày nhưng sẽ không thay thế được sự khéo léo, khéo léo của con người. Mạng nơ-ron có thể hữu ích cho việc tổng hợp dữ liệu, nhưng một lần nữa, nó sẽ không trở thành chuyên gia bảo mật phát triển.
Đồng thời, các chuyên gia cho rằng không thể sử dụng AI trong quá trình chủ động phát hiện hoạt động độc hại trên mạng máy tính (Threat Hunting). Ngoài ra, nhìn chung, mạng lưới thần kinh không phải lúc nào cũng cung cấp thông tin đáng tin cậy, vì vậy điều quan trọng là phải theo dõi và xác minh kết quả của chúng. Nhìn chung, bạn không nên nghĩ rằng AI có thể “lấy đi công việc” của các chuyên gia bảo mật thông tin.
Theo 26% người xem, AI sẽ có thể thay thế các nhà văn kỹ thuật, nhà ngôn ngữ học và nhà phương pháp luận. 24% cho rằng các chuyên gia hỗ trợ kỹ thuật là những người có khả năng thất nghiệp, 22% cho rằng các nhà phân tích SOC tuyến 1 và tuyến 2. 16% số người được hỏi tin rằng AI sẽ thay thế pentester và 9% trả lời “các chuyên gia phát triển an toàn”. Cuối cùng, 3% tin rằng mạng lưới thần kinh sẽ thay thế các chuyên gia săn lùng mối đe dọa và trí tuệ mạng.
Hình 4. AI sẽ thay thế ai đầu tiên trong an ninh mạng?
Dự báo về sự phát triển của AI trong an ninh mạng
Lydia Vitkova:
— Trong vài năm tới, AI sẽ được sử dụng để tự động hóa, tối ưu hóa và phân tích hành vi. Trong mười năm tới, có thể giới thiệu các sản phẩm có trí tuệ nhân tạo và các mô hình đào tạo xa hơn. Chúng ta không nên quên những cuộc tấn công có thể xảy ra vào trí tuệ nhân tạo.
Alexander Klevtsov:
— Không cần phải triển khai AI chỉ vì mục đích triển khai như vậy. Cần đặt ra các nhiệm vụ buộc công ty phải sử dụng trí tuệ nhân tạo. Trước hết, cần giải quyết các nhiệm vụ thực dụng, nâng cao hiệu quả và năng suất.
Alexander Klevtsov, Trưởng bộ phận Giám sát giao thông InfoWatch, Nhóm các công ty InfoWatch
Alexey Dashkov tin rằng dự kiến sẽ không có thay đổi toàn cầu nào trong việc sử dụng trí tuệ nhân tạo trong an ninh mạng trong vài năm tới. Các công ty sẽ tiếp tục phát triển các công nghệ này tại địa phương.
Dmitry Pudov tin rằng AI trước tiên sẽ được thử nghiệm trong lĩnh vực CNTT, sau đó sẽ ngày càng thâm nhập sâu hơn vào lĩnh vực bảo mật thông tin. Các công ty sẽ phải khắc phục các vấn đề về khả năng diễn giải và chất lượng dữ liệu.
Alexey Peshik kết luận rằng AI sẽ phát triển theo từng đợt. Chúng ta có thể mong đợi sự tăng trưởng mạnh mẽ về công nghệ và năng lực trong 5 năm tới.
Alexey Peshik, kỹ sư chuyên gia hàng đầu, Security Vision
Kết quả phát sóng
Theo kết quả khảo sát cuối cùng đối với người xem truyền hình, 35% số người được hỏi cho rằng việc sử dụng AI trong bảo mật thông tin là còn sớm. 32% sẵn sàng thử nghiệm và triển khai các giải pháp dựa trên AI và 22% bị thuyết phục về sự cần thiết của ứng dụng đó. 6% số người được hỏi không hiểu chủ đề cuộc trò chuyện, 5% cho rằng người nói không khiến họ hứng thú.
Hình 5. Bạn có ý kiến gì về việc sử dụng AI trong bảo mật thông tin sau buổi phát sóng?
kết luận
Ngày càng có nhiều dữ liệu trên thế giới, khối lượng dữ liệu vượt quá khả năng xử lý của một người bình thường. Với mục đích này, các khả năng của trí tuệ nhân tạo, vốn đã thâm nhập vào cuộc sống hàng ngày, sẽ được sử dụng. Tuy nhiên, việc sử dụng nó trong bảo mật thông tin vẫn chưa phổ biến. Thứ nhất, không có đủ dữ liệu để đào tạo mạng lưới thần kinh. Thứ hai, không có đủ chuyên gia có thể giải thích dữ liệu nhận được từ AI.
Đồng thời, các công ty bảo mật thông tin sử dụng rộng rãi các công nghệ này để tìm kiếm các điểm bất thường, đơn giản hóa việc ra quyết định, phân loại sự cố, v.v. Điều này không chỉ tiết kiệm tài nguyên mà còn cho phép nhân viên nâng cao kỹ năng và đảm nhận các nhiệm vụ có trách nhiệm và sáng tạo hơn. Điều đáng chú ý là AI không có khả năng thay thế một người mà nhằm mục đích hỗ trợ anh ta trong công việc.
Dự án truyền hình AM Live hàng tuần quy tụ các chuyên gia trong ngành trong trường quay để thảo luận về các chủ đề hiện tại trên thị trường CNTT và bảo mật thông tin của Nga. Luôn cập nhật các xu hướng và sự kiện quan trọng. Để thực hiện việc này, hãy đăng ký kênh của chúng tôi Kênh Youtube. Hẹn gặp lại!
