Các nhà nghiên cứu phát hiện ra những lỗ hổng trong các khuôn khổ học máy mã nguồn mở phổ biến
Các nhà nghiên cứu an ninh mạng đã tiết lộ nhiều lỗ hổng bảo mật ảnh hưởng đến các công cụ và khuôn khổ học máy (ML) nguồn mở như MLflow, H2O, PyTorch và MLeap, có thể mở đường cho việc thực thi mã.
Các lỗ hổng bảo mật được JFrog phát hiện là một phần trong danh sách 22 lỗ hổng bảo mật lớn hơn mà công ty bảo mật chuỗi cung ứng này lần đầu tiết lộ vào tháng trước.
Không giống như bộ đầu tiên liên quan đến các lỗi ở phía máy chủ, các bộ mới được trình bày chi tiết hơn cho phép khai thác các máy khách ML và nằm trong các thư viện xử lý các định dạng mô hình an toàn như Safetensors .
"Việc chiếm đoạt một máy khách ML trong một tổ chức có thể cho phép kẻ tấn công thực hiện chuyển động ngang rộng rãi trong tổ chức", công ty cho biết . "Một máy khách ML rất có thể có quyền truy cập vào các dịch vụ ML quan trọng như ML Model Registries hoặc MLOps Pipelines".
Điều này có thể làm lộ thông tin nhạy cảm như thông tin đăng ký mô hình, cho phép kẻ xấu xâm nhập vào các mô hình ML đã lưu trữ hoặc thực thi mã.
Danh sách các lỗ hổng được liệt kê dưới đây:
- CVE-2024-27132 (Điểm CVSS: 7.2) - Sự cố vệ sinh không đủ trong MLflow dẫn đến tấn công mã lệnh chéo trang (XSS) khi chạy công thức không đáng tin cậy trong Jupyter Notebook, cuối cùng dẫn đến thực thi mã từ xa phía máy khách (RCE)
- CVE-2024-6960 (Điểm CVSS: 7.5) - Sự cố hủy tuần tự hóa không an toàn trong H20 khi nhập mô hình ML không đáng tin cậy, có khả năng dẫn đến RCE
- Sự cố duyệt đường dẫn trong tính năng TorchScript của PyTorch có thể dẫn đến từ chối dịch vụ (DoS) hoặc thực thi mã do ghi đè tệp tùy ý, sau đó có thể được sử dụng để ghi đè lên các tệp hệ thống quan trọng hoặc tệp pickle hợp lệ (Không có mã định danh CVE)
- CVE-2023-5245 (Điểm CVSS: 7,5) - Sự cố duyệt đường dẫn trong MLeap khi tải mô hình đã lưu ở định dạng nén có thể dẫn đến lỗ hổng Zip Slip , dẫn đến ghi đè tệp tùy ý và khả năng thực thi mã
JFrog lưu ý rằng các mô hình ML không nên được tải một cách mù quáng ngay cả trong trường hợp chúng được tải từ một loại an toàn, chẳng hạn như Safetensor, vì chúng có khả năng thực thi mã tùy ý.
Shachar Menashe, Phó chủ tịch nghiên cứu bảo mật của JFrog, cho biết trong một tuyên bố: "Các công cụ AI và Học máy (ML) có tiềm năng đổi mới to lớn, nhưng cũng có thể mở đường cho kẻ tấn công gây ra thiệt hại lớn cho bất kỳ tổ chức nào".
"Để bảo vệ chống lại các mối đe dọa này, điều quan trọng là phải biết bạn đang sử dụng mô hình nào và không bao giờ tải các mô hình ML không đáng tin cậy ngay cả từ kho lưu trữ ML 'an toàn'. Làm như vậy có thể dẫn đến thực thi mã từ xa trong một số trường hợp, gây ra thiệt hại lớn cho tổ chức của bạn."></font></div>
</div>