MLPerf Mobile

MLPerf Mobile là một công cụ đánh giá chuẩn miễn phí, mã nguồn mở được thiết kế để đo hiệu suất của các thiết bị di động như điện thoại thông minh và máy tính bảng trong nhiều tác vụ trí tuệ nhân tạo (AI) và học máy (ML). Các khối lượng công việc được thử nghiệm bao gồm phân loại hình ảnh, hiểu ngôn ngữ, nâng cấp độ phân giải siêu cao và tạo hình ảnh dựa trên lời nhắc văn bản. Đánh giá chuẩn này sử dụng khả năng tăng tốc AI phần cứng trên nhiều thiết bị di động mới nhất để đảm bảo hiệu suất tốt nhất có thể.

MLPerf Mobile được xây dựng và duy trì bởi nhóm làm việc MLPerf Mobile tại MLCommons®, một tập đoàn kỹ thuật AI/ML phi lợi nhuận gồm hơn 125 thành viên bao gồm các công ty trong ngành và học giả từ nhiều tổ chức khác nhau trên toàn cầu. MLCommons tạo ra các đánh giá chuẩn đẳng cấp thế giới để đào tạo và suy luận AI trên nhiều quy mô hệ thống, từ các cài đặt trung tâm dữ liệu lớn đến các thiết bị nhúng nhỏ.

Các tính năng của MLPerf Mobile bao gồm:

- Kiểm tra chuẩn trên nhiều miền khác nhau dựa trên các mô hình AI tiên tiến, bao gồm:

- Phân loại hình ảnh

- Phát hiện đối tượng

- Phân đoạn hình ảnh

- Hiểu ngôn ngữ

- Độ phân giải siêu cao

- Tạo hình ảnh từ lời nhắc văn bản

- Tăng tốc AI tùy chỉnh trên các thiết bị di động và SoC mới nhất.

- Hỗ trợ rộng rãi cho các thiết bị Android thông qua khả năng tăng tốc dự phòng của TensorFlow Lite.

- Chế độ kiểm tra được thiết kế riêng cho mọi người, từ người dùng thông thường muốn đánh giá hiệu suất nhanh đến các thành viên MLCommons có ý định gửi kết quả chính thức để công bố.

- Độ trễ làm mát có thể tùy chỉnh giữa các lần kiểm tra để tránh tình trạng giảm tốc do nhiệt và đảm bảo kết quả chính xác.

- Lưu trữ kết quả dựa trên đám mây tùy chọn để bạn có thể lưu và truy cập kết quả trước đó của mình từ nhiều thiết bị tại một nơi. (Tính năng này miễn phí nhưng yêu cầu phải đăng ký tài khoản.)

MLPerf Mobile thường được cập nhật nhiều lần mỗi năm với các bài kiểm tra mới và hỗ trợ tăng tốc khi các mô hình AI và khả năng phần cứng di động phát triển. Xin lưu ý rằng một số bài kiểm tra chuẩn có thể không được hỗ trợ và do đó có thể không hiển thị là có sẵn để kiểm tra trên các thiết bị cũ hơn.

Mã nguồn và tài liệu cho ứng dụng MLPerf Mobile có sẵn trên kho lưu trữ Github MLCommons. Để được hỗ trợ hoặc giải đáp thắc mắc của người dùng, vui lòng mở các vấn đề trong kho lưu trữ Github của ứng dụng:

github.com/mlcommons/mobile_app_open

Nếu bạn hoặc tổ chức của bạn quan tâm đến việc trở thành thành viên MLCommons, vui lòng liên hệ với [email protected] để biết thêm thông tin.