Apple đàm phán với startup PrismML, tìm cách đưa AI tạo sinh hạng nặng lên iPhone

Apple đang trong quá trình đàm phán với PrismML, một startup công nghệ kín tiếng tách ra từ Viện Công nghệ California (Caltech), nhằm đưa các mô hình trí tuệ nhân tạo (AI) phức tạp vận hành hoàn toàn trên thiết bị và giảm sự phụ thuộc vào đám mây. Các cuộc thảo luận này, được *The Information* đưa tin đầu tiên, diễn ra sau một đột phá kỹ thuật lớn từ startup này.

Đột phá công nghệ nén mô hình AI

PrismML đã thành công trong việc nén mô hình mã nguồn mở Qwen 3.6 với 27 tỷ tham số của Alibaba để có thể chạy cục bộ trên một chiếc iPhone 17 Pro. Thông thường, việc đưa một mô hình tầm cỡ này lên smartphone đòi hỏi một "kiến trúc thưa", nghĩa là điện thoại chỉ kích hoạt một phần nhỏ của mô hình tại một thời điểm để tránh quá tải.

Tuy nhiên, công nghệ của PrismML đã thay đổi hoàn toàn cuộc chơi:

• Nén dữ liệu: Giảm kích thước mô hình từ 54 GB xuống dưới 4 GB.
• Hiệu suất: Giữ toàn bộ 27 tỷ tham số hoạt động đồng thời mà không làm suy giảm hiệu suất trên các bài kiểm tra tiêu chuẩn.
• Công nghệ lõi: Dựa trên kiến trúc trọng số 1-bit và tam phân siêu đậm đặc, giúp giảm dung lượng bộ nhớ chiếm dụng tới 14 lần và tăng tốc độ xử lý lên đến 8 lần.

Ý nghĩa chiến lược đối với Apple

Ad

Việc đưa AI xử lý trực tiếp trên thiết bị là một mục tiêu chiến lược quan trọng của Apple. Hướng đi này mang lại các lợi ích cốt lõi như bảo mật hoàn toàn quyền riêng tư của người dùng, tốc độ phản hồi gần như tức thì và khả năng hoạt động mà không cần kết nối mạng. Quan trọng hơn, nó giúp Apple tiết kiệm các khoản chi phí khổng lồ cho máy chủ đám mây.

Tại sự kiện WWDC gần đây, Apple đã giới thiệu kiến trúc Siri được cải tiến, nhưng nhiều tính năng nâng cao vẫn phải gửi dữ liệu đến các mô hình Gemini của Google trên đám mây để xử lý. Việc tích cực tìm kiếm các mục tiêu thâu tóm như PrismML cho thấy Apple đang quyết tâm chuyển các tác vụ AI nặng này trở lại thiết bị của người dùng.

Bối cảnh cạnh tranh thị trường

Trong khi các đối thủ như Meta, Microsoft và Amazon đang cam kết chi hàng trăm tỷ USD để xây dựng các trung tâm dữ liệu AI quy mô lớn, chiến lược của Apple lại hoàn toàn khác biệt. Bằng cách tập trung vào AI trên thiết bị, Apple có thể thực hiện một nước đi quyền lực, tiềm năng khiến các trung tâm dữ liệu trở nên không còn cần thiết đối với người dùng hàng ngày.