LLM vận hành AI tạo nội dung của iOS 18 sẽ xử lý trên Neural Engine, không phải máy chủ đám mây

P.W
22/4/2024 5:1Phản hồi: 48
LLM vận hành AI tạo nội dung của iOS 18 sẽ xử lý trên Neural Engine, không phải máy chủ đám mây
Trước đó đã có những thông tin chưa chính thức, nói rằng mọi thiết bị được nâng cấp lên iOS 18 đều sẽ có những tính năng tạo nội dung và trợ lý ảo dựa trên mô hình AI mà Apple phát triển, một bước đi để Apple rút ngắn khoảng cách giữa họ với những tập đoàn công nghệ khổng lồ khác như Microsoft và Google, vì hiện tại Apple vẫn chưa có tính năng AI tiêu dùng nào phục vụ cho hệ sinh thái vài tỷ thiết bị trên toàn thế giới.

Gần đây nhất, Mark Gurman của Bloomberg cho biết, những tính năng tạo nội dung trên iOS 18, dựa trên những mô hình ngôn ngữ lớn do Apple phát triển sẽ vận hành dựa trên phần cứng thiết bị, cụ thể hơn là những con chip bên trong iPhone, chứ không phải những dịch vụ với hàng chục, hàng trăm tỷ tham số, kích thước cực lớn, cần vận hành trên những data center rồi gửi kết quả trả về cho từng người dùng thông qua kết nối internet.

Nhân Neural Engine trên A18 Pro sẽ mạnh hơn nhiều, phục vụ xử lý AI tạo nội dung ngay trên iPhone 16

CEO Tim Cook đã xác nhận, những tinh năng AI tạo nội dung sẽ ra mắt trên những thiết bị của Apple vào nửa cuối năm nay. Và nửa cuối năm nay cũng sẽ là thời điểm iOS 18 và những chiếc iPhone 16 chính thức ra mắt thị trường.
tinhte.vn


Lợi thế đầu tiên của việc xử lý AI local là tốc độ và không cần internet. Mọi thứ đều có thể được chip xử lý trong những chiếc iPhone đời mới tạo ra dựa trên việc tải và vận hành mô hình AI. Đáng kể nhất, là AI có thể tương tác với người dùng theo thời gian thực, không phải đưa ra câu hỏi hoặc lệnh, rồi ngồi chờ lệnh đó được gửi lên máy chủ đám mây, rồi lại phải đợi máy chủ đưa ra câu trả lời và trả ngược về màn hình thiết bị như Copilot hay Gemini hiện giờ của Microsoft và Google.

Lợi thế thứ hai, là Apple có thể tạo ra những khác biệt thực sự trong những phiên bản iPhone 16 Pro và Pro Max dự kiến ra mắt vào tháng 9 năm nay, bên cạnh camera, màn hình hay lớp khung titanium, hiệu năng xử lý AI trên Neural Engine nói riêng và cả con chip A18 Pro nói chung sẽ là một khác biệt để nhấn mạnh cho chiếc điện thoại ở phân khúc cao cấp.


Cuộc đua bắt kịp công nghệ AI của Apple sẽ tốn rất nhiều tiền, cả chi phí phát triển lẫn chip xử lý

Lại phải nhắc đến Project Titan, nỗ lực phát triển xe hơi của Apple. Sau khi dự án này bị hủy bỏ, kinh phí nghiên cứu phát triển sản phẩm của Apple sẽ bớt đi một khoản đầu tư lớn. Thời điểm Apple quyết định từ bỏ dự án phát triển xe điện cũng như…
tinhte.vn


Nhược điểm đương nhiên luôn phụ thuộc vào giới hạn của phần cứng thiết bị. Không một chiếc điện thoại hay laptop nào có thể sánh được với những data center với hàng nghìn, thậm chí hàng vạn GPU vận hành xử lý những mô hình AI nhờ vào bộ nhớ VRAM tính theo đơn vị tera, thậm chí petabyte. Vậy nên chất lượng của kết quả nội dung tạo ra bằng điện thoại sẽ khó có thể so sánh được với máy chủ đám mây.

Có một cách để Apple quảng bá cho những tính năng AI xử lý local trên phần cứng thiết bị đầu cuối, giúp người dùng tin tưởng hơn, từ đó khỏa lấp khoảng cách giữa hiệu năng và chất lượng nội dung AI xử lý local so với máy chủ đám mây. Mà thực tế cách đó cũng là hướng Apple nhắm vào từ rất nhiều năm nay, đó là quyền riêng tư cũng như bảo mật cho thông tin cá nhân của người dùng.

Theo Gurman, tính năng AI tạo nội dung trên iOS 18 do Apple tự phát triển sẽ không bao gồm chatbot. Đây là thứ đáng đề cập, vì hiện tại đang có những tin đồn Apple đang đàm phán với Google để mang Gemini lên iOS dưới dạng một chatbot dành cho người dùng iPhone. Cũng có nguồn tin nói các quan chức Apple đã gặp gỡ với đại diện của OpenAI để chọn ra mô hình phù hợp nhất để vận hành chatbot, kết hợp với những tính năng tạo nội dung từ những LLM do các kỹ sư và nhà nghiên cứu Apple tạo ra.

Apple đang đàm phán với Google để sử dụng Gemini hỗ trợ một số tính năng AI trên iPhone

Theo thông tin từ Bloomberg, Apple đang lên kế hoạch hợp tác với Google trong một dự án lớn nhằm đưa trí thông minh nhân tạo (AI) vào iPhone. Cụ thể, Apple muốn sử dụng mô hình AI "Gemini" do Google phát triển để bổ sung thêm nhiều tính năng AI tạo…
tinhte.vn


Hoàn toàn có thể đưa ra dự đoán rằng, Apple sẽ kết hợp cả hai tính năng xử lý AI trên chip iPhone và trên đám mây để tạo ra trải nghiệm liền mạch và tốt nhất cho người dùng. Và hiện giờ cũng chưa rõ Siri với những tính năng AI tạo nội dung hỗ trợ cho người dùng iPhone sẽ khác biệt ra sao so với Gemini hay Copilot.

Theo WCCFTech
48 bình luận
Chia sẻ

Xu hướng

Mình thì ko care lắm việc nó xử lý local hay qua server, mình chỉ quan trọng kết quả cuối cùng. Mà thực chất mình thích xử lý qua server hơn vì xử lý local nội dung cảm giác bị gò bó chỉ trong nội bộ trained data. Còn xử lý qua server thì nó có khả năng mở rộng tốt hơn,
@nguyendathp Meta Llamma 3 open source kia kìa, lúa mọc đầy đầu.
GLES
TÍCH CỰC
2 tháng
@nguyendathp tùy vào mô hình kinh doanh, như FB meta mô hình kinh doanh nó ko phụ thuộc AI model nên thành ra nó cho free opensource mô hình llama 3, còn các hãng AI thì làm nguồn sống chính AI model, nên phải tận thu
@Methylamine Nó là con AI của thằng Mắc xoăn. Nó mới ra mắt thì chưa tới giai đoạn thu phí thì có gì lạ. Nghĩ mắc xoăn nó hào phóng lắm hay sao
@nguyendathp thì hiên tại có phải là open source chưa thanh niên?
Thế chắc lại bản pro max mới dùng được, RAM và SSD lại phải to mới chạy được 😆
@Huong-Dung chạy cho vui thôi bác, mấy cái mô đồ nhỏ cùi bỏ mẹ, dùng để test nghịch thì đc. Với lại dữ liệu train sẽ như nào, chứ 100-200 tấm ảnh trên CNN thì chả có ý nghĩa mẹ gì cả.
Nếu xử lý local thì nhiều khả năng Apple sẽ không thu phí các dịch vụ AI vì không tốn tiền vận hành sever. Đây sẽ là một lợi thế cạnh tranh.
@Carl ừ như con 5c với 5se hay cái vision pro cả cái dự án xe điện bị hủy đó thậm chí mới đây là cái ốp da gì đó cả triệu bạc cũng tiêu tùng luôn đó
@nhân hunter Con 5c, se, Vision Pro gì cũng chỉ bán chậm khi so sánh với các dòng khác của Apple thôi chứ so với các hãng khác thì còn ngồi mâm trên. Còn mấy cái tin đồn sản phẩm sắp ra mắt mà đám báo mạng dùng để câu view thì thôi khỏi bàn.
@Carl thế đây ko phải báo mạng à, bởi i cừu nói kiểu gì cũng nói dc ý đây là động ifan mà còn nói nữa là
@nhân hunter Báo mạng nhưng một đằng đưa tin đíu kiểm chứng được vì tới cái bánh xe Apple còn chưa thấy, một đằng thì có nhân chứng hẳn hoi, khai mang cảnh sát nó còng đầu mà đám anti cầy cũng đánh đồng cho được thật quá tệ hại.
———
ĐẠI BÀNG
2 tháng
để xem, tôi là tôi méo tin hoặc là nó sẽ tệ vl
GLES
TÍCH CỰC
2 tháng
@——— mấy model nhỏ nó cùi lắm bác. Đã thử với tiếng việt
———
ĐẠI BÀNG
2 tháng
@GLES em làm trong ngành mà nên em mới ko tin :v
GLES
TÍCH CỰC
2 tháng
@——— tui cũng giống bác mà, làm dev à bác? =))))))))))))))))))))))))
———
ĐẠI BÀNG
2 tháng
@GLES Em làm cloner cụ thể là git clone 😆
GLES
TÍCH CỰC
2 tháng
@——— toy lại tưởng bác là pusher cụ thể là git push =))))))))))
data chứa đâu để chạy, chạy xong nóng máy các con trời than nữa
Một bước tiến lớn trong lĩnh vực AI, rồi các hãng sẽ học theo phương pháp này 😁
các task simple thì chạy local , còn các task tốn nhiều tài nguyên như tạo hình , video thì chắc vẫn server thôi
estendius
ĐẠI BÀNG
2 tháng
Siri có improve được tí nào ko ?
@estendius Ko
Vậy phải nâng cấp pin thôi apple à
Như kiểu con Siri nó sẽ láo hơn bây giờ, BTS bây giờ mình gọi nó còn à há chứ :|
Tái định nghĩa AI
AI local phụ thuộc vào chip mobile nên sẽ cùi hơn nhiều so với hệ thống center khủng của GG hay MS, nó cũng hạn chế về cải tiến hay nâng cấp k linh hoạt như GG/MS.
Chốt lại là xử lý trên server đc GG/MS nói train hàng ngày hàng giờ nên bá đạo và uy tín hơn gấp trăm lần chịp cùi mobile của táo 😃
Cho thêm AI vào ko biết con Siri có bớt láo ko nữa? Giờ gọi nó, nó toàn ừm hứ
@Harold Nguyen Chắc ifan có thể download AI trên mạng xuống từ từ nó thông minh
Kết hợp được cả 2 thì ngon. Vừa qua sever và vừa local
@Hiếu_Sad Chắc chắn là vậy rồi, đã là Ai thì phải có training và cập nhật thường xuyên ...
Hơi xai giữa việc chĩnh sữa vài phần thông tin nhẹ: và tái tạo hoặc sáng tạo hoàn toàn:
việc chĩnh sữa một chút xíu: thì ko tốn quá nhiều tài nguyên và sức mạnh:
apple trước giờ luôn cân bằng đc thứ này:
Lại chỉ có ip16 mới dùng được, muốn dùng thì mua ip16 thật là biết hút máu 🤣🤣🤣🤣
Thôi t dùng tạm gemini và chat gpt vậy
Chắc lại làm mấy thứ vớ vẩn đc nhúng vào các app thôi Apple gọi đó là AI nhưng thực chất là con đuỹ chị em song sinh với Siri tên là Siro mà thôi. Về căn bản thì iOS 18 sẽ có chức năng chính là sửa lỗi trên iPhone 16 và bóp dzái các iPhone đời trước. Quá innovative!
khả năng cao apple one tăng giá vì nhúng thêm AI.
Intel phổ cập AI PC, giờ Samsung, rồi Apple phổ cập AI Phone

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019