Episode 1719 - Apr 22 - AI mang đến cho thị trường thiết bị doanh nghiệp nhiều điều thú vị - Vina Technology at AI time - A19T2 - Lê Quang Văn | Podcast - Nhac.vn
AI mang đến cho thị trường thiết bị doanh nghiệp nhiều điều thú vị
Nhưng các giám đốc thông tin không hoàn toàn bị thuyết phục rằng mọi người đều cần một PC hỗ trợ AI.
Tác giả: Isabelle Bousquette - Tạp chí Phố Wall. Ngày 19 tháng 4 năm 2024. Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.
Các nhà sản xuất chip và nhà sản xuất PC đã công bố các sản phẩm mới cho phép tính toán AI ở cấp độ thiết bị riêng lẻ.
Sự đổi mới lớn nhất trong nhiều năm đã đến với máy tính cá nhân khi các nhà sản xuất tích hợp chip cho phép họ chạy các mô hình AI quy mô lớn trực tiếp trên thiết bị. Nhưng các giám đốc thông tin sẽ muốn bắt đầu mua những chiếc PC đắt tiền hơn nhanh như thế nào, vẫn còn phải chờ xem.
Các nhà sản xuất chip bao gồm Qualcomm và AMD và các nhà sản xuất PC như Lenovo và Dell trong năm ngoái đều đã công bố các sản phẩm mới cho phép tính toán AI ở cấp độ thiết bị riêng lẻ. Họ nói rằng việc chạy các mô hình AI trên chính PC — thay vì đám mây — sẽ giảm độ trễ, giảm thiểu hóa đơn thanh toán tiền thuê đám mây, cung cấp bảo mật cao hơn và cuối cùng hỗ trợ các giám đốc thông tin triển khai AI cho các trường hợp sử dụng như tạo mã và tạo nội dung.
"Không gian PC đã không chứng kiến sự đổi mới và bất kỳ sự đột phá nào trong nhiều năm", Kedar Kondap, Phó chủ tịch cấp cao và Tổng giám đốc tính toán và chơi game tại Qualcomm và là người đứng đầu bộ phận kinh doanh PC hỗ trợ AI của công ty, cho biết.
Nhưng một số giám đốc thông tin vẫn không bị thuyết phục về việc liệu các thiết bị mới có đáng giá hay không. Một số người nói rằng họ sẽ đầu tư trước tiên chỉ cho các vai trò kỹ thuật như các nhà khoa học dữ liệu. Những người khác nói rằng họ sẽ đầu tư cho ngay cả người dùng doanh nghiệp thông thường — nhưng chỉ khi đã đến lúc làm mới chu kỳ thay thế thiết bị thông thường.
"Tôi muốn nói rằng nó khá tốn kém", Elizabeth Hackenson, giám đốc thông tin của công ty quản lý năng lượng và tự động hóa kỹ thuật số Schneider Electric cho biết, đồng thời cho biết thêm rằng cô sẽ chỉ xem xét các PC hỗ trợ AI cho các thành viên của nhóm sản phẩm hoặc nhóm AI.
Điều đó có thể thay đổi, bà nói thêm, nếu chi phí giảm theo thời gian.
Jay Ferro, phó chủ tịch điều hành kiêm giám đốc thông tin, công nghệ và sản phẩm tại công ty quản lý dữ liệu nghiên cứu lâm sàng Clario, cũng cho biết ban đầu ông sẽ xem xét các PC mới cho các vai trò như nhà khoa học dữ liệu, kỹ sư hoặc người sáng tạo nội dung kỹ thuật số.
"Chờ đợi, dù chỉ một chút, sẽ cho chúng ta nhiều lựa chọn trưởng thành hơn, tránh được chi phí chấp nhận sớm, nhiều lựa chọn hơn và các nghiên cứu điển hình vững chắc hơn", ông nói thêm. Đồng thời, "sức hấp dẫn của PC được tăng cường AI là mạnh mẽ".
Dell cho biết PC hỗ trợ AI của họ chỉ đắt hơn một chút và chỉ ra một máy tính xách tay 14 inch hỗ trợ AI mà họ đang bán với giá 1.339 đô la, so với máy tính xách tay 14 inch không hỗ trợ AI mà họ bán với giá 1.109 đô la. Giám đốc công nghệ PC và thiết bị thông minh của Lenovo, Daryl Cromer cho biết mặc dù PC hỗ trợ AI đắt hơn, nhưng "về giá trị, nó sẽ rất hấp dẫn".
Những tiến bộ về mặt phần mềm cộng với sự tích hợp của cái gọi là NPU, hoặc các đơn vị xử lý thần kinh, là những gì làm cho nó thực tế để chạy các mô hình ngôn ngữ lớn trực tiếp trên các thiết bị thay vì thiết lập đám mây tốn kém, các nhà sản xuất cho biết. (NPU không nên nhầm lẫn với các chip GPU rất cần thiết để cung cấp năng lượng cho các trung tâm dữ liệu).
Chi phí chạy AI trên đám mây nổi tiếng là đắt đỏ và khả năng thực hiện tính toán đó đã bị hạn chế bởi những hạn chế của cơ sở hạ tầng vật lý hiện có ngày nay.
Với máy tính AI, "Bạn nhận được lợi ích về bảo mật, quyền riêng tư, tính trực tiếp mà bạn nhận được từ việc chạy nội dung rõ ràng trên thiết bị", Kondap của Qualcomm cho biết.
Để chắc chắn, một số mô hình AI lớn vẫn còn quá lớn để thực sự chạy trên một thiết bị và có thể sẽ tiếp tục chạy trên đám mây hoặc đám mây lai và thiết lập trên thiết bị, ông nói.
