Episode 1916 - May 30 - Tiếng Anh - Tin tức Công Nghệ Thông Tin - Ngày 23 tháng 5 năm 2024 - Lê Quang Văn | Podcast - Nhac.vn

Episode 1916 - May 30 - Tiếng Anh - Tin tức Công Nghệ Thông Tin - Ngày 23 tháng 5 năm 2024
24 Thg05, 24

IT News of the Day – May 23, 2024

1 - Pocket-Sized AI Models Could Unlock a New Era of Computing

Will Knight. WIRED. May 23, 2024.

Research at Microsoft shows it’s possible to make AI models small enough to run on phones or laptops without major compromises to their smarts. The technique could open up new use cases for AI.

When ChatGPT was released in November 2023, it could only be accessed through the cloud because the model behind it was downright enormous.

Today I am running a similarly capable AI program on a Macbook Air, and it isn’t even warm. The shrinkage shows how rapidly researchers are refining AI models to make them leaner and more efficient. It also shows how going to ever larger scales isn’t the only way to make machines significantly smarter.

The model now infusing my laptop with ChatGPT-like wit and wisdom is called Phi-3-mini. It’s part of a family of smaller AI models recently released by researchers at Microsoft. Although it’s compact enough to run on a smartphone, I tested it by running it on a laptop and accessing it from an iPhone through an app called Enchanted that provides a chat interface similar to the official ChatGPT app.

In a paper describing the Phi-3 family of models, Microsoft’s researchers say the model I used measures up favorably to GPT-3.5, the OpenAI model behind the first release of ChatGPT. That claim is based on measuring its performance on several standard AI benchmarks designed to measure common sense and reasoning. In my own testing, it certainly seems just as capable.

Microsoft announced a new “multimodal” Phi-3 model capable of handling audio, video, and text at its annual developer conference, Build, this week. That came just days after OpenAI and Google both touted radical new AI assistants built on top of multimodal models accessed via the cloud.

Microsoft’s Lilliputian family of AI models suggest it’s becoming possible to build all kinds of handy AI apps that don’t depend on the cloud. That could open up new use cases, by allowing them to be more responsive or private. (Offline algorithms are a key piece of the Recall feature Microsoft announced that uses AI to make everything you ever did on your PC searchable.)

But the Phi family also reveals something about the nature of modern AI, and perhaps how it can be improved. Sébastien Bubeck, a researcher at Microsoft involved with the project, tells me the models were built to test whether being more selective about what an AI system is trained on could provide a way to fine-tune its abilities.

The large language models like OpenAI’s GPT-4 or Google’s Gemini that power chatbots and other services are typically spoon-fed huge gobs of text siphoned from books, websites, and just about any other accessible source. Although it’s raised legal questions, OpenAI and others have found that increasing the amount of text fed to these models, and the amount of computer power used to train them, can unlock new capabilities

Bubeck, who is interested in the nature of the “intelligence” exhibited by language models, decided to see if carefully curating the data fed to a model could improve its abilities without having to balloon its training data

Last September, his team took a model roughly one-17th the size of OpenAI’s GPT-3.5, trained it on “textbook quality” synthetic data generated by a larger AI model, including factoids from specific domains including programming. The resulting model displayed surprising abilities for its size. “Lo and behold, what we observed is that we were able to beat GPT-3.5 at coding using this technique,” he says. “That was really surprising to us.”

Bubeck’s group at Microsoft has made other discoveries using this approach. One experiment showed that feeding an extra-tiny model children’s stories allowed it to produce consistently coherent output, even though AI programs of this size typically produce gibberish when trained the conventional way. Once again, the result suggests you can make seemingly underpowered AI

Bình luận
Danh sách
Episode 2118 - June 21 - Tiếng Anh - Phần 1 của 1 - Nadella của Microsoft đang xây dựng một đế chế AI - Vina Technology at AI time
Episode 2118 - June 21 - Tiếng Anh - Phần 1 của 1 - Nadella của Microsoft đang xây dựng một đế chế AI - Vina Technology at AI time
16 Thg06, 24 • 16ph
Episode 2117 - June 21 - Phần 2 của 2 - Nadella của Microsoft đang xây dựng một đế chế AI - Vina Technology at AI time
Episode 2117 - June 21 - Phần 2 của 2 - Nadella của Microsoft đang xây dựng một đế chế AI - Vina Technology at AI time
16 Thg06, 24 • 09ph
Episode 2116 - June 21 - Phần 1 của 2 - Nadella của Microsoft đang xây dựng một đế chế AI - Vina Technology at AI time
Episode 2116 - June 21 - Phần 1 của 2 - Nadella của Microsoft đang xây dựng một đế chế AI - Vina Technology at AI time
16 Thg06, 24 • 10ph
Episode 2115 - June 21 - Tiếng Anh - Phần 4 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
Episode 2115 - June 21 - Tiếng Anh - Phần 4 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
16 Thg06, 24 • 11ph
Episode 2114 - June 21 - Phần 4 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
Episode 2114 - June 21 - Phần 4 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
16 Thg06, 24 • 10ph
Episode 2113 - June 21 - Tiếng Anh - Phần 3 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
Episode 2113 - June 21 - Tiếng Anh - Phần 3 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
16 Thg06, 24 • 13ph
Episode 2112 - June 21 - Phần 3 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
Episode 2112 - June 21 - Phần 3 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
16 Thg06, 24 • 13ph
Episode 2111 - June 21 - Tiếng Anh - Phần 2 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
Episode 2111 - June 21 - Tiếng Anh - Phần 2 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
16 Thg06, 24 • 09ph
Episode 2110 - June 21 - Phần 2 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
Episode 2110 - June 21 - Phần 2 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
16 Thg06, 24 • 11ph
Episode 2109 - June 21 - Tiếng Anh - Phần 1 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
Episode 2109 - June 21 - Tiếng Anh - Phần 1 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
16 Thg06, 24 • 11ph
Episode 2108 - June 21 - Phần 1 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
Episode 2108 - June 21 - Phần 1 của 4 - Cuộc Chiến Công Nghệ Mỹ-Trung - Vina Technology at AI time
16 Thg06, 24 • 10ph
Episode 2107 - June 21 - Bản tin Công nghệ Thông tin – 15 tháng 6, 2024 - Vina Technology at AI time
Episode 2107 - June 21 - Bản tin Công nghệ Thông tin – 15 tháng 6, 2024 - Vina Technology at AI time
16 Thg06, 24 • 12ph
Episode 2106 - June 20 - Tiếng Anh - Phần 1 của 1 - Đế chế đầu tư mờ ám - Vina Technology at AI time
Episode 2106 - June 20 - Tiếng Anh - Phần 1 của 1 - Đế chế đầu tư mờ ám - Vina Technology at AI time
16 Thg06, 24 • 17ph
Episode 2105 - June 20 - Phần 2 của 2 - Đế chế đầu tư mờ ám - Vina Technology at AI time
Episode 2105 - June 20 - Phần 2 của 2 - Đế chế đầu tư mờ ám - Vina Technology at AI time
16 Thg06, 24 • 08ph
Episode 2104 - June 20 - Phần 1 của 2 - Đế chế đầu tư mờ ám - Vina Technology at AI time
Episode 2104 - June 20 - Phần 1 của 2 - Đế chế đầu tư mờ ám - Vina Technology at AI time
16 Thg06, 24 • 09ph
Nâng cấp tài khoản
Quý khách vui lòng nâng cấp tài khoản để nghe podcast này