Episode 1910 - May 29 - Một số cái nhìn thoáng qua về AGI trong ChatGPT - Vina Technology at AI time - Lê Quang Văn | Podcast - Nhac.vn

Một số cái nhìn thoáng qua về AGI trong ChatGPT - Những người khác gọi nó là ảo ảnh

Một làn sóng thuật toán AI mới có cảm giác như chúng có thể đạt đến trí tuệ tổng hợp nhân tạo (AGI) - nhưng thật khó để đo lường tiến trình đó.

Lê Quang Văn viết dựa theo tài liệu của Will Knight, WIRED, Ngày 18 tháng 4 năm 2023.

Sébastien Bubeck, một nhà nghiên cứu học máy tại Microsoft, đã có một sự hiển linh đêm khuya về AI và kỳ lân. Gần đây được cấp quyền truy cập sớm vào GPT-4, một thuật toán tạo văn bản mạnh mẽ từ OpenAI, Bubeck là một phần của nhóm tích hợp nó vào công cụ tìm kiếm Bing của Microsoft. Ông và các đồng nghiệp đã rất ngạc nhiên bởi cảm giác GPT-4 khác biệt như thế nào so với các mẫu trước đó.

GPT-4, giống như các phiên bản trước, được đào tạo trên một lượng lớn văn bản và mã, sử dụng các mẫu trong dữ liệu này để dự đoán những từ nào sẽ xuất hiện tiếp theo trong một văn bản nhất định. Nhưng đối với Bubeck, phản ứng của ông dường như vượt ra ngoài việc chỉ đưa ra những dự đoán tốt. Đêm đó, ông yêu cầu GPT-4 vẽ một con kỳ lân bằng TikZ, một ngôn ngữ lập trình cho các sơ đồ khoa học. Mặc dù là một mô hình chỉ có văn bản, GPT-4 đã tạo ra mã, khi được hiển thị, tạo ra một hình ảnh kỳ lân thô. Điều này đã thuyết phục Bubeck rằng GPT-4 có một số hiểu biết về các khái niệm trừu tượng. "Một cái gì đó mới đang xảy ra ở đây," ông nói. "Có lẽ đây là lần đầu tiên chúng ta có một thứ mà chúng ta có thể gọi là tình báo."

Cuộc tranh luận về trí thông minh của AI đã tăng cường. Sau khi OpenAI phát hành ChatGPT, được hỗ trợ bởi GPT-3, vào tháng 11 năm ngoái, nó đã khiến thế giới ngạc nhiên với khả năng viết về nhiều chủ đề khác nhau, giải quyết các vấn đề mã hóa và tổng hợp kiến thức web. Tuy nhiên, nỗi sợ hãi này được trộn lẫn với những lo ngại về gian lận học thuật, thông tin sai lệch, thất nghiệp hàng loạt và sự phát triển nhanh chóng của công nghệ nguy hiểm tiềm tàng.

Hiểu được những khả năng và rủi ro mới của AI có nghĩa là biết những khả năng này là gì và những khả năng nào là không. Trong khi ChatGPT và các hệ thống tương tự cung cấp cho máy tính những kỹ năng mới ấn tượng, các nhà nghiên cứu vẫn đang tìm hiểu ý nghĩa của những hành vi này. OpenAI đã thúc đẩy hiệu suất của GPT-4 trong các kỳ thi, nhưng các nhà khoa học cho biết khả năng của nó khác với trí thông minh của con người theo những cách quan trọng. Mặc dù có kỹ năng ấn tượng, GPT-4 thường tạo ra mọi thứ và thiếu tính nhất quán của lý luận của con người.

Lấy cảm hứng từ kinh nghiệm của họ với GPT-4, Bubeck và các nhà nghiên cứu AI khác tại Microsoft đã tham gia cuộc tranh luận. Họ đã xuất bản một bài báo cho thấy GPT-4 cho thấy "tia lửa của trí tuệ nhân tạo nói chung", thực hiện các nhiệm vụ dường như cho thấy trí thông minh chung hơn các hệ thống trước đó như GPT-3. Họ lập luận rằng GPT-4 có thể lý luận, lập kế hoạch, học hỏi kinh nghiệm và chuyển giao các khái niệm trên các loại nhiệm vụ khác nhau.

Tuy nhiên, tuyên bố của họ đã vấp phải sự hoài nghi từ các nhà nghiên cứu và chuyên gia AI. Các nhà phê bình chỉ ra rằng thuật ngữ AGI rất mơ hồ và thường được sử dụng để thổi phồng AI. Khoản đầu tư đáng kể của Microsoft vào OpenAI khiến một số người tin rằng công ty có động cơ để phóng đại tiềm năng của GPT-4. Những người khác lưu ý rằng phản hồi của GPT-4 không nhất quán và OpenAI đã không chia sẻ thông tin chi tiết về thiết kế của nó. Các câu hỏi cũng được đặt ra về lý do tại sao GPT-4 vẫn mắc phải những sai lầm ngớ ngẩn nếu nó thực sự thông minh.

Talia Ringer, giáo sư tại Đại học Illinois tại Urbana-Champaign, cho biết bài báo của Microsoft đã đưa ra một số tuyên bố vượt trội. Ringer cảnh báo rằng việc quảng bá các hệ thống thông minh cao có thể đánh lừa người dùng tin tưởng chúng bất chấp những sai sót của chúng. Ringer cũng lưu ý rằng nhiều bài kiểm tra trí thông minh của con người đã được chứng minh là không đáng tin cậy và thiên vị.

Bubeck thừa nhận những hạn chế trong nghiên cứu của mình, bao gồm các vấn đề về khả năng tái tạo và các điểm mù đáng kể của GPT-4.