Episode 1911 - May 30 - Phần 2 của 3 - AI có thể lập kế hoạch không - Vina Technology at AI time - Lê Quang Văn | Podcast - Nhac.vn

AI có thể lập kế hoạch không? – Phần 2 của 3

Như bài viết của LessWrong nhấn mạnh, một mô hình ngôn ngữ lớn có thể chơi cờ vua cấp độ người mới vững chắc có lẽ không chỉ sao chép các nước đi mà nó gặp phải trong khi đọc sách về cờ vua. Có vẻ như, theo một nghĩa khó giải thích nào đó, nó "hiểu" các quy tắc của trò chơi - một thành tựu sâu sắc hơn. Các ví dụ khác về lý luận mô hình ngôn ngữ lớn rõ ràng ngay sau đó, bao gồm vượt qua các kỳ thi SAT, giải câu đố, lập trình trò chơi điện tử từ đầu và giải thích những câu chuyện cười. Những tác động ở đây có khả năng sâu sắc. Trong một cuộc nói chuyện tại M.I.T., Sébastien Bubeck, một nhà nghiên cứu của Microsoft, thành viên của một nhóm nghiên cứu một cách có hệ thống các khả năng của GPT-4, đã mô tả những phát triển này: "Nếu quan điểm của bạn là, 'Điều tôi quan tâm là giải quyết vấn đề, suy nghĩ trừu tượng, hiểu những ý tưởng phức tạp, lý luận về các yếu tố mới đến với tôi, "thì tôi nghĩ bạn phải gọi GPT-4 là thông minh", ông nói.

Tuy nhiên, đan xen với câu chuyện về sự ngạc nhiên khó chịu này là một đối trọng hấp dẫn. Vẫn còn một số nhiệm vụ đơn giản đáng ngạc nhiên tiếp tục cản trở mô hình ngôn ngữ lớn. Trong bài nói chuyện M.I.T. của mình, Bubeck đã mô tả việc cho GPT-4 phương trình toán học "7 x 4 + 8 x 8 = 92". Sau đó, ông yêu cầu nó sửa đổi chính xác một số ở phía bên tay trái để phương trình thay vào đó sẽ đánh giá thành 106. Đối với một người, vấn đề này rất đơn giản: thay đổi "7 x 4" thành "7 x 6". Nhưng GPT-4 không thể tìm ra nó, và cung cấp một câu trả lời rõ ràng là sai. " Các tính toán hoặc lý luận số được thực hiện bởi GPT-4 là không nhất quán hoặc không chính xác. " Bubeck nói.

Làm thế nào những hệ thống mạnh mẽ này có thể đánh bại chúng ta trong cờ vua nhưng lại chùn bước trong toán học cơ bản? Nghịch lý này phản ánh nhiều hơn chỉ là một thiết kế kỳ quặc mang phong cách riêng. Nó chỉ ra một cái gì đó cơ bản về cách các mô hình ngôn ngữ lớn suy nghĩ. Với tầm quan trọng được dự đoán của những công cụ này trong cuộc sống của chúng ta, thật đáng để dành một chút thời gian để tìm hiểu về chủ đề này. Để hiểu rõ hơn về những gì mong đợi từ các hệ thống AI trong tương lai, nói cách khác, chúng ta nên bắt đầu bằng cách hiểu rõ hơn về những gì các hệ thống thống trị ngày nay vẫn không thể làm được. (6000) – VI – Part 1A - Can an A.I. Make Plans

Làm thế nào để bộ não con người giải quyết một vấn đề toán học như vấn đề mà Bubeck đã sử dụng để chứng minh sự yếu kém của GPT-4? Trong bài nói chuyện M.I.T. của mình, ông đã mô tả suy nghĩ của chúng ta có thể diễn ra như thế nào. Khi chúng tôi nhận ra rằng mục tiêu của chúng ta là tăng tổng ở phía bên phải của phương trình lên mười bốn, chúng ta bắt đầu tìm kiếm các tùy chọn đầy hứa hẹn ở phía bên trái. "Tôi nhìn vào bên trái, tôi thấy một số bảy," Bubeck nói. "Sau đó, tôi có một khoảnh khắc eureka. Ah! Mười bốn là bảy lần hai. OK, vì vậy nếu nó là bảy lần hai, thì tôi cần phải biến bốn lần này thành sáu.

Đối với chúng ta, kiểu suy nghĩ này là tự nhiên - đó chỉ là cách chúng ta tìm ra mọi thứ. Do đó, chúng ta có thể bỏ qua mức độ mà lý luận như vậy phụ thuộc vào dự đoán. Để giải quyết vấn đề toán học của chúng ta, chúng ta phải nhìn vào tương lai và đánh giá tác động của những thay đổi khác nhau mà chúng ta có thể thực hiện. Lý do "7 x 4" nhanh chóng thu hút sự chú ý của chúng ta là chúng ta mô phỏng trực quan những gì sẽ xảy ra nếu chúng ta tăng số lượng bảy. "Đó là thông qua một số loại kế hoạch," Bubeck kết luận, về quá trình giải pháp của mình. "Tôi đã suy nghĩ trước về những gì tôi sẽ cần."

Chúng ta triển khai chiến lược nhận thức này liên tục trong cuộc sống hàng ngày. Khi tổ chức một cuộc trò chuyện nghiêm túc, chúng ta mô phỏng các câu trả lời khác nhau có thể thay đổi tâm trạng như thế nào — giống như, khi điều hướng thanh toán ở siêu thị, chúng ta dự đoán các dòng khác nhau có thể sẽ tiến triển chậm như thế nào. Hành vi hướng đến mục tiêu nói chung hầu như luôn đòi hỏi chúng ta phải nhìn vào tương lai để kiểm tra xem có