Episode 2840 - September 20 - Phần 2 của 7 - AI tạo sinh trong Quản lý Tài sản – Vina Technology at AI time - Lê Quang Văn | Podcast - Nhac.vn

AI tạo sinh trong Quản lý Tài sản

Akash Takyar - Giám đốc điều hành LeewayHertz. Phần 2 của 7. Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

2 – Cách AI tạo sinh hoạt động trong quản lý tài sản

(Tiếp theo)

Kiến trúc này tận dụng các thành phần khác nhau để hợp lý hóa quy trình quản lý tài sản. Dưới đây là bảng phân tích từng bước về cách thức hoạt động:

2. Đường ống dữ liệu: Dữ liệu được thu thập từ các nguồn trên trải qua quá trình xử lý thông qua các đường ống dữ liệu. Các đường ống này xử lý các nhiệm vụ nhập, làm sạch và cấu trúc dữ liệu, đảm bảo dữ liệu được chuẩn bị cho các phân tích tiếp theo.

3. Mô hình nhúng: Sau khi chuẩn bị, dữ liệu được truyền qua mô hình nhúng. Mô hình này chuyển đổi dữ liệu văn bản thành các biểu diễn số được gọi là vectơ có thể hiểu được bởi các mô hình AI. Các mô hình được sử dụng rộng rãi bao gồm các mô hình được phát triển bởi OpenAI, Google và Cohere.

4. Cơ sở dữ liệu vector: Các vectơ kết quả được lưu trữ trong cơ sở dữ liệu vector, tạo điều kiện truy vấn và truy xuất hiệu quả. Các ví dụ nổi bật về cơ sở dữ liệu vector bao gồm Pinecone, Weaviate và PGvector.

5. API và plugin: API và plugin như Serp, Zapier và Wolfram là công cụ liên kết các thành phần kiến trúc khác nhau và cung cấp các chức năng bổ sung. Chúng cho phép các tác vụ như truy cập dữ liệu bổ sung hoặc thực hiện liền mạch các hành động cụ thể.

6. Lớp phối hợp: Lớp phối hợp đóng một vai trò quan trọng trong việc xử lý quy trình làm việc. ZBrain là một ví dụ về lớp này, đơn giản hóa chuỗi nhanh chóng, xử lý các tương tác với các API bên ngoài bằng cách xác định khi nào các lệnh gọi API là cần thiết, truy xuất dữ liệu theo ngữ cảnh từ cơ sở dữ liệu vector và duy trì bộ nhớ trên nhiều lệnh gọi mô hình ngôn ngữ lớn. Cuối cùng, lớp này tạo ra một lời nhắc hoặc một loạt các lời nhắc để gửi đến một mô hình ngôn ngữ để xử lý. Chức năng của nó là điều phối sự di chuyển của dữ liệu và nhiệm vụ, đảm bảo sự phối hợp trơn tru trên tất cả các thành phần của kiến trúc.

7. Thực hiện truy vấn: Quá trình truy xuất và tạo dữ liệu bắt đầu khi người dùng gửi truy vấn đến ứng dụng thẩm định. Truy vấn này có thể bao gồm các khía cạnh khác nhau liên quan đến công ty mục tiêu, từ phúc lợi tài chính đến tuân thủ pháp luật và rủi ro hoạt động.

8. Xử lý mô hình ngôn ngữ lớn: Khi nhận được truy vấn, ứng dụng sẽ chuyển tiếp truy vấn đó đến lớp điều phối. Lớp này sau đó truy xuất dữ liệu thích hợp từ cơ sở dữ liệu vector và bộ đệm mô hình ngôn ngữ lớn và hướng nó đến mô hình ngôn ngữ lớn phù hợp để xử lý. Việc lựa chọn mô hình ngôn ngữ lớn phụ thuộc vào các đặc điểm và yêu cầu của truy vấn.

9. Đầu ra: mô hình ngôn ngữ lớn tạo đầu ra dựa trên truy vấn và dữ liệu mà nó nhận được. Kết quả đầu ra này có thể biểu hiện dưới nhiều hình thức khác nhau, bao gồm tóm tắt thông tin thực tế, xác định các rủi ro tiềm ẩn hoặc thậm chí soạn thảo báo cáo.

10. Ứng dụng quản lý tài sản: Đầu ra được xác thực sau đó được trình bày cho người dùng thông qua ứng dụng quản lý tài sản. Ứng dụng cốt lõi này là trung tâm trung tâm, nơi hội tụ tất cả dữ liệu, phân tích và hiểu biết sâu sắc. Nó trình bày những phát hiện ở định dạng thân thiện với người dùng, giúp những người ra quyết định dễ hiểu.

11. Vòng phản hồi: Phản hồi của người dùng về đầu ra của mô hình ngôn ngữ lớn là một khía cạnh quan trọng khác của kiến trúc này. Vòng phản hồi này là công cụ để dần dần tinh chỉnh độ chính xác và mức độ liên quan của đầu ra của mô hình ngôn ngữ lớn theo thời gian.

12. Tác nhân: Các tác nhân AI rất quan trọng trong việc giải quyết các vấn đề phức tạp, tương tác với môi trường bên ngoài và tăng cường học tập thông qua kinh nghiệm sau triển khai. Chúng đạt được điều này bằng cách sử dụng lý luận và lập kế hoạch tiên tiến, sử dụng công cụ chiến lược và tận dụng trí nhớ, đệ quy và tự phản ánh.

13. Mô hình ngôn ngữ lớn cache: Các công cụ như Redis, SQLite hoặc GPTCache lưu trữ thông tin được truy cập thường xuyên, từ đó đẩy nhanh thời gian phản hồi của hệ thống AI.

14. Ghi nhật ký