Khung tác nhân là gì?

Công cụ duyệt web AI không rác và Trình duyệt Không rác cung cấp một công cụ trình duyệt quản lý mà các khung tác nhân có thể gọi để quan sát và tương tác với các trang web hiện tại.

TL;DR

Khung tác nhân là phần mềm tổ chức một mô hình, hướng dẫn, công cụ, trạng thái và một vòng lặp thực thi. Nó biến các cuộc gọi mô hình cách ly thành một quy trình làm việc ứng dụng được kiểm soát.
Các khung không tự tạo ra sự tự trị. Các nhà phát triển xác định công cụ, quyền, điều kiện dừng, đánh giá và điểm phê duyệt.
Vòng lặp thực thi là trừu tượng trung tâm. Mô hình quan sát bối cảnh, chọn một hành động, nhận kết quả và tiếp tục cho đến khi một điều kiện kết thúc được đáp ứng.
Trạng thái và khả năng quan sát phân biệt các nguyên mẫu với hệ thống sản xuất. Một thời gian chạy hữu ích ghi lại các cuộc gọi công cụ, lỗi, phê duyệt, chi phí và đầu ra.
Khung tốt nhất phù hợp với độ phức tạp của quy trình làm việc. Một cuộc gọi API trực tiếp có thể rõ ràng hơn cho một tác vụ xác định ngắn hạn.

Khung tác nhân được định nghĩa

Khung tác nhân là một bộ công cụ phần mềm để xây dựng các ứng dụng mà trong đó mô hình AI có thể chọn và gọi các công cụ qua một hoặc nhiều bước. Khung thường định nghĩa một đối tượng tác nhân, các loại tin nhắn hoặc sự kiện, các sơ đồ công cụ, việc xử lý trạng thái, một vòng lặp thực thi, và các móc cho việc ghi lại hoặc phê duyệt của con người. Tài liệu Khung tác nhân của Microsoft sắp xếp những mối quan tâm này xung quanh các tác nhân, quy trình làm việc, bộ nhớ, phần mềm trung gian, công cụ, bảo mật và lưu trữ.

Một cuộc gọi mô hình thô chấp nhận đầu vào và trả về đầu ra. Một thời gian chạy tác nhân thêm một vòng lặp. Mô hình nhận một mục tiêu và các công cụ mà nó có thể sử dụng, chọn một hành động, quan sát kết quả của công cụ, và quyết định xem có tiếp tục hay không. Ứng dụng kiểm soát các ranh giới: công cụ nào tồn tại, các đối số nào hợp lệ, dữ liệu mà mỗi công cụ có thể truy cập, thời gian thực thi có thể chạy, và hành động nào yêu cầu phê duyệt.

“Khung tác nhân” có thể chỉ đến một thư viện nhẹ hoặc một nền tảng đầy đủ. Một số gói tập trung vào các trừu tượng mô hình và công cụ. Những gói khác bao gồm quy trình làm việc bền vững, triển khai, theo dõi, đánh giá và phối hợp đa tác nhân. Tên gọi ít quan trọng hơn so với hợp đồng vận hành mà khung cung cấp cho ứng dụng.

Các thành phần cốt lõi của một khung tác nhân

Khung tác nhân kết hợp một số lớp cần phải giữ tách biệt về mặt khái niệm. Mô hình đề xuất ngôn ngữ và hành động. Hướng dẫn xác định vai trò và ràng buộc. Công cụ kết nối mô hình với mã, API, cơ sở dữ liệu, trình duyệt, hoặc các tác nhân khác. Trạng thái bảo lưu thông tin giữa các bước. Sự điều phối quyết định cái gì sẽ chạy tiếp theo. Các đường ray bảo vệ và kiểm tra chính sách từ chối các hành động không an toàn hoặc không hợp lệ.

Bộ điều hợp mô hình. Chuẩn hóa các cuộc gọi, tin nhắn, định nghĩa công cụ, và đầu ra có cấu trúc giữa các nhà cung cấp.
Đăng ký công cụ. Mô tả các hoạt động có thể gọi bằng tên, sơ đồ đầu vào, quyền và bộ xử lý thực thi.
Vòng lặp tác nhân. Luân phiên giữa các quyết định mô hình và quan sát công cụ cho đến khi hoàn thành hoặc đạt giới hạn.
Bộ nhớ và trạng thái. Lưu trữ lịch sử cuộc trò chuyện, biến quy trình làm việc, các điểm kiểm tra và các bản ghi dài hạn đã chọn.
Công cụ quy trình làm việc. Thể hiện các nhánh có thể xác định, công việc song song, chuyển giao và đánh giá của con người.
Lớp quan sát. Ghi lại các vết, độ trễ, việc sử dụng token, các đối số công cụ, đầu ra, và nhãn đánh giá.

Tài liệu SDK của OpenAI cho các tác nhân tương tự coi hướng dẫn, công cụ, chuyển giao, loại đầu ra và hành vi thực thi như là cấu hình tác nhân rõ ràng hơn là khả năng mô hình vô hình.

Khung tác nhân so với các khái niệm liên quan

Khái niệm	Mục đích chính	Mối quan hệ với khung tác nhân
API mô hình	Tạo ra hoặc chuyển đổi nội dung từ một đầu vào.	Khung gọi mô hình và thêm hành vi thời gian chạy xung quanh nó.
Pipeline RAG	Lấy chứng cứ và tạo ra một câu trả lời từ đó.	Việc truy xuất có thể là một công cụ hoặc giai đoạn cố định bên trong quy trình làm việc của tác nhân.
Công cụ quy trình làm việc	Chạy các bước, nhánh và công việc được định nghĩa trước.	Khung đại lý có thể nhúng quy trình làm việc hoặc kết nối với một động cơ bên ngoài.
Giao thức công cụ	Mô tả và vận chuyển khả năng có thể gọi.	Giao thức có thể cung cấp công cụ trong khi khung quản lý vòng lặp.
Hệ thống đa đại lý	Phối hợp các đại lý chuyên biệt.	Khung có thể thực hiện việc chuyển giao, quản lý, tranh luận hoặc các mẫu đồ thị.

Những thể loại này chồng chéo trong các sản phẩm thực tế. Một kiến trúc có kỷ luật xác định lớp nào sở hữu mỗi quyết định. Một quy trình làm việc xác định nên không bị ẩn bên trong một mô hình ngữ cảnh mơ hồ, và một quyết định bảo mật không nên phụ thuộc vào mô hình tự nguyện tuân theo văn bản.

Mẫu Khung Đại Lý Thông Dụng

Đại lý đơn lẻ với công cụ

Một đại lý giữ quyền kiểm soát và gọi các công cụ tìm kiếm, cơ sở dữ liệu, mã hoặc trình duyệt khi nhiệm vụ yêu cầu.

Bộ định tuyến và chuyên gia

Một bước định tuyến gửi yêu cầu đến các đại lý hoặc quy trình làm việc với công cụ và hướng dẫn hẹp hơn.

Quản lý và công nhân

Một người quản lý phân tích một mục tiêu, gán các nhiệm vụ giới hạn và kết hợp kết quả của công nhân dưới các giới hạn rõ ràng.

Đồ thị xác định

Các nút cố định xử lý việc xác thực và các tác động phụ trong khi các nút điều khiển mô hình hoạt động chỉ khi sự phán xét hữu ích.

Thiết kế đa đại lý không tự động tốt hơn. Nó thêm tin nhắn, chuyển trạng thái, các con đường thất bại và chi phí. Sử dụng nhiều đại lý khi sự chuyên biệt hoặc công việc song song có thể đo lường, không phải vì sơ đồ kiến trúc trông tiên tiến hơn.

Cách Chọn Khung Đại Lý

Chọn một khung đại lý bằng cách bắt đầu với yêu cầu vận hành khó nhất của ứng dụng. Một trợ lý nghiên cứu có thể cần khả năng truy xuất và theo dõi trích dẫn mạnh mẽ. Một người vận hành trình duyệt có thể cần các phiên bền vững và các cổng phê duyệt. Một quy trình làm việc cho khách hàng có thể cần danh tính nghiêm ngặt, nhật ký kiểm toán và đầu ra có cấu trúc. Sự phổ biến của nhà cung cấp ít quan trọng hơn so với việc liệu thời gian chạy có cung cấp các điều khiển này một cách rõ ràng hay không.

Viết quy trình làm việc mà không dùng thuật ngữ khung: đầu vào, quyết định, công cụ, tác động phụ và trạng thái cuối cùng.
Đánh dấu các bước xác định mà nên giữ lại như mã thông thường.
Liệt kê các tích hợp cần thiết và xác minh rằng các bộ điều hợp được duy trì và có thể kiểm tra.
Kiểm tra tính bền vững, điểm dừng, hủy bỏ, thời gian chờ và hành vi phê duyệt của con người.
Kiểm tra hỗ trợ theo dõi và đánh giá trước khi cam kết sản xuất.
Tạo mẫu một con đường thất bại đại diện, không chỉ con đường hạnh phúc.
Đo lường độ trễ, cuộc gọi mô hình, cuộc gọi công cụ và nỗ lực của người vận hành so với một triển khai đơn giản hơn.

Một khung kiếm được chỗ đứng của nó khi loại bỏ cơ sở hạ tầng lặp lại trong khi giữ cho hành vi có thể hiểu được. Nếu nhiệm vụ chỉ là một văn bản được theo sau bởi một truy vấn cơ sở dữ liệu, mã trực tiếp có thể dễ vận hành hơn.

Công Cụ Web trong Các Khung Đại Lý

Công cụ web cho phép một đại lý làm việc với thông tin và giao diện thay đổi sau khi đào tạo mô hình. Tìm kiếm cung cấp khả năng phát hiện, một khách hàng HTTP lấy tài nguyên tĩnh, và một trình duyệt xử lý JavaScript, điều hướng, biểu mẫu và trạng thái trang có thể quan sát. Mỗi khả năng nên có một cấu trúc hẹp và ranh giới quyền.

Scrapeless Agent Browser có thể kết nối với các khung hỗ trợ tự động hóa trình duyệt hoặc giao thức công cụ. Khung đại lý quyết định khi nào gọi trình duyệt; Scrapeless chạy phiên trình duyệt và trả về quan sát. Ứng dụng xung quanh nên hạn chế phạm vi mục tiêu, bảo vệ thông tin đăng nhập, yêu cầu phê duyệt cho các hành động quan trọng, và lưu trữ con đường cần thiết để xem xét.

Danh Sách Kiểm Tra Sẵn Sàng Sản Xuất

Một đại lý sản xuất cần các giới hạn rõ ràng. Hạn chế các bước thực thi, thời gian chờ, chi phí công cụ, và kích thước kết quả. Xác thực các tham số có cấu trúc trước khi công cụ chạy. Đối xử với nội dung web và tài liệu như dữ liệu không đáng tin cậy có thể chứa hướng dẫn. Tách các hoạt động đọc ra khỏi ghi và làm cho các hành động không thể đảo ngược có thể nhìn thấy cho một người.

Khả năng quan sát cần trả lời những gì đại lý đã thấy, tại sao một công cụ có sẵn, các tham số nào đã chạy, điều gì đã thay đổi, và từ đâu mà tuyên bố cuối cùng đến. Việc đánh giá nên bao trùm việc chọn công cụ, độ chính xác của tham số, hoàn thành nhiệm vụ, tuân thủ chính sách, tính chính xác và dừng an toàn. Mục tiêu không phải là tái tạo lập luận tư nhân; mà là bảo tồn chứng cứ vận hành cần thiết để gỡ lỗi hệ thống. Khung Quản Lý Rủi Ro AI NIST cung cấp một cấu trúc rộng hơn để kết nối những đo lường đó với rủi ro tổ chức.

Kết luận

Một khung đại lý là cấu trúc thời gian chạy xung quanh một mô hình AI: công cụ, trạng thái, tổ chức, biện pháp bảo vệ và dấu vết. Nó có giá trị khi một quy trình làm việc cần nhiều quyết định hoặc tích hợp và khi khung làm cho những quyết định đó dễ kiểm soát hơn. Bắt đầu với kiến trúc đơn giản nhất phơi bày quyền hạn và các con đường thất bại, sau đó chỉ thêm đại lý hoặc quy trình làm việc bền vững khi trường hợp sử dụng yêu cầu chúng.

Sẵn sàng kết nối một đại lý với web chưa?

Thêm khả năng trình duyệt được quản lý vào khung đại lý và giữ cho ranh giới công cụ rõ ràng.

Đăng ký hôm nay và nhận $5 tín dụng miễn phí — không yêu cầu thẻ tín dụng.

Đòi hỏi Tín dụng $5 của bạn →

Câu hỏi thường gặp

Tất cả các ứng dụng AI có cần một khuôn khổ đại lý không?

Không. Một cuộc gọi mô hình trực tiếp, một chức năng nhỏ, hoặc một quy trình xác định thường rõ ràng hơn cho các nhiệm vụ ngắn. Một khuôn khổ đại lý trở nên hữu ích khi mô hình phải chọn giữa các công cụ, duy trì trạng thái giữa các bước, khôi phục từ tiến trình một phần, hoặc phối hợp phê duyệt và khả năng quan sát.

Một khuôn khổ đại lý có giống như một hệ thống đa đại lý không?

Không. Một khuôn khổ có thể hỗ trợ một đại lý hoặc nhiều đại lý. Một hệ thống đa đại lý là một thiết kế phân chia công việc giữa các đại lý chuyên biệt. Nó thêm chi phí phối hợp và nên được sử dụng chỉ khi chuyên môn, song song, hoặc ranh giới sở hữu cải thiện kết quả.

Tính năng sản xuất quan trọng nhất là gì?

Kiểm soát rõ ràng các công cụ và trạng thái quan trọng hơn một danh sách tích hợp dài. Thời gian chạy nên xác thực các đối số, thực thi quyền hạn, duy trì các điểm kiểm tra, tiết lộ các dấu vết, dừng một cách dự đoán, và hỗ trợ phê duyệt của con người trước các hành động quan trọng.

Một khuôn khổ đại lý có thể ngăn chặn ảo tưởng không?

Một khuôn khổ đại lý có thể làm cho việc lấy lại, trích dẫn, xác thực, và kiêng cữ dễ thực hiện hơn, nhưng nó không thể đảm bảo đầu ra chính xác. Ứng dụng vẫn cần các nguồn đáng tin cậy, kiểm tra chứng cứ, và các đánh giá đo lường các tuyên bố không được hỗ trợ.

Các đội nên so sánh các khuôn khổ như thế nào?

Xây dựng quy trình làm việc đại diện giống hệt trong mỗi ứng cử viên và đo lường độ rõ ràng của mã, chất lượng tích hợp, hành vi trạng thái, dấu vết, độ trễ, chi phí, và xử lý sự cố. Đọc chính sách bảo trì và di chuyển, sau đó thử một sự cố công cụ thực tế và một con đường phê duyệt của con người trước khi quyết định.