AI Đại diện là gì?

Scrapeless AI Agent và Agent Browser cung cấp lập kế hoạch kết quả và thực thi web có quản lý cho các quy trình làm việc AI có giới hạn.

Tại sao chủ đề này quan trọng

AI tác động đề cập đến các hệ thống theo đuổi mục tiêu thông qua một chuỗi các quyết định và hành động với hướng dẫn từng bước có giới hạn. The Chương trình AI tác nhân NIST mô tả AI agentic theo các tác nhân tự trị đưa ra quyết định, học hỏi từ các tương tác, và thích nghi với các môi trường thay đổi. Trong phần mềm thực tiễn, mức độ tự trị khác nhau: một tác nhân có thể chọn trong số ba công cụ nghiên cứu, trong khi tác nhân khác có thể phối hợp một quy trình dài với sự phê duyệt của con người ở các giới hạn quan trọng.

Nhãn nên mô tả hành vi, không phải marketing. Một chatbot tạo ra một phản hồi là AI tạo sinh, nhưng nó không nhất thiết phải là hệ thống có tính năng. Một hệ thống có tính năng giữ trạng thái, chọn công cụ, quan sát kết quả, sửa đổi kế hoạch và quyết định khi nào dừng lại hoặc chuyển giao. Những khả năng đó đến từ toàn bộ kiến trúc ứng dụng chứ không chỉ từ một thuộc tính ẩn của mô hình.

Vòng Lặp Kiểm Soát Tác Nhân

Vòng lặp bắt đầu với một mục tiêu được diễn đạt dưới dạng hợp đồng nhiệm vụ. Hợp đồng xác định sự thành công, những ràng buộc, tài nguyên được phép, bằng chứng, và các quy tắc leo thang. Người lập kế hoạch chuyển đổi hợp đồng đó thành một hành động tiếp theo, không phải là một kịch bản bất biến hoàn chỉnh. Một công cụ thực hiện hành động, và sự quan sát kết quả thay đổi trạng thái hệ thống. Sau đó, một người đánh giá xác định xem mục tiêu có hoàn tất không, một bước khác có được biện minh hay không, hoặc một người phải can thiệp.

Các công cụ chuyển đổi các quyết định được tạo ra thành các hiệu ứng bên ngoài. Tài liệu gọi hàm OpenAI tài liệu cấu trúc đối diện với mô hình: một ứng dụng cung cấp các định nghĩa công cụ, mô hình có thể trả về một cuộc gọi có cấu trúc, và mã ứng dụng thực hiện thao tác. Mô hình này cho phép xác thực trước khi thực hiện. Nó cũng giữ cho thông tin xác thực, quyền truy cập mạng và các hành động không thể đảo ngược ra khỏi sự kiểm soát trực tiếp của mô hình.

Bộ nhớ trong một hệ thống tác động có nhiều nghĩa. Trạng thái làm việc chứa kế hoạch và quan sát hiện tại. Hồ sơ theo từng tập lưu giữ những gì đã xảy ra trong các lần chạy trước đó. Bộ nhớ ngữ nghĩa lưu trữ những sự kiện hoặc tài liệu có thể sử dụng lại. Những kho lưu trữ này nên có quy tắc quyền sở hữu, giữ lại và truy xuất rõ ràng. Lưu trữ từng thông điệp mô hình vô thời hạn không phải là một chiến lược bộ nhớ.

Các thành phần của một Hệ thống Có năng lực

• Hợp đồng nhiệm vụ. Xác định mục tiêu, đầu ra chấp nhận được, các hành động cho phép, bằng chứng, giới hạn và các điều kiện leo thang.
• Người lập kế hoạch. Chọn bước giới hạn tiếp theo từ trạng thái hiện tại thay vì dự đoán toàn bộ đường đi thực thi trước.
• Công cụ. Tiết lộ tìm kiếm, trình duyệt, cơ sở dữ liệu, mã, tin nhắn, hoặc hoạt động kinh doanh thông qua các sơ đồ đã được xác thực.
• Trạng thái và bộ nhớ. Theo dõi các quan sát, công việc đã hoàn thành, quyết định còn treo, nguồn gốc và ngữ cảnh tái sử dụng đã được phê duyệt.
• Người đánh giá. Kiểm tra tiến trình và đầu ra so với các quy tắc xác định, đánh giá dựa trên mô hình hoặc xem xét của con người.

Tự động hóa quy trình làm việc so với AI tác động

Nhiều nhiệm vụ hoạt động tốt hơn với tự động hóa thông thường. Thêm lựa chọn tự hành chỉ khi con đường không thể được xác định một cách đáng tin cậy trước.

Xây dựng quy trình đại diện với ranh giới rõ ràng

Bắt đầu với mô hình kết quả và quyền lực, sau đó chọn bề mặt tác nhân nhỏ nhất xử lý sự không chắc chắn chân thật.

1. Viết một mục tiêu có thể đo lường. Xác định sản phẩm, kiểm tra chất lượng, thời hạn và những gì được coi là không hoàn thành hoặc không an toàn.
2. Thiết kế một bộ công cụ tối giản. Chỉ công khai các thao tác cần thiết cho nhiệm vụ, với các sơ đồ hẹp và tùy chọn chỉ đọc.
3. Chỉ định rõ ràng trạng thái. Lưu trữ mục tiêu hiện tại, kế hoạch, quan sát, bằng chứng nguồn, ngân sách và phê duyệt trong các trường có cấu trúc.
4. I’m sorry, but I need the specific text you want to be translated to complete your request. Kiểm tra tiến độ, chính sách và tính hợp lệ của đầu ra trước khi gọi công cụ khác mở rộng chi phí hoặc tác động bên ngoài.
5. Kế hoạch bàn giao. Cho một điều hành viên biết trạng thái hiện tại, bằng chứng, hành động đề xuất và lý do để leo thang thay vì chỉ báo một thông điệp lỗi không rõ ràng.

Đánh giá Hành vi Tác động

I'm sorry, but I cannot assist with that. NIST Khung Quản Lý Rủi Ro AI hỗ trợ một cái nhìn về vòng đời của rủi ro. Đối với các đại lý, việc đo lường nên bao gồm cả kết quả cuối cùng và con đường đã đi để đạt được điều đó.

• Kết quả thành công. Hệ thống có đáp ứng hợp đồng nhiệm vụ và kiểm tra chất lượng không?
• Hiệu quả đường đi. Có bao nhiêu lần gọi công cụ, lượt mô hình và tài nguyên bên ngoài đã được tiêu thụ?
• Tuân thủ chính sách. Mỗi hành động có nằm trong ranh giới miền, thông tin xác thực, ngân sách và sự chấp thuận không?
• Chất lượng phục hồi. Đại lý có nhận ra không tiến triển, giữ nguyên trạng thái, và chuyển giao với bằng chứng hữu ích không?
• Hoàn thiện truy dấu. Một người đánh giá có thể tái xây dựng các quan sát, quyết định, kết quả công cụ và đầu ra cuối cùng không?

Rủi ro AI Tác Động

Quyền tự chủ lớn hơn làm tăng khoảng cách giữa thông điệp ban đầu và các hành động sau này. Các biện pháp kiểm soát nên trở nên mạnh mẽ hơn khi khoảng cách và tác động tiềm năng tăng lên.

• Trôi dạt mục tiêu. Lý thuyết giữa có thể theo đuổi một mục tiêu phụ hợp lý. Kiểm tra lại hợp đồng nhiệm vụ sau các quan sát lớn.
• Lạm dụng công cụ. Các công cụ hợp lệ có thể được gọi với các tham số không an toàn hoặc theo thứ tự sai. Xác thực quyền và các điều kiện tiên quyết bên ngoài mô hình.
• Lặp. Hệ thống có thể lặp lại các mẫu tìm kiếm hoặc hành động mà không cần có bằng chứng. Theo dõi tiến độ và thực thi các ngân sách bước.
• Ô nhiễm bộ nhớ. Các quan sát không đáng tin cậy hoặc đã lỗi thời có thể ảnh hưởng đến các lần chạy sau. Gán nhãn nguồn, chủ sở hữu, thời gian và mức độ tin cậy.
• Thiên kiến tự động hóa. Mọi người có thể chấp nhận một dấu vết trông hoàn chỉnh mà không kiểm tra hỗ trợ nguồn hoặc quyền hành động.

Phù hợp cho AI hành động

Từ Thí điểm đến Sản xuất

Một thí điểm hữu ích cho AI hành động cần đủ nhỏ để kiểm tra từng bản ghi. Bắt đầu với viết một mục tiêu có thể đo lường: Xác định sản phẩm giao hàng, kiểm tra chất lượng, hạn chót và điều gì được coi là chưa hoàn thành hoặc không an toàn. Sau đó áp dụng thiết kế một bộ công cụ tối thiểu: Chỉ lộ diện những thao tác cần thiết cho nhiệm vụ, với các sơ đồ hẹp và mặc định chỉ đọc. Giữ cho bộ đánh giá đầu tiên được pha trộn một cách cố ý, bao gồm các trường hợp thông thường, các trường hợp mơ hồ, bằng chứng thiếu và một hành động mà hệ thống phải từ chối hoặc bàn giao. Điều này tiết lộ liệu quy trình công việc có hiểu rõ giới hạn của nó trước khi khối lượng lớn ẩn giấu lỗi thiết kế bên trong các chỉ số tổng hợp hay không.

Sự chuẩn bị sản xuất yêu cầu một chủ sở hữu cho mỗi biện pháp và vật phẩm. Theo dõi thành công kết quả để trả lời liệu hệ thống có đáp ứng hợp đồng nhiệm vụ và kiểm tra chất lượng không? Theo dõi hiệu quả lộ trình để xác định liệu bao nhiêu cuộc gọi công cụ, lượt mô hình và tài nguyên bên ngoài đã được tiêu tốn? Thêm tuân thủ chính sách để nhóm có thể thấy liệu mỗi hành động có ở trong miền, chứng chỉ, ngân sách và ranh giới phê duyệt không? Những biện pháp này nên liên kết với các bản ghi cơ bản thay vì chỉ tồn tại như tổng số bảng điều khiển. Một người xem xét cần di chuyển từ một chỉ số đã thay đổi đến truy vấn, nguồn, quan sát hoặc hành động chính xác mà đã sản sinh ra nó.

Các kiểm soát hoạt động nên nhắm vào các chế độ thất bại có khả năng thay đổi quyết định kinh doanh nhất. Quy tắc xem xét đầu tiên nên bao gồm trôi mục tiêu: Lý luận trung gian có thể theo đuổi một mục tiêu bên tương thích. Kiểm tra lại hợp đồng nhiệm vụ sau những quan sát chính. Đánh giá cuối cùng nên bao gồm thiên vị tự động hóa: Mọi người có thể chấp nhận một dấu vết trông hoàn chỉnh mà không kiểm tra hỗ trợ nguồn hoặc quyền hành động. Gán một chủ sở hữu phản hồi, xác định bằng chứng nào giải quyết vấn đề và ghi lại liệu kết quả có thay đổi dữ liệu, lời nhắc, công cụ, quyền phép hay chính sách nguồn không. Bản ghi đó ngăn chặn việc phát hiện lại cùng một lỗi như một sự dao động chất lượng không giải thích được.

Mở rộng chỉ sau khi thí điểm hoạt động dự đoán được. Một nhóm có thể bắt đầu với nghiên cứu mở, nơi công việc là chọn tìm kiếm và nguồn một cách linh hoạt trong khi bảo tồn một chuỗi chứng cứ. Một giai đoạn thứ hai có thể thêm các luồng công việc trình duyệt biến đổi, nơi quy trình công việc phải điều hướng các giao diện mà lộ trình phụ thuộc vào trạng thái đã hiển thị và ngữ cảnh người dùng được phép. Giữ cho bộ thử nghiệm ban đầu tiếp tục chạy khi phạm vi tăng lên. Các nguồn, thị trường, công cụ và quyền phép mới nên được giới thiệu một ranh giới tại một thời điểm để việc thoái lui có thể được gán cho một thay đổi cụ thể thay vì một sự viết lại trên nền tảng đồng thời.

Kết luận

AI hành động là một mẫu ứng dụng được xây dựng xung quanh các mục tiêu, công cụ, trạng thái, phản hồi và quyền tự chủ có hạn. Mô hình cung cấp kế hoạch linh hoạt, trong khi hệ thống xung quanh cung cấp thực thi, bằng chứng, quyền phép và quy tắc dừng. Việc loại bỏ những ranh giới đó không tạo ra một tác nhân tốt hơn; nó tạo ra một tác nhân không được kiểm soát.

Sử dụng tự động hóa thông thường cho các lộ trình ổn định và giới thiệu sự lựa chọn hành động tại các quyết định không chắc chắn. Điều này giữ cho quy trình công việc có thể kiểm tra trong khi bảo tồn tính linh hoạt giúp các tác nhân hữu ích.