Sự phân chia lao động của các tác nhân AI sẽ rất quan trọng để tối đa hóa tác động của các tác nhân. Chúng ta đã có sự phân chia lao động trong các tổ chức từ lâu, vì việc có các chuyên gia riêng lẻ chuyển giao nhiệm vụ cho nhau hiệu quả hơn là một nhóm những người tổng quát cố gắng làm mọi thứ theo cách khác nhau mỗi lần. Các tác nhân AI thể hiện cùng một động lực. Để các tác nhân AI hoạt động, bạn cần có đúng lượng bối cảnh về nhiệm vụ mà họ đang cố gắng hoàn thành. Điều này có nghĩa là cần có sự hiểu biết sâu sắc về lĩnh vực, một tập hợp kiến thức để làm việc, hướng dẫn rõ ràng và bộ công cụ để sử dụng. Quá ít bối cảnh và tác nhân sẽ thất bại. Tuy nhiên, cũng như vậy, khi nhiều thông tin này vào trong cửa sổ bối cảnh, chúng ta biết rằng các mô hình có thể trở nên không tối ưu. Đối với một quy trình kinh doanh phức tạp, nếu bạn đưa tất cả tài liệu, mô tả quy trình làm việc và hướng dẫn vào trong cửa sổ bối cảnh, chúng ta biết rằng điều này cuối cùng có thể dẫn đến sự suy giảm bối cảnh, điều này dẫn đến kết quả tồi tệ hơn. Kiến trúc logic trong tương lai là chia các tác nhân thành các đơn vị nguyên tử phù hợp với các loại nhiệm vụ đúng và sau đó để các tác nhân này làm việc cùng nhau để hoàn thành công việc của họ. Chúng ta đã thấy điều này diễn ra hiệu quả trong các tác nhân lập trình. Có ngày càng nhiều ví dụ xuất hiện với việc mọi người thiết lập các tác nhân phụ mà tất cả đều sở hữu các phần cụ thể của mã nguồn hoặc khu vực dịch vụ. Mỗi tác nhân chịu trách nhiệm cho một phần của mã, và có tài liệu thân thiện với tác nhân cho mã. Sau đó, khi công việc cần thiết trong khu vực liên quan của mã nguồn, một tác nhân điều phối sẽ phối hợp với các tác nhân phụ này. Chúng ta có thể thấy mô hình này có khả năng áp dụng cho hầu hết mọi lĩnh vực công việc tri thức trong tương lai. Điều này sẽ cho phép các tác nhân AI được sử dụng cho nhiều hơn các trường hợp sử dụng cụ thể và mở rộng để cung cấp năng lượng cho toàn bộ quy trình làm việc trong doanh nghiệp. Ngay cả khi các mô hình AI cải thiện để có thể xử lý các cửa sổ bối cảnh lớn hơn, và mức độ thông minh tăng lên, không rõ ràng rằng kiến trúc này sẽ biến mất. Có khả năng rằng vai trò của mỗi tác nhân sẽ mở rộng khi các khả năng cải thiện, nhưng các ranh giới rõ ràng giữa các tác nhân phụ có thể luôn dẫn đến kết quả tốt hơn.