Ranh Giới Generate vs. Execute: Tại Sao Guardrail Quan Trọng

Sự cố AI phổ biến nhất trong kinh doanh không phải là lỗi model. Đó là một ranh giới bị hiểu nhầm.

Một team phê duyệt công cụ AI soạn thảo phản hồi. Đâu đó giữa demo và lúc đưa vào vận hành, "soạn thảo" biến thành "gửi đi." Không ai đưa ra quyết định đó một cách rõ ràng. Nó chỉ xảy ra, vì soạn thảo và gửi đi trông giống một bước liên tục. Sáng hôm sau khi ra mắt, AI đã gửi xong 340 email đến sai danh sách, với sai tên trong merge field mà chưa ai test thử.

Pattern thất bại này xuất hiện ở nhiều ngành khác nhau: hợp đồng do AI soạn bị tự động thực thi, hoàn tiền được xử lý mà không qua phê duyệt, lịch họp bị đặt chồng lên các booking hiện có. Trong mọi trường hợp, nguyên nhân gốc rễ đều giống nhau. Ai đó cho rằng AI sẽ dừng lại trước khi hành động. Nhưng không ai viết giả định đó xuống.

Ranh giới Generate-Execute là ranh giới quan trọng nhất trong governance AI. Generate tạo ra bản nháp: một tài liệu nằm trong context của AI, có thể xem xét và đảo ngược, không để lại hậu quả bên ngoài nào cả. Execute commit một thay đổi ra thế giới thực: tiền được chuyển, tin nhắn đến nơi, record được cập nhật, code được deploy. Đó là hai risk profile hoàn toàn khác nhau. Coi chúng như một workflow liên tục là nguồn gốc của hầu hết sự cố AI.

Bài viết này giải thích cách vạch ra ranh giới đó, quản trị nó, và xây dựng các approval pattern để ngăn sự cố xảy ra ngay từ đầu.

Sự khác biệt trong một câu

Generate tạo ra một tài liệu tồn tại trong context của AI. Execute commit một thay đổi vào các hệ thống bên ngoài AI mà người khác và các quy trình khác có thể thấy ngay lập tức.

Câu đó chứa đựng toàn bộ lập luận. Nhưng cần cụ thể hơn.

Bốn nơi ranh giới hiện diện

Sự phân biệt trừu tượng trở nên rõ ràng khi bạn thấy nó trong các workflow cụ thể. Dưới đây là bốn ví dụ, mỗi ví dụ cho thấy cùng một hoạt động trước và sau ranh giới:

Trong mỗi hàng, phía Generate tạo ra thứ có thể xem xét được: một tài liệu, một khuyến nghị, một kế hoạch. Không có gì bên ngoài AI thay đổi. Con người có thể đọc, chỉnh sửa, từ chối, hoặc cải thiện nó. Chi phí của một lỗi là bằng không, vì bản nháp chưa đi đâu cả.

Ở phía Execute, điều gì đó thực sự đã xảy ra. Tiền rời khỏi tài khoản. Code đang chạy trên production. Tin nhắn đã vào inbox của ai đó. Một giờ trong lịch của ai đó đã bị book. Đảo ngược bất kỳ điều nào trong số này đều cần nỗ lực. Một số thứ không thể đảo ngược được.

Tại sao ranh giới quan trọng

Lập luận về rủi ro rất thẳng thắn.

Lỗi Generate gây xấu hổ. Nếu AI soạn một email tệ, bạn đọc nó và không gửi. Nếu nó đề xuất số tiền hoàn trả sai, con người sẽ phát hiện ra. Nếu code nó viết có bug, developer của bạn tìm thấy trong lúc review. Lỗi Generate rẻ. Chúng nằm trong hệ thống cho đến khi con người quyết định làm gì khác.

Lỗi Execute tiêu tốn tiền, làm mất niềm tin, và thường không thể đảo ngược. Bulk send sai đến 10.000 khách hàng. Hoàn tiền trùng lặp được xử lý lúc 2 giờ sáng. Code deploy lên production làm hỏng core workflow. Lời mời họp gửi cho khách hàng với agenda sai. Những sự kiện này xảy ra ngoài đời thực, không phải trong bản nháp, và tháo gỡ chúng cần nguồn lực thực sự, đôi khi là rủi ro pháp lý.

Tính bất đối xứng này là lý do ACE Framework coi Generate và Execute là hai capability riêng biệt. Chúng trông giống nhau trên một slide. "AI soạn thảo và gửi email" nghe có vẻ là một việc. Thực ra là hai việc với risk profile và yêu cầu governance hoàn toàn khác nhau.

Governance, approval workflow, và các chính sách human-in-the-loop đều tồn tại để kiểm soát điều gì xảy ra tại điểm chuyển từ Generate sang Execute. Khi quá trình chuyển đó rõ ràng và được thiết kế chủ động, hầu hết sự cố AI không xảy ra. Khi nó ngầm định và bị giả định, chúng xảy ra.

Ranh giới trong thiết kế sản phẩm

Nếu bạn đang đánh giá các công cụ AI hoặc cấu hình workflow của mình, ranh giới Generate-Execute hiện ra như một design pattern:

1. Người dùng khởi tạo một task (hoặc trigger kích hoạt tự động)
2. AI chạy: Ingest, Analyze, Generate (tài liệu được tạo ra, không có thay đổi bên ngoài)
3. Người dùng thấy output
4. Người dùng phê duyệt (ranh giới, khoảnh khắc quan trọng nhất trong workflow)
5. Hệ thống Execute hành động trong thế giới bên ngoài

Bước 4 là bản lề. Bỏ qua nó, dù cố tình vì muốn nhanh, hay vô tình vì không ai quy định nó phải tồn tại, chính là cách email của Rachel đến tay 340 người.

Các công cụ AI xử lý việc này tốt làm cho ranh giới hiển thị rõ ràng. Intercom AI soạn phản hồi và đưa cho agent xem trước khi gửi. GitHub Copilot gợi ý hoàn thiện code nhưng không tự commit. Calendly AI đề xuất khung giờ nhưng không đặt lịch cho đến khi người nhận xác nhận. Đây không phải là hạn chế. Đây là tính năng. Bước phê duyệt tường minh chính là thứ làm cho công cụ đáng tin cậy ở quy mô lớn.

Năm pattern tại ranh giới

Không phải mọi workflow đều cần cùng một cách tiếp cận. Năm pattern dưới đây cho phép bạn calibrate dựa trên rủi ro và khối lượng:

1. Review-gate

Mọi Execute đều yêu cầu phê duyệt tường minh từ con người trước khi bất cứ điều gì xảy ra bên ngoài. Phù hợp nhất cho các hành động có giá trị cao hoặc không thể đảo ngược: hoàn tiền trên 1.000 USD, email đến tài khoản lớn, quyết định nhân sự. Hạn chế: không scale quá vài chục phê duyệt mỗi ngày. Dùng có chọn lọc.

2. Threshold

AI Execute tự động đến một ngưỡng xác định; trên đó, hành động dừng lại để xem xét. Ví dụ: AI tự động giải quyết yêu cầu hoàn tiền dưới 50 USD, gắn flag với mọi thứ cao hơn. Ngưỡng nằm trong cấu hình hệ thống, không phải tài liệu chính sách. Phù hợp nhất cho các quyết định khối lượng vừa, giá trị hỗn hợp, khi phần lớn trường hợp an toàn nhưng phần đuôi cần giám sát.

3. Reversible-only

AI chỉ có thể Execute các hành động có đường undo được hệ thống hỗ trợ. "Tạo task" thì đảo ngược được. "Gửi email" thì không. "Cập nhật field trong CRM" thì đảo ngược được. "Xóa record" thì không. Định nghĩa danh sách, rồi để AI Execute trong phạm vi đó. Phù hợp nhất cho workflow khối lượng cao khi tính không thể đảo ngược là rủi ro chính.

4. Shadow mode

Execute bị tắt hoàn toàn. Hệ thống ghi lại mọi hành động nó sẽ thực hiện nhưng không thực hiện bất kỳ hành động nào. Chạy shadow mode hai tuần, xem xét log, tìm các edge case bạn không lường trước, rồi mới bật Execute thật. Đây là cách bạn phát hiện kịch bản hoàn tiền trùng lặp lúc 2 giờ sáng trước khi nó tiêu tốn tiền thật của bạn.

5. Rate limit

AI có thể Execute tối đa N hành động mỗi khoảng thời gian, rồi dừng lại để con người review trước khi tiếp tục. Ví dụ: 50 email outreach mỗi ngày, tự động. Đến ngày thứ 51, hàng chờ tạm dừng và ai đó review batch tiếp theo. Phù hợp nhất cho workflow khối lượng cao, rủi ro cá nhân thấp, khi sự drift theo thời gian là mối lo ngại chính.

Năm pattern này không loại trừ nhau. Một workflow được thiết kế tốt có thể dùng threshold cho hoàn tiền, reversible-only cho cập nhật dữ liệu, và shadow mode trong hai tuần đầu.

Khi nào nên gộp Generate và Execute

Một số workflow không cần review gate. Gộp Generate và Execute, tức là để AI hành động mà không qua xem xét của con người, là hợp lý khi cả ba điều sau đây đều đúng:

Hành động có rủi ro thấp. Autocomplete trong tài liệu, kiểm tra chính tả, gợi ý tag trên ticket nội bộ. Nếu AI sai, chi phí không đáng kể.

Hành động rõ ràng có thể đảo ngược. Undo nhanh, được tích hợp sẵn trong giao diện, và không cần liên hệ với ai. Nếu bạn có thể sửa trong hai giây, cái gate đó có lẽ là overhead không cần thiết.

Phạm vi rõ ràng và hẹp. Autocomplete trong tài liệu của riêng bạn khác với soạn email gửi cho khách hàng. "Viết hàm này" khác với "deploy hàm này lên production."

Pattern cần để ý: các team gộp Generate và Execute vì demo trông tuyệt vời và họ muốn tốc độ. Họ bỏ qua ranh giới vì nó có vẻ quan liêu. Sáu tuần sau, họ phải giải thích với khách hàng tại sao AI gửi cho họ bảng giá của người khác.

Khi nào không bao giờ được gộp ranh giới

Một số loại hành động phải luôn có bước phê duyệt của con người, bất kể AI trông tự tin đến đâu, kết quả pilot tốt như thế nào, hay bước gate đó tốn bao nhiêu thời gian. Đây là những loại đó:

Thông tin liên lạc đối với khách hàng. Bất cứ thứ gì vào inbox, SMS, hoặc app notification của khách hàng với thương hiệu của bạn trên đó. AI có thể soạn. Con người phê duyệt.

Giao dịch tài chính. Hoàn tiền, phí, chuyển khoản, purchase order. Mặc định luôn là review. Khối lượng lớn có thể dần dần cho phép threshold automation, nhưng phải kiếm được bằng track record thực tế.

Quyết định nhân sự. Bất cứ điều gì ảnh hưởng đến tuyển dụng, thù lao, hiệu suất, hoặc chấm dứt hợp đồng. AI hỗ trợ phân tích. Con người quyết định.

Hành động nhạy cảm về pháp lý hoặc compliance. Hợp đồng, NDA, hồ sơ tuân thủ quy định, bất cứ điều gì tạo ra nghĩa vụ pháp lý hoặc có thể bị cơ quan quản lý kiểm tra.

Xóa bất kỳ loại nào. Xóa là lỗi Execute khó đảo ngược nhất. Shadow mode trước, thêm review gate, rồi chỉ xem xét automation nếu khối lượng thực sự bắt buộc.

Autonomous agent và ranh giới

Autonomous agent là deployment pattern có rủi ro cao nhất trong ACE Framework. Chúng kết hợp cả năm capability trong một vòng lặp, chạy về phía mục tiêu với nhiều hành động Execute trên đường đi. Mỗi Execute bên trong vòng lặp là một sự cố tiềm ẩn.

Rủi ro cộng hưởng. Một agent phân loại sai input (lỗi Analyze) có thể soạn phản hồi sai (lỗi Generate) rồi Execute phản hồi sai đó trên mười hệ thống downstream trước khi vòng lặp hoàn thành. Khi con người review log, thiệt hại đã xảy ra ở nhiều bước.

Ba quy tắc cho Execute bên trong vòng lặp autonomous agent: Thứ nhất, viết ra cụ thể những hành động Execute nào agent được phép thực hiện. "Tạo task. Cập nhật stage trong CRM. Không gửi email ra bên ngoài. Không xóa record." Thứ hai, đặt trần cứng về số hành động Execute mỗi giờ hoặc mỗi lần chạy, và chỉ nới rộng khi audit history cho phép. Thứ ba, ghi log đầy đủ decision trace cho mọi hành động Execute, bao gồm những gì agent đã ingest, analyze, generate, và execute, kèm timestamp. Log đó là cách duy nhất để hiểu điều gì đã xảy ra khi có sự cố, và sự cố sẽ xảy ra.

Sự cố thực tế tại ranh giới

Đây là các failure pattern thực sự xảy ra. Không phải giả thuyết. Đây là pattern từ các deployment thực tế.

Email do AI soạn bị gửi mà không qua review. Một lỗi filter đưa 15.000 contact đã unsubscribe vào chuỗi outreach. AI soạn và gửi qua đêm. Sáng hôm sau: 400 lần hủy đăng ký, 30 phản hồi tức giận, và một vụ leo thang pháp lý.

Hoàn tiền gian lận được AI phê duyệt. AI của team support tự động xử lý hoàn tiền cho các khiếu nại dưới 200 USD. Một kẻ xấu gửi 60 khiếu nại gần như giống hệt nhau. AI xử lý hết 60 cái trước khi bất kỳ pattern nào trigger cảnh báo cho con người. 12.000 USD rời khỏi tài khoản.

Autonomous code deploy làm hỏng production. Một CI/CD pipeline tự động merge pull request đã vượt qua tất cả automated test. Thay đổi đó làm hỏng một downstream integration mà test không cover. Bốn giờ để giải quyết, 800 khách hàng bị ảnh hưởng.

AI đặt lịch họp đè lên booking hiện có. Một scheduling AI dời lịch cuộc gọi với khách hàng để phù hợp với yêu cầu mới mà không thông báo gì cho khách hàng ban đầu. Họ leo thang lên account team.

Mỗi sự cố có chung một nguyên nhân gốc: ai đó cho rằng AI sẽ dừng lại trước khi hành động, và không ai viết giả định đó xuống.

Xây dựng chính sách Generate-Execute

Chính sách không cần dài. Nó cần cụ thể và được chia sẻ rộng rãi. Đây là template:

Những hành động nào là auto-Execute? Liệt kê cụ thể. "Gửi thông báo đến các kênh nội bộ. Tạo task trong hệ thống quản lý dự án. Cập nhật lead stage trong CRM khi deal được đánh dấu đã đóng." Nếu không có trong danh sách này, nó không phải auto-Execute.

Điều gì yêu cầu phê duyệt của con người? Mặc định: mọi thứ còn lại. Thông tin liên lạc với khách hàng, giao dịch tài chính, và xóa dữ liệu luôn yêu cầu phê duyệt bất kể quy mô.

Ai phê duyệt? Đặt tên vai trò, không phải tên người. "Account owner phê duyệt thông tin liên lạc với khách hàng. Finance team lead phê duyệt giao dịch trên 500 USD. Engineering manager phê duyệt merge vào nhánh chính." Một người phê duyệt cho mỗi loại hành động.

Những gì được log? Tất cả. Những gì AI đã thấy, những gì nó quyết định, những gì nó đã Execute, ai đã phê duyệt (hoặc lý do tự động phê duyệt), và timestamp. Lưu tối thiểu 90 ngày. Quyền truy cập audit cho bất kỳ ai quản lý workflow.

Khi nào chính sách được review? Hàng quý. Cộng với review ngay lập tức sau bất kỳ sự cố nào, bất kể mức độ nghiêm trọng.

Viết nó xuống. Để nó ở nơi cả team có thể tìm thấy.

Kết luận

Ranh giới Generate-Execute là ranh giới quan trọng nhất trong governance AI. Vạch ra nó một cách có chủ ý, và bạn sẽ ngăn được hầu hết sự cố AI trước khi chúng xảy ra. Bỏ qua nó, và bạn sẽ khám phá ra nó theo cách đắt tiền hơn nhiều.

Generate là mạnh mẽ. Execute là có hậu quả thực. Khoảng cách giữa chúng chính xác là một bước phê duyệt, và bước đó xứng đáng được bảo vệ.

---

Nên đọc tiếp theo

• Capability Generate: sáu sub-capability của Generate và các failure mode cần thiết kế xung quanh
• Capability Execute: điều gì xảy ra khi AI ngừng tạo bản nháp và bắt đầu thay đổi thế giới thực
• ACE Framework: Generate và Execute nằm vào đâu trong bản đồ năm capability đầy đủ cùng với Ingest, Analyze, và Predict
• Tại sao hầu hết AI framework thất bại: tại sao từ vựng quan trọng hơn slide chiến lược khi bạn đưa ra quyết định thực tế
• Gắn thẻ sáng kiến AI: cách đánh dấu Execute workflow để team theo dõi scope và rủi ro trên toàn bộ các dự án
• Đọc AI use case: áp dụng từ vựng ACE cho bất kỳ vendor pitch nào, kể cả những cái liên quan đến Execute