Khoảng cách trách nhiệm AI: Khi các thuật toán mắc sai lầm triệu đô, ai sẽ chịu trách nhiệm?

Vào tháng 1 năm 2021, chính phủ Hà Lan đã từ chức. Không phải vì một cuộc chiến hay một vụ tham nhũng — mà là vì một thuật toán. Hệ thống đánh giá rủi ro của cơ quan thuế đối với các khoản trợ cấp chăm sóc trẻ em đã coi quốc tịch như một chỉ số gian lận, và khoảng 35.000 bậc phụ huynh — chủ yếu là các gia đình có quốc tịch kép hoặc không phải quốc tịch Hà Lan — đã bị gán nhãn sai là kẻ gian lận, bị yêu cầu hoàn trả hàng chục nghìn euro, và bị đẩy vào nợ nần, ly hôn, và mất nhà. Đối với các bậc phụ huynh của hơn 2.000 trẻ em, chuỗi sự kiện đã kết thúc với việc trẻ em bị đưa vào chăm sóc.

Dưới đây là chi tiết khiến toeslagenaffaire trở thành vụ án nền tảng về trách nhiệm của AI: trong nhiều năm, không ai có thể bị chỉ trích. Các bậc phụ huynh bị ảnh hưởng không thể biết lý do tại sao họ bị đánh dấu. Nhân viên xử lý hồ sơ đã dựa vào hệ thống. Hệ thống không có tác giả để chịu trách nhiệm. Khi cơ quan bảo vệ dữ liệu Hà Lan cuối cùng đã phạt cơ quan thuế 2,75 triệu euro, một triệu trong số đó là cho một hành động cụ thể — sử dụng quốc tịch như một chỉ số trong mô hình phân loại rủi ro.

Khoảng trống đó — giữa một quyết định thuật toán và bất kỳ con người nào có thể chịu trách nhiệm cho nó — là khoảng cách trách nhiệm AI. Bài viết này nói về những gì lấp đầy khoảng trống đó: những thảm họa đã được ghi nhận, ba thất bại khác nhau ẩn chứa bên trong khoảng trống, các quy tắc hiện đang hội tụ vào cùng một yêu cầu từ Brussels đến New York, và giải pháp cấu trúc không chờ đợi một cơ quan quản lý.

Những sai lầm chưa bao giờ là giả thuyết.

Bằng chứng mạnh mẽ nhất cho thấy các quyết định tự động không có trách nhiệm thường sai lầm là chúng đã xảy ra — nhiều lần, tốn kém, và chủ yếu là trước làn sóng AI ngày nay. Bốn trường hợp đã được ghi nhận, mỗi trường hợp mang một bài học khác nhau:

Hãy chú ý đến những điểm chung của bốn trường hợp này. Trong mỗi trường hợp, quá trình ra quyết định đã được tự động hóa; hậu quả rơi vào tay con người hoặc vào bảng cân đối kế toán; và tổ chức đã gặp khó khăn sau đó để chỉ ra ai đã đánh giá điều gì, dựa trên cơ sở nào. Các mô hình thì khác nhau, nhưng sự thất bại thì giống nhau — và không có gì trong số đó yêu cầu một mô hình ngôn ngữ lớn. Những gì AI ngày nay thay đổi chỉ là khối lượng và sự lưu loát của các khuyến nghị chảy vào các quyết định.

Ba thất bại ẩn mình trong khoảng trống

"Trách nhiệm của AI" thường được sử dụng như một khái niệm chung, nhưng các nhà quản lý coi đó là ba câu hỏi riêng biệt — và một tổ chức có thể vượt qua một câu hỏi trong khi thất bại ở những câu hỏi khác. Việc nhầm lẫn chúng là tốn kém.

Giải thích trả lời tại sao hệ thống lại tạo ra đầu ra này? Công cụ hiện đại có thể tạo ra các giải thích sau khi sự việc xảy ra — các thuộc tính đặc trưng, độ nổi bật, lý do bằng ngôn ngữ tự nhiên. Hữu ích, nhưng khả năng giải thích tổng hợp ("mô hình thường đánh giá cao thu nhập") không phải là câu trả lời về người nộp đơn này vào ngày này — điều mà các quy tắc hành động bất lợi và quyền giải thích thực sự yêu cầu.

Tính khả thi kiểm toán trả lời bạn có thể chứng minh quyết định cụ thể này đã xảy ra như thế nào không? Một lời giải thích được tạo ra theo yêu cầu, nhiều tháng sau đó, từ một mô hình đã được huấn luyện lại, là một sự tái tạo — không phải là một bản ghi. Sự khác biệt giữa một bản ghi đồng thời và một sự biện minh sau đó là sự khác biệt giữa bằng chứng và một câu chuyện. Tính khả thi kiểm toán có nghĩa là các đầu vào, đầu ra, phiên bản mô hình và bất kỳ đánh giá nào của con người đều được ghi lại tại thời điểm quyết định và không thể bị chỉnh sửa một cách lén lút sau đó.

Trách nhiệm trả lời ai là người chịu trách nhiệm? Đây là điều mà không công cụ nào có thể tạo ra sau khi sự việc đã xảy ra. Nếu câu trả lời trung thực cho "ai đã quyết định?" là "mô hình," thì tổ chức đã ủy quyền một phán quyết mà không ai sở hữu — và khi thiệt hại xuất hiện, trách nhiệm sẽ được giao cho một cơ quan quản lý, một tòa án, hoặc một Ủy ban Hoàng gia, theo điều kiện của họ chứ không phải của bạn. Cấu trúc của một hồ sơ trả lời cả ba câu hỏi là một chủ đề riêng — chúng tôi đi qua từng lĩnh vực trong dấu vết kiểm toán quyết định AI.

Các quy tắc đang hội tụ vào cùng một yêu cầu.

Cảnh quan quy định thực sự đang chuyển động — bao gồm một sự thay đổi lớn về ngày tháng vào năm 2026 — nhưng hướng đi là một chiều: các quyết định tự động có hậu quả phải có thể truy nguyên đến lý do đã được ghi lại và sự giám sát của con người. Tại EU, Đạo luật AI áp dụng cách tiếp cận dựa trên rủi ro: các lệnh cấm hoàn toàn đã có hiệu lực từ tháng 2 năm 2025 và các nghĩa vụ đối với AI đa mục đích từ tháng 8 năm 2025, trong khi các nghĩa vụ nặng nề đối với các hệ thống "rủi ro cao" (danh sách Phụ lục III bao gồm việc làm, tín dụng, giáo dục, dịch vụ thiết yếu, thực thi pháp luật và nhiều hơn nữa) — ghi chép, tài liệu kỹ thuật, giám sát của con người, đánh giá sự phù hợp — đã bị hoãn lại bởi Digital Omnibus năm 2026 đến ngày 2 tháng 12 năm 2027 (tháng 8 năm 2028 đối với AI được nhúng trong các sản phẩm được quản lý). Các hình phạt ở mức cao nhất lên tới 35 triệu euro hoặc 7% doanh thu toàn cầu.

Tuy nhiên, EU không bắt đầu từ đó. Điều 22 GDPR đã hạn chế các quyết định hoàn toàn tự động có hiệu lực pháp lý hoặc tương tự quan trọng kể từ năm 2018 — và trong phán quyết SCHUFA (tháng 12 năm 2023), Tòa án Công lý đã phán quyết rằng điểm số của một cơ quan tín dụng chính là một quyết định tự động khi các nhà cho vay dựa vào nó một cách nặng nề. Ranh giới của "quyết định tự động" rộng hơn so với những gì hầu hết các đội ngũ tuân thủ đã giả định.

Hoa Kỳ quản lý theo từng lĩnh vực, và thông điệp phù hợp. Thông tư 2022-03 của CFPB nêu rõ rằng các yêu cầu về hành động bất lợi của ECOA không thể bị uốn cong vì sự phức tạp: một chủ nợ không thể đưa ra lý do cụ thể, chính xác cho việc từ chối có thể không sử dụng thuật toán khiến những lý do đó trở nên không thể biết được. Luật địa phương 144 của Thành phố New York yêu cầu kiểm toán thiên lệch hàng năm và thông báo cho ứng viên về các công cụ tuyển dụng tự động. Và áp lực có một bối cảnh bằng chứng: Phân tích năm 2021 của The Markup về hàng triệu đơn xin vay thế chấp — giữ 17 yếu tố thẩm định không đổi — cho thấy các chủ nợ có khả năng từ chối các ứng viên da màu cao hơn 40–80% so với các ứng viên da trắng tương đương, một phát hiện mà các cơ quan liên bang đã trích dẫn khi khởi động việc thực thi luật cho vay công bằng mới. Những mẫu như vậy chính là lý do tồn tại của một dấu vết kiểm toán để phát hiện nội bộ, trước khi một phòng tin tức điều tra hoặc một cơ quan quản lý đưa chúng ra cho bạn.

Đây không phải là vấn đề của các ngân hàng và chính phủ sao, chứ không phải của chúng ta?

Một phần đúng, và đáng để nói rõ. Hầu hết các quyết định kinh doanh được đưa ra với sự hỗ trợ của AI — một lựa chọn chiến lược, một sự lựa chọn nhà cung cấp, một quyết định sản phẩm — không nằm trong danh sách rủi ro cao của Đạo luật AI EU, và những nghĩa vụ nặng nề nhất của Đạo luật này hiện tại không ràng buộc ai cho đến cuối năm 2027. Nếu lý do duy nhất của bạn để quan tâm là một đạo luật, bạn có thời gian.

Nhưng hãy nhìn lại danh sách các trường hợp: mọi thảm họa trong đó xảy ra trước các quy tắc hiện tại giải quyết nó. Quy định là kết quả của thiệt hại, và thiệt hại không bao giờ cần một danh mục tuân thủ — nó cần một phán quyết tự động mà không ai sở hữu. Mối quan tâm thực tiễn đối với một tổ chức bình thường không phải là một khoản tiền phạt; đó là khoảnh khắc một khách hàng, một thành viên hội đồng, hoặc chính bản báo cáo sau khi sự việc xảy ra hỏi "tại sao chúng ta lại quyết định như vậy?" và câu trả lời trong hồ sơ là điểm số tự tin của mô hình. Trách nhiệm rất dễ ghi lại vào thời điểm quyết định và không thể tái tạo một cách trung thực sau đó — sự bất đối xứng đó, chứ không phải lịch trình thực thi, là lý do để bắt đầu ngay bây giờ.

Thu hẹp khoảng cách: một phán quyết được nêu cho mọi quyết định có hậu quả

Giải pháp không phải là ít AI — các khuyến nghị thực sự hữu ích — và nó không phải là một tập hợp quản trị. Đó là một thói quen cấu trúc: mỗi quyết định quan trọng bị ảnh hưởng bởi AI đều có một phán quyết của con người được ghi lại cùng với lý do của nó, vào thời điểm nó được đưa ra. Hệ thống đã khuyến nghị gì; người đó đã quyết định gì; tại sao. Ba trường thông tin, được giữ một cách trung thực, gần như lấp đầy khoảng trống — chúng cung cấp chủ đề cho lời giải thích, hồ sơ cho việc kiểm toán, và tên cho trách nhiệm. Kỹ thuật xung quanh điều này — lưu trữ, ghi chép, bằng chứng không bị giả mạo, các chi tiết quy định — là chủ đề của theo dõi quyết định AI, phần thứ ba của loạt bài này.

Nơi Argumentree phù hợp — và nơi mà anh em của nó phù hợp

Argumentree hiện thực hóa chính thói quen đó cho các quyết định hỗ trợ bởi AI với con người tham gia. AI trích xuất và cấu trúc các lập luận và bằng chứng xung quanh một câu hỏi thành một cây pro/con — nhưng con người đánh giá, phản biện và xếp hạng các lập luận, và kết quả được ghi lại cùng với lý do của nó. Kết quả là một hồ sơ quyết định nơi bạn luôn có thể thấy những gì máy móc đã đưa ra, những gì con người đã đánh giá, ai đã quyết định và tại sao — khoảng cách trách nhiệm được thu hẹp bằng cách xây dựng chứ không phải bằng chính sách.

Trách nhiệm không biến mất. Nó chỉ được giao cho người khác sau này.

Cuối cùng, các bậc phụ huynh Hà Lan đã nhận được câu trả lời — từ các cuộc điều tra của quốc hội, một cơ quan bảo vệ dữ liệu, và sự từ chức của chính phủ. Các nạn nhân của Robodebt đã nhận được câu trả lời từ một Ủy ban Hoàng gia. Trong cả hai trường hợp, trách nhiệm mà đã thiếu trong thời điểm quyết định đã được tái tạo sau đó, với chi phí khổng lồ, bởi các tổ chức có quyền triệu tập và không có nghĩa vụ phải nhân đạo. Đó là sự lựa chọn thực sự mà khoảng cách trách nhiệm đặt ra: ghi lại phán quyết của con người ngay bây giờ, hoặc để ai đó phân bổ trách nhiệm sau này.

Các tổ chức sẽ cảm thấy thoải mái trong kỷ nguyên thực thi sắp tới — và, quan trọng hơn, thoải mái với các quyết định của chính họ — là những tổ chức coi mọi lựa chọn quan trọng bị ảnh hưởng bởi AI như cách họ coi một hợp đồng đã ký: được soạn thảo, có lý do, có ngày tháng, và được ghi lại. Cơ chế cho điều đó không phải là điều kỳ lạ. Đó là một quy trình ra quyết định trong đó AI đề xuất, một người được chỉ định quyết định, và lý do tồn tại. (Hướng đi của kỷ luật đó ở cấp hội đồng — và những gì luật án đã yêu cầu từ trước đến nay — là chủ đề của phòng họp hội đồng vào năm 2030.)