Trí tuệ nhân tạo đang ngày càng được đưa vào nhiều hoạt động của doanh nghiệp và đời sống, từ chăm sóc khách hàng, phân tích dữ liệu, tự động hóa quy trình cho đến hỗ trợ ra quyết định. Khi AI có ảnh hưởng ngày càng lớn đến con người, câu hỏi không còn chỉ là hệ thống có hoạt động chính xác hay không, mà còn là nó được xây dựng, triển khai và sử dụng theo cách nào.
Đây chính là bối cảnh hình thành khái niệm Responsible AI – AI có trách nhiệm.
Responsible AI là gì?
Responsible AI có thể được hiểu là cách tiếp cận nhằm bảo đảm các hệ thống trí tuệ nhân tạo được thiết kế, phát triển, triển khai và vận hành phù hợp với các nguyên tắc về đạo đức, pháp luật và lợi ích xã hội.
Một hệ thống AI tốt vì vậy không chỉ cần đạt hiệu suất cao. Nó còn cần hạn chế những tác động không mong muốn, bảo vệ quyền lợi của người sử dụng và cho phép con người hiểu cũng như kiểm soát những quyết định quan trọng do hệ thống tạo ra.
Responsible AI cũng nhấn mạnh vai trò của con người. AI có thể hỗ trợ phân tích và đưa ra đề xuất, nhưng trong những tình huống có tác động lớn đến con người, việc giám sát và quyết định cuối cùng vẫn cần được xem xét một cách phù hợp.
Những nguyên tắc quan trọng của Responsible AI
1. Minh bạch
Người sử dụng cần có khả năng hiểu ở mức phù hợp về cách một hệ thống AI vận hành, dữ liệu nào được sử dụng và những yếu tố nào có thể ảnh hưởng đến kết quả.
Minh bạch không nhất thiết có nghĩa là mọi người đều phải hiểu từng dòng mã của một mô hình. Quan trọng hơn là tổ chức phải cung cấp đủ thông tin để người dùng, nhà quản lý hoặc các bên liên quan có thể đánh giá và sử dụng hệ thống một cách có cơ sở.
2. Trách nhiệm giải trình
Khi AI tạo ra một kết quả gây ảnh hưởng đến người dùng, cần xác định rõ ai chịu trách nhiệm đối với hệ thống đó.
Doanh nghiệp không nên xem AI như một thực thể độc lập để đẩy trách nhiệm cho máy móc. Cần có cơ chế quản trị, giám sát và xử lý sự cố trong suốt vòng đời của hệ thống, đặc biệt đối với những ứng dụng liên quan đến tài chính, y tế, pháp lý hoặc các quyết định quan trọng khác.
3. Công bằng và hạn chế thiên vị
AI học từ dữ liệu. Nếu dữ liệu chứa những sai lệch hoặc không đại diện đầy đủ cho các nhóm người khác nhau, mô hình có thể tiếp nhận và khuếch đại những sai lệch đó.
Vì vậy, quá trình xây dựng AI cần chú ý đến chất lượng và tính đại diện của dữ liệu, đồng thời thường xuyên kiểm tra kết quả của mô hình để phát hiện những biểu hiện thiên vị.
Mục tiêu không chỉ là tạo ra một mô hình có độ chính xác cao về mặt tổng thể mà còn hạn chế những tác động bất lợi không hợp lý đối với từng nhóm người dùng.
4. Bảo mật và quyền riêng tư
AI thường cần một lượng lớn dữ liệu để huấn luyện và vận hành. Trong số đó có thể xuất hiện dữ liệu cá nhân hoặc những thông tin nhạy cảm.
Responsible AI vì thế phải gắn với việc bảo vệ dữ liệu ngay từ khâu thu thập, lưu trữ, xử lý cho đến sử dụng. Doanh nghiệp cần xác định rõ dữ liệu nào được phép sử dụng, sử dụng vào mục đích gì và những biện pháp nào được áp dụng để hạn chế nguy cơ rò rỉ hoặc sử dụng sai mục đích.
Vì sao doanh nghiệp cần quan tâm đến Responsible AI?
Việc đưa Responsible AI vào chiến lược phát triển AI có thể mang lại nhiều giá trị.
Thứ nhất, bảo vệ dữ liệu và quyền riêng tư. Các hệ thống AI cần được thiết kế để việc xử lý dữ liệu tuân thủ những yêu cầu pháp lý và quy định nội bộ liên quan.
Thứ hai, hạn chế bias. Kiểm tra dữ liệu và kết quả mô hình giúp doanh nghiệp phát hiện sớm những vấn đề có thể dẫn đến đối xử không công bằng.
Thứ ba, tăng khả năng giải thích. Khi người dùng có thể hiểu tại sao hệ thống đưa ra một kết quả nhất định, họ sẽ có cơ sở tốt hơn để đánh giá và sử dụng kết quả đó.
Thứ tư, kiểm soát rủi ro của tự động hóa. Khi AI được sử dụng để tự động hóa ngày càng nhiều quy trình, một lỗi trong hệ thống có thể được nhân rộng trên quy mô lớn. Các cơ chế kiểm soát giúp giảm khả năng những lỗi như vậy gây ra hậu quả đáng kể.
Thứ năm, xây dựng niềm tin. Một sản phẩm AI đáng tin cậy không chỉ phụ thuộc vào độ chính xác của mô hình mà còn phụ thuộc vào cách doanh nghiệp bảo vệ người dùng và xử lý những vấn đề phát sinh.
Những khó khăn khi triển khai Responsible AI
Responsible AI không phải là một quy trình có thể triển khai một lần rồi hoàn thành. Doanh nghiệp phải duy trì việc đánh giá và cải tiến trong suốt vòng đời của hệ thống.
Cân bằng giữa đổi mới và trách nhiệm
Doanh nghiệp luôn muốn đưa công nghệ mới vào hoạt động nhanh chóng. Trong khi đó, việc bổ sung các bước kiểm tra về đạo đức, an toàn và pháp lý có thể khiến quá trình phát triển trở nên phức tạp hơn.
Thách thức nằm ở việc xây dựng quy trình đủ chặt chẽ để kiểm soát rủi ro nhưng vẫn tạo điều kiện cho đổi mới.
Đội ngũ phát triển chưa đủ đa dạng
Một nhóm phát triển có góc nhìn quá đồng nhất có thể khó nhận diện những vấn đề ảnh hưởng đến các nhóm người mà họ ít có trải nghiệm thực tế.
Sự đa dạng về chuyên môn, kinh nghiệm và góc nhìn có thể giúp quá trình đánh giá hệ thống toàn diện hơn, đặc biệt khi AI được sử dụng cho số lượng lớn người dùng.
Công nghệ thay đổi nhanh
AI phát triển với tốc độ rất cao. Những kỹ thuật, mô hình và cách thức ứng dụng mới liên tục xuất hiện, trong khi quy định pháp lý và các chuẩn mực quản trị cần thời gian để thích ứng.
Do đó, thay vì chỉ xây dựng quy định cho từng trường hợp cụ thể, doanh nghiệp cần hình thành những nguyên tắc quản trị có khả năng áp dụng linh hoạt cho nhiều loại hệ thống AI.
Khó định lượng các yếu tố đạo đức
Không phải mọi vấn đề liên quan đến trách nhiệm AI đều có thể biểu diễn bằng một chỉ số đơn giản.
Doanh nghiệp có thể kết hợp nhiều phương pháp đánh giá, chẳng hạn kiểm tra mức độ thiên vị, theo dõi độ tin cậy của mô hình, khảo sát trải nghiệm người dùng và ghi nhận các sự cố phát sinh trong thực tế.
Nguồn lực triển khai
Xây dựng một chương trình Responsible AI hoàn chỉnh có thể yêu cầu nhân sự, công nghệ và ngân sách đáng kể. Đây có thể là trở ngại đối với các tổ chức có nguồn lực hạn chế.
Một cách tiếp cận thực tế là triển khai từng bước, bắt đầu từ những hoạt động có tác động lớn như đào tạo đội ngũ, xây dựng quy trình đánh giá dữ liệu và thiết lập cơ chế kiểm tra trước khi đưa mô hình vào sử dụng.
Responsible AI nên được xem là một quá trình liên tục
AI có trách nhiệm không chỉ là một bộ quy tắc dành cho nhóm kỹ thuật. Đây là vấn đề liên quan đến toàn bộ vòng đời của sản phẩm AI, từ xác định bài toán, thu thập dữ liệu, xây dựng mô hình, kiểm thử, triển khai cho đến giám sát sau khi đưa vào vận hành.
Một hệ thống AI có trách nhiệm cần đạt được sự cân bằng giữa hiệu quả công nghệ và những yêu cầu về an toàn, công bằng, minh bạch, quyền riêng tư và trách nhiệm của con người.
Khi AI ngày càng tham gia sâu vào các hoạt động kinh doanh và xã hội, Responsible AI sẽ trở thành một phần quan trọng trong cách tổ chức xây dựng niềm tin đối với công nghệ. Thay vì chỉ đặt câu hỏi “AI có thể làm được gì?”, doanh nghiệp cũng cần đặt câu hỏi “AI nên được sử dụng như thế nào để tạo ra giá trị mà vẫn bảo vệ con người?”.
Đó là nền tảng để AI phát triển theo hướng bền vững và tạo ra giá trị lâu dài.