Sự phát triển của trí tuệ nhân tạo, đặc biệt là các mô hình ngôn ngữ lớn (LLM), đang mở ra nhiều khả năng ứng dụng trong lĩnh vực y tế như hỗ trợ tra cứu thông tin, tóm tắt hồ sơ bệnh án, phân tích dữ liệu, hỗ trợ nhân viên y tế giao tiếp với người bệnh và cung cấp các công cụ hỗ trợ ra quyết định. Tuy nhiên, AI cũng tồn tại những rủi ro đáng kể. Mô hình có thể tạo ra thông tin không chính xác, suy diễn ngoài dữ liệu được cung cấp, tiết lộ thông tin cá nhân hoặc đưa ra những nội dung không phù hợp với bối cảnh y khoa.
Trong môi trường y tế, những sai sót này có mức độ nghiêm trọng cao hơn nhiều so với các ứng dụng AI thông thường, bởi một câu trả lời không chính xác có thể ảnh hưởng trực tiếp đến sức khỏe, quyền riêng tư và sự an toàn của người bệnh. Vì vậy, bên cạnh việc cải thiện chất lượng mô hình, các hệ thống AI y tế cần có một lớp kiểm soát độc lập để kiểm tra dữ liệu trước và sau khi mô hình xử lý. Đây chính là vai trò của AI Guardrails – hệ thống rào chắn bảo vệ AI.
1. AI Guardrails là gì?
AI Guardrails có thể được hiểu là tập hợp các quy tắc, bộ lọc, cơ chế xác thực và chính sách được đặt xung quanh hệ thống AI nhằm kiểm soát cách AI tiếp nhận dữ liệu, xử lý yêu cầu và tạo ra phản hồi. Thay vì chỉ dựa vào bản thân mô hình hoặc một câu lệnh hệ thống để yêu cầu AI hoạt động an toàn, Guardrails tạo thêm một lớp kiểm tra bên ngoài mô hình.
Về cơ bản, Guardrails hoạt động ở nhiều điểm trong quy trình xử lý. Ở phía đầu vào, hệ thống kiểm tra yêu cầu của người dùng và dữ liệu được đưa vào mô hình. Ở phía đầu ra, hệ thống đánh giá câu trả lời do AI tạo ra trước khi cho phép câu trả lời được hiển thị hoặc sử dụng trong quy trình nghiệp vụ. Ngoài ra, các lớp kiểm soát còn có thể quản lý nguồn dữ liệu mà AI được phép truy cập, quyền thực hiện hành động và việc tuân thủ các chính sách của tổ chức.
Có thể hình dung Guardrails giống như một hệ thống kiểm soát nhiều lớp: AI vẫn thực hiện nhiệm vụ, nhưng không được phép tự do đưa bất kỳ dữ liệu hoặc câu trả lời nào ra ngoài hệ thống nếu chưa vượt qua các điều kiện an toàn đã được thiết lập.
2. Vì sao Guardrails đặc biệt cần thiết trong y tế?
Y tế là lĩnh vực đòi hỏi mức độ chính xác, bảo mật và trách nhiệm rất cao. Dữ liệu được xử lý có thể bao gồm thông tin định danh, tiền sử bệnh, kết quả xét nghiệm, hình ảnh y khoa, thông tin điều trị và nhiều dữ liệu sức khỏe nhạy cảm khác.
Trong khi đó, các mô hình AI tạo sinh không phải lúc nào cũng phân biệt được giữa thông tin đúng và thông tin có vẻ hợp lý nhưng thực tế không chính xác. Một mô hình có thể tạo ra câu trả lời rất thuyết phục nhưng vẫn chứa sai sót. Vì vậy, việc một hệ thống AI trả về kết quả thành công không đồng nghĩa với việc kết quả đó an toàn hoặc có thể sử dụng trực tiếp trong quyết định lâm sàng.
Guardrails giúp bổ sung một cơ chế kiểm tra độc lập nhằm giảm những rủi ro này. Chúng không biến AI thành một hệ thống tuyệt đối không có lỗi, nhưng có thể làm giảm khả năng các lỗi nghiêm trọng đi đến người dùng hoặc được sử dụng trực tiếp trong quy trình chăm sóc người bệnh.
3. Kiểm soát ảo giác và thông tin y khoa không chính xác
Một trong những rủi ro quan trọng nhất của AI tạo sinh là hallucination (ảo giác AI). Đây là hiện tượng mô hình tạo ra thông tin nghe có vẻ hợp lý nhưng không có căn cứ hoặc không phù hợp với dữ liệu thực tế.
Trong y tế, hiện tượng này đặc biệt nguy hiểm. AI có thể tạo ra một triệu chứng không có trong hồ sơ, diễn giải sai kết quả xét nghiệm, đưa ra một tài liệu tham khảo không tồn tại hoặc đề xuất thông tin điều trị không phù hợp.
Guardrails đầu ra có thể được sử dụng để kiểm tra mức độ phù hợp của câu trả lời với dữ liệu nguồn, phát hiện mâu thuẫn, kiểm tra tính nhất quán và xác định những nội dung không có căn cứ. Với các hệ thống sử dụng RAG, Guardrails còn có thể yêu cầu câu trả lời dựa trên những nguồn kiến thức đã được phê duyệt thay vì để mô hình tự do suy diễn.
Ví dụ, nếu một hệ thống AI hỗ trợ bác sĩ tổng hợp hồ sơ bệnh nhân, lớp kiểm soát có thể phát hiện trường hợp câu trả lời đề cập đến một thông tin không xuất hiện trong hồ sơ hoặc không có trong nguồn dữ liệu y khoa được hệ thống cho phép sử dụng.
4. Bảo vệ dữ liệu và thông tin nhận dạng người bệnh
Bảo mật dữ liệu là một trong những yêu cầu quan trọng nhất khi triển khai AI trong bệnh viện và các tổ chức chăm sóc sức khỏe.
Dữ liệu bệnh nhân có thể chứa nhiều thông tin nhận dạng cá nhân và thông tin sức khỏe nhạy cảm. Nếu những dữ liệu này được đưa vào mô hình hoặc xuất hiện trong phản hồi mà không được kiểm soát, hệ thống có thể tạo ra nguy cơ rò rỉ thông tin.
Input Guardrails có thể kiểm tra dữ liệu trước khi gửi đến mô hình, nhận diện các thông tin nhạy cảm và thực hiện việc che giấu hoặc loại bỏ những trường dữ liệu không cần thiết. Output Guardrails tiếp tục kiểm tra phản hồi để đảm bảo AI không vô tình đưa thông tin cá nhân của người bệnh vào kết quả trả về.
Cơ chế này đặc biệt quan trọng khi hệ thống AI được kết nối với hồ sơ bệnh án điện tử, cơ sở dữ liệu bệnh nhân hoặc các hệ thống thông tin nội bộ. Tùy theo quốc gia và môi trường triển khai, hệ thống còn phải đáp ứng các quy định về bảo vệ dữ liệu và thông tin y tế tương ứng, chẳng hạn HIPAA tại Hoa Kỳ.
5. Ngăn chặn nội dung nguy hiểm hoặc không phù hợp
AI y tế có thể được sử dụng để giải thích thông tin sức khỏe cho người dùng, nhưng không phải mọi yêu cầu đều nên được hệ thống trả lời trực tiếp.
Guardrails có thể phân loại nội dung đầu vào và đầu ra để nhận diện những yêu cầu có nguy cơ gây hại, nội dung không phù hợp hoặc những trường hợp vượt quá phạm vi mà hệ thống được phép cung cấp.
Chẳng hạn, một chatbot y tế có thể được thiết kế để không đưa ra hướng dẫn điều trị tùy tiện, không khẳng định chẩn đoán khi chưa có đủ dữ liệu và không cung cấp những hướng dẫn nguy hiểm. Thay vào đó, hệ thống có thể chuyển người dùng đến nhân viên y tế hoặc khuyến nghị tìm kiếm sự hỗ trợ chuyên môn trong những tình huống vượt quá phạm vi hoạt động.
Điều này đặc biệt quan trọng đối với các hệ thống AI tương tác trực tiếp với người bệnh, bởi câu trả lời của AI có thể bị người dùng hiểu nhầm là một chỉ định y khoa chính thức.
6. Kiểm soát dữ liệu và nguồn kiến thức mà AI được phép sử dụng
Không chỉ kiểm soát câu hỏi và câu trả lời, Guardrails còn có thể kiểm soát AI được phép truy cập nguồn thông tin nào.
Đối với các hệ thống y tế sử dụng RAG, AI có thể truy xuất thông tin từ cơ sở dữ liệu chuyên môn, hướng dẫn điều trị, quy trình bệnh viện hoặc tài liệu được tổ chức phê duyệt. Lớp kiểm soát có thể giới hạn phạm vi truy cập, xác định nguồn nào được phép sử dụng và theo dõi nguồn dữ liệu đã được sử dụng để tạo ra câu trả lời.
Cách tiếp cận này giúp giảm nguy cơ AI lấy thông tin từ nguồn không đáng tin cậy hoặc sử dụng dữ liệu nội bộ vượt quá quyền hạn được cấp. Đồng thời, việc lưu lại nguồn tham chiếu tạo ra khả năng truy vết, giúp con người kiểm tra vì sao hệ thống đưa ra một kết quả cụ thể.
7. Kiểm soát đầu vào và đầu ra trong quy trình AI y tế
Một hệ thống Guardrails hiệu quả thường không chỉ đặt một bộ lọc duy nhất mà sử dụng nhiều lớp kiểm soát.
Ở đầu vào, hệ thống có thể:
- Kiểm tra định dạng và cấu trúc dữ liệu.
- Phát hiện thông tin cá nhân hoặc dữ liệu y tế nhạy cảm.
- Lọc các yêu cầu không phù hợp.
- Phát hiện những nỗ lực thao túng hoặc vượt qua quy tắc của hệ thống.
- Kiểm tra người dùng có quyền truy cập loại dữ liệu được yêu cầu hay không.
- Giới hạn phạm vi và loại thông tin được phép gửi tới mô hình.
Ở đầu ra, hệ thống có thể:
- Kiểm tra tính nhất quán của câu trả lời.
- Đánh giá câu trả lời có dựa trên nguồn dữ liệu được phép hay không.
- Phát hiện thông tin cá nhân bị lộ.
- Kiểm tra nội dung có nguy hiểm hoặc không phù hợp hay không.
- Kiểm tra định dạng và cấu trúc của kết quả.
- Chặn, chỉnh sửa hoặc yêu cầu tạo lại phản hồi nếu kết quả không đáp ứng các tiêu chí an toàn.
Việc kết hợp nhiều lớp giúp giảm khả năng một lỗi vượt qua toàn bộ hệ thống kiểm soát.
8. Guardrails không thay thế bác sĩ hoặc chuyên gia y tế
Một điểm quan trọng cần nhấn mạnh là AI Guardrails không phải là cơ chế bảo đảm AI luôn đúng và cũng không thể thay thế sự đánh giá của bác sĩ.
Guardrails chủ yếu đóng vai trò kiểm soát rủi ro: phát hiện những trường hợp có dấu hiệu bất thường, hạn chế nội dung không phù hợp, bảo vệ dữ liệu và ngăn những phản hồi không đạt yêu cầu được đưa trực tiếp đến người dùng.
Trong các ứng dụng có ảnh hưởng đến quyết định lâm sàng, kết quả của AI vẫn cần được đặt trong quy trình có sự giám sát của con người. Khi hệ thống không đủ dữ liệu, không chắc chắn hoặc phát hiện kết quả vượt ngoài phạm vi cho phép, thiết kế an toàn nên ưu tiên chuyển kết quả cho nhân viên y tế đánh giá thay vì để AI tự đưa ra quyết định cuối cùng.
9. Guardrails là một phần của kiến trúc AI y tế an toàn
Có thể xem AI Guardrails như một lớp trung gian nằm giữa người dùng – dữ liệu – mô hình AI – kết quả đầu ra.
Thay vì chỉ đặt câu hỏi cho AI và chấp nhận câu trả lời, hệ thống có thể vận hành theo quy trình:
Dữ liệu/người dùng → kiểm tra đầu vào → AI xử lý → kiểm tra kết quả → xác thực nguồn và an toàn → phản hồi hoặc chuyển cho con người đánh giá.
Cách tiếp cận nhiều lớp này giúp chuyển việc bảo đảm an toàn AI từ một yêu cầu mang tính nguyên tắc thành những cơ chế có thể kiểm tra và thực thi trong hệ thống. Guardrails cũng có thể kết hợp với giám sát, ghi nhật ký, kiểm toán và các chính sách quản trị AI để tổ chức theo dõi những sự cố phát sinh trong quá trình vận hành.
Kết luận
Trong lĩnh vực y tế, AI Guardrails không đơn thuần là một bộ lọc nội dung mà là một cơ chế quản trị và kiểm soát rủi ro nhiều lớp dành cho hệ thống trí tuệ nhân tạo. Guardrails có khả năng kiểm tra dữ liệu đầu vào, kiểm soát quyền truy cập nguồn kiến thức, đánh giá kết quả đầu ra, bảo vệ thông tin người bệnh và hạn chế những nội dung không an toàn.
Đặc biệt, ba nhóm rủi ro quan trọng mà Guardrails cần tập trung xử lý là sai lệch thông tin và ảo giác AI, rò rỉ dữ liệu y tế nhạy cảm và nội dung có khả năng gây hại. Khi được kết hợp với nguồn dữ liệu đáng tin cậy, cơ chế xác thực, giám sát con người và quy trình quản trị phù hợp, Guardrails có thể tạo thành một lớp bảo vệ quan trọng giúp AI được triển khai trong y tế theo hướng an toàn, có trách nhiệm và đáng tin cậy hơn.
Nói cách khác, nếu mô hình AI là “bộ não” xử lý thông tin thì Guardrails chính là hệ thống kiểm soát giúp giới hạn những gì AI được phép tiếp nhận, tạo ra và thực hiện. Trong môi trường mà một sai sót có thể ảnh hưởng trực tiếp đến sức khỏe và quyền riêng tư của người bệnh, lớp kiểm soát này ngày càng trở thành một thành phần quan trọng trong kiến trúc của các hệ thống AI y tế.