Tháng 9/2022, Forbes đã đăng tải báo cáo về những lợi ích mà Trí tuệ nhân tạo (AI) sẽ mang lại đối với tương lai của ngành chăm sóc sức khỏe. Tháng 3/2023, Goldman Sachs dự đoán rằng 300 triệu việc làm có thể bị cắt giảm do sự lên ngôi của AI. Hơn nữa, vào tháng 6/2023, một luật sư Mỹ đã xin lỗi vì đã sử dụng Chat GPT để chuẩn bị hồ sơ cho phiên tòa, tạo ra các vụ kiện và phán quyết không chính xác.
Khi AI trở nên ngày càng phổ biến, càng yêu cầu phải giải quyết hiệu quả cả lợi ích và thách thức nó mang lại. Do đó, cần thiết phải thiết lập các khuôn khổ mạnh mẽ về Quản trị, Rủi ro và Tuân thủ (GRC) để đảm bảo hoạt động AI có trách nhiệm và đạo đức.
Quản trị
Quản trị liên quan đến việc xác định các chính sách, thủ tục và quy trình ra quyết định để hướng dẫn triển khai, vận hành và phát triển hệ thống AI. Thông qua việc thực hiện các thực tiễn quản trị mạnh mẽ, các tổ chức có thể thúc đẩy tính minh bạch, giảm thiểu sự thiên vị và đảm bảo rằng các công nghệ AI phù hợp với các giá trị và mục tiêu của họ.
Ví dụ về các chính sách quản trị bao gồm chính sách sử dụng được chấp nhận cho AI, chính sách bảo mật và bảo mật dữ liệu, chính sách kiểm soát truy cập để sử dụng AI được ủy quyền và chính sách đạo đức trong AI.
Quản lý rủi ro
Sự ra đời của AI mang đến nhiều rủi ro mới cần được xác định, đánh giá và quản lý một cách thích hợp. Những rủi ro này có thể bao gồm việc vi phạm quyền riêng tư, lỗ hổng bảo mật và không tuân thủ các quy định.
Chẳng hạn, vào tháng 5/2023, đã có báo cáo rộng rãi rằng các cuộc tấn công mạng ở Ấn Độ đã tăng 18% trong quý đầu tiên của năm 2023 do sự gia tăng của các công cụ AI như ChatGPT. Các khuôn khổ GRC có thể hỗ trợ các tổ chức phân tích và giảm thiểu những rủi ro này một cách có hệ thống. Bằng cách tiến hành đánh giá rủi ro, thực hiện các cơ chế giám sát và thiết lập các biện pháp kiểm soát, các doanh nghiệp có thể giảm thiểu các tác động tiêu cực tiềm ẩn của AI và bảo vệ chống lại các rủi ro pháp lý, uy tín và hoạt động.
Tuân thủ
Các ứng dụng AI phải tuân theo các yêu cầu pháp lý và quy định khác nhau. Các khung GRC giúp điều chỉnh các sáng kiến AI với các quy định về bảo vệ dữ liệu và quyền riêng tư (ví dụ: PDPA / GDPR), cũng như các quy định liên quan đến các dịch vụ đặc biệt như tài chính, chăm sóc sức khỏe, bảo vệ người tiêu dùng và an ninh mạng. Đảm bảo tuân thủ các quy định này là điều hết sức quan trọng để tránh hậu quả pháp lý và thiệt hại danh tiếng cho tổ chức.
Kiểm tra tuân thủ tiêu chuẩn khi sử dụng AI liên quan đến quyền riêng tư dữ liệu, theo đó cần thực hiện các bước để bảo vệ dữ liệu cá nhân, bao gồm có được sự đồng ý, ẩn danh dữ liệu cá nhân khi cần thiết và thực hiện các biện pháp bảo mật thích hợp.
Quyền riêng tư và bảo mật dữ liệu
AI phụ thuộc rất nhiều vào dữ liệu, thường liên quan đến thông tin nhạy cảm và cá nhân. Các khung GRC cung cấp các hướng dẫn và kiểm soát để đảm bảo quyền riêng tư và bảo mật dữ liệu trong suốt vòng đời AI. Điều này bao gồm thực hành xử lý dữ liệu, lưu trữ và xử lý an toàn, kiểm soát truy cập và tuân thủ các quy định bảo vệ dữ liệu có liên quan.
Trách nhiệm giải trình và minh bạch
Thực tiễn GRC thúc đẩy trách nhiệm và minh bạch trong phát triển và sử dụng AI. Họ nhấn mạnh sự cần thiết phải có trách nhiệm rõ ràng, tài liệu phù hợp và khả năng kiểm soát hợp lý của các hệ thống AI. Điều này cho phép các bên liên quan hiểu rõ và xác minh cách các hệ thống AI hoạt động, cách đưa ra quyết định và giải quyết các thành kiến hoặc rủi ro tiềm ẩn.
Việc thực hiện GRC đảm bảo rằng các công nghệ AI mới nổi hoặc đang phát triển được phát triển hơn nữa và sử dụng một cách có trách nhiệm, đạo đức và tuân thủ. Đồng thời giảm thiểu rủi ro, tăng cường trách nhiệm và duy trì niềm tin của công chúng vào các hệ thống như vậy.