Báo cáo của Deloitte chỉ ra những rủi ro từ việc ứng dụng Generative AI trong lĩnh vực dịch vụ tài chính tại Châu Á - Thái Bình Dương

Hà Nội, tháng 03/2024 – Trung tâm Chiến lược Pháp chế Deloitte Châu Á – Thái Bình Dương (Asia Pacific Centre for Regulatory Strategy - ACRS) gần đây đã phát hành báo cáo “Generative AI: Ứng dụng và Quy định tại khu vực Châu Á – Thái Bình Dương”. Báo cáo chỉ ra những rủi ro phát sinh từ việc sử dụng GenAI (AI tạo sinh) trong lĩnh vực dịch vụ tài chính, bức tranh toàn cảnh về các quy định hiện nay tại Châu Á – Thái Bình Dương, cũng như đưa ra các hướng dẫn hỗ trợ các công ty chuẩn bị tốt nhằm đáp ứng những thay đổi về quy định và pháp chế sắp tới trong lĩnh vực tài chính đang phát triển nhanh chóng.

ACRS đã phỏng vấn 12 chuyên gia về công nghệ và pháp chế của Deloitte trên toàn khu vực Châu Á - Thái Bình Dương, trong bối cảnh công nghệ GenAI ngày càng có nhiều bước tiến lớn, các nhà hoạch định chính sách và các cơ quan quản lý đang đánh giá lại các khuôn khổ AI hiện nay để giảm thiểu những rủi ro công nghệ mới phát sinh từ việc áp dụng GenAI, đồng thời đảm bảo những khuôn khổ này vẫn phù hợp với ngành dịch vụ tài chính.

Trong 12 tháng qua, lĩnh vực phát triển công nghệ trí tuệ nhân tạo (AI) đã có nhiều đột phá lớn như việc các công nghệ GenAI đã phổ biến hơn thông qua các công cụ như Chat GPT của OpenAI và Bard AI của Google, tuy nhiên, những rủi ro phổ biến mà các cơ quan quản lý tại khu vực Châu Á Thái Bình Dương đã giải quyết dựa trên các nguyên tắc về quy định liên quan AI nhanh chóng trở nên nghiêm trọng hơn. Trong khi tính minh bạch, trách nhiệm giải trình, tính công bằng, phát triển lành mạnh, quyền riêng tư và bảo mật dữ liệu vẫn còn là những vấn đề cần xem xét, thì quan ngại với những thành kiến tiềm ẩn và quyền sở hữu trí tuệ tiếp tục đặt ra cho các cơ quan quản lý bài toán phải cân bằng lợi ích giữa việc đổi mới công nghệ và việc đảm bảo an toàn của người dùng.

Ngành dịch vụ tài chính đang trải qua thời kỳ thay đổi và gián đoạn sâu sắc. GenAI đang thay đổi cách thức cung cấp dịch vụ, nhưng, cũng như bất kỳ thay đổi nào, mối quan tâm về mặt pháp lý và giám sát đối với AI vẫn đang gia tăng. Các công ty tài chính hiện đang phải đối mặt với những rủi ro mới và ngày càng trầm trọng hơn như công tác quản trị, trách nhiệm giải trình và bảo vệ dữ liệu trong chu kỳ ứng dụng AI, cũng như các rủi ro pháp lý và rủi ro chiến lược. Báo cáo mới nhất của Deloitte đưa ra những khuyến nghị để hỗ trợ các công ty dịch vụ tài chính chuẩn bị sẵn sàng cho những thay đổi trong tương lai, sớm thiết lập khuôn khổ quản trị AI của riêng các doanh nghiệp, đồng thời có những động thái để hiểu rõ, xác định và quản trị các rủi ro liên quan đến AI.

Những điểm nổi bật trong báo cáo:

• Các công ty ngành dịch vụ tài chính nên chuẩn bị để đáp ứng các yêu cầu tuân thủ các quy định liên quan đến GenAI, ngay khi các quy định đang trong quá trình xây dựng.
• Các công ty ngành dịch vụ tài chính đã sử dụng hoặc đang cân nhắc sử dụng các ứng dụng AI nên bắt đầu phát triển khuôn khổ quản trị AI nhằm hỗ trợ quản trị rủi ro tốt hơn, cũng như tuân thủ các quy định trong tương lai liên quan lĩnh vực này. Các công ty dịch vụ tài chính phải có trách nhiệm và chịu trách nhiệm về kết quả đầu ra từ các ứng dụng GenAI.
• Các công ty ngành dịch vụ tài chính cần đánh giá các yếu tố có thể góp phần tạo ra những tổn thương (vulnerability) cho khách hàng như trình độ học vấn, thu nhập, hoặc tuổi tác và đảm bảo việc áp dụng các ứng dụng GenAI không kéo theo những thành kiến hoặc phân biệt đối xử với các khách hàng cho dù đó là hệ quả chủ đích hoặc hệ quả không dự tính trước.
• Các công ty dịch vụ tài chính nên xác định các bên liên quan trong việc thu thập, lưu trữ và xử lý thông tin cá nhân khách hàng và đảm bảo các bên hoặc bộ phận liên quan cũng tuân thủ các quy định liên quan đến bảo mật thông tin.
• Do vấn đề bảo vệ bản quyền cho các yếu tố đầu vào và đầu ra của GenAI vẫn còn chưa rõ ràng, các công ty dịch vụ tài chính nên hiểu rằng bất kỳ dữ liệu hoặc truy vấn được nhập vào các ứng dụng GenAI có thể sẽ công khai, cần cân nhắc ban hành các biện pháp kiểm soát với mục đích ngăn chặn tình huống vô tình làm tiết lộ tài sản trí tuệ hoặc vi phạm bản quyền.
• Các công ty ngành dịch vụ tài chính đang sử dụng hoặc có kế hoạch sử dụng các ứng dụng GenAI nên đầu tư vào việc thu hút nhân tài và cung cấp các chương trình đào tạo về công nghệ AI cho đội ngũ nhân sự hiện tại, bao gồm ban lãnh đạo và quản cấp cao, góp phần nâng cao hiểu biết về các rủi ro trọng yếu và trách nhiệm của họ trong việc giảm thiểu những rủi ro đó.

Nói thêm về báo cáo, ông Akihiro Matsuyama, Lãnh đạo dịch vụ Tư vấn Rủi ro tại Deloitte Châu Á Thái Bình Dương cho biết: "Mặc dù các quy định và hành lang pháp lý về AI vẫn đang trong giai đoạn đầu xây dựng hoặc triển khai ở hầu hết các quốc gia, nhưng điều quan trọng với các công ty dịch vụ cần sớm thực hiện cách tiếp cận có thể đo lường thông qua việc thiết lập khuôn khổ AI của riêng doanh nghiệp càng sớm càng tốt và có kế hoạch hành động để hiểu rõ, xác định và quản trị các rủi ro liên quan đến AI. Khối tư nhân cần tham gia vào các cuộc đối thoại tích cực với các cơ quan quản lý và cơ quan lập pháp để chia sẻ những hiểu biết chuyên ngành và kinh nghiệm trong lĩnh vực này nhằm hỗ trợ quá trình xây dựng quy định phát luật và thúc đẩy sự đồng thuận về lộ trình tương lai của AI."

Ông Wong Nai Seng, Lãnh đạo phụ trách Quy định Chiến lược tại Deloitte Đông Nam Á, chia sẻ thêm: “Các công nghệ AI như GenAI mang lại tiềm năng lớn giúp gia tăng hiệu suất và đẩy nhanh tốc độ số hóa trong ngành dịch vụ tài chính. Tuy nhiên, những rủi ro phát sinh từ việc sử dụng công nghệ vẫn cần được đặc biệt lưu ý, với mức độ ưu tiên cao. Khi hành lang pháp lý liên quan đến công nghệ AI vẫn đang trong quá trình xây dựng và phát triển, trên toàn cầu và tại khu vực Đông Nam Á, các công ty ngành dịch vụ tài chính đang cân nhắc áp dụng các công nghệ AI nên thận trọng đánh giá mức độ tương thích của các rủi ro liên quan đến AI với khẩu vị rủi ro hiện tại và khuôn khổ quản trị rủi ro của mình.”

Ông Đỗ Danh Thanh, Phó Tổng Giám đốc Dịch vụ Tư vấn Chuyển đổi số và An ninh mạng, Deloitte Việt Nam cho biết: “Tại Việt Nam, Luật Kinh doanh bảo hiểm được thông qua vào tháng 6/2022, cho phép ứng dụng công nghệ thông tin vào hoạt động kinh doanh bảo hiểm. Chính phủ cũng khuyến khích các công ty bảo hiểm áp dụng công nghệ, trong đó có AI để bán các sản phẩm và dịch vụ bảo hiểm mới. Bắt nhịp cùng xu thế trên thế giới, việc ứng dụng AI, trong đó có GenAI chắc chắn sẽ mở rộng ra các mảng khác trong ngành dịch vụ tài chính tại Việt Nam. Tuy nhiên, bên cạnh việc hưởng lợi từ AI, các công ty trong ngành dịch vụ tài chính cũng sẽ phải đối mặt với những rủi ro mới như: rủi ro chiến lược, bảo vệ dữ liệu, quản trị, tính minh bạch và trách nhiệm giải trình. Để chuẩn bị sẵn sàng và giảm thiểu những rủi ro này, các công ty dịch vụ tài chính nên xây dựng cho mình một khung quản trị AI.”

Để đọc toàn bộ báo cáo và tìm hiểu thêm về kết quả, vui lòng truy cập tại: Generative AI: Application and Regulation in Asia Pacific | Deloitte China | Financial Services.

Tên Deloitte được dùng để chỉ một hoặc nhiều thành viên của Deloitte Touche Tohmatsu Limited (“DTTL” hay “Deloitte Toàn cầu”), và mạng lưới các hãng thành viên trên toàn cầu (gọi chung là Tổ chức Deloitte). DTTL và mỗi thành viên trực thuộc là một pháp nhân riêng biệt và độc lập về mặt pháp lý, không bị ràng buộc lẫn nhau đối với các bên thứ ba. DTTL và mỗi thành viên trực thuộc chỉ chịu trách nhiệm cho hành vi và thiếu sót của mình, chứ không phải chịu trách nhiệm lẫn nhau. DTTL không cung cấp dịch vụ cho các khách hàng. Vui lòng xem tại www.deloitte.com/about để biết thêm thông tin chi tiết.

Deloitte Châu Á Thái Bình Dương là một hãng thành viên của Deloitte Toàn cầu. Các thành viên và các đơn vị trực thuộc của Deloitte Châu Á Thái Bình Dương cung cấp dịch vụ cho khách hàng tại hơn 100 thành phố trong khu vực, bao gồm Auckland, Bangkok, Bắc Kinh, Bengaluru, Hà Nội, Hồng Kông, Jakarta, Kuala Lumpur, Manila, Melbourne, Mumbai, New Delhi, Osaka, Seoul, Thượng Hải, Singapore, Sydney, Đài Bắc và Tokyo. Tại các nước thành viên, các hoạt động kinh doanh được thực hiện độc lập bởi các pháp nhân riêng biệt.

Deloitte Việt Nam

Tại Việt Nam, dịch vụ chuyên ngành được cung cấp bởi từng pháp nhân riêng biệt, và chi nhánh của pháp nhân đó, được gọi chung là Deloitte Việt Nam.

Tài liệu này chỉ chứa đựng những thông tin chung và nhằm mục đích tham khảo, do vậy, không một hãng DTTL, hay bất kỳ một hãng thành viên hay công ty con và các nhân viên của họ được xem là, trong phạm vi nội dung của tài liệu này, cung cấp dịch vụ hay đưa ra những ý kiến, tư vấn về chuyên môn cho người đọc. Tài liệu này không cấu thành ý kiến tư vấn đối với người đọc và sẽ không ảnh hưởng đến các ý kiến tư vấn khác do bất kỳ nhân viên của Tổ chức Deloitte cung cấp. Những thông tin thể hiện trong tài liệu này không áp dụng đối với các trường hợp riêng biệt của doanh nghiệp. Trước khi đưa ra bất kỳ một quyết định hay hành động nào có thể ảnh hưởng tới tình hình tài chính hoặc hoạt động kinh doanh, người đọc nên tham khảo ý kiến chuyên gia tư vấn.

Không có tuyên bố, bảo đảm hoặc cam kết nào (rõ ràng hay ngụ ý) được đưa ra về tính chính xác hoặc tính đầy đủ của thông tin trong tài liệu này, và không một hãng thành viên nào thuộc Mạng lưới các công ty Deloitte chịu trách nhiệm đối với bất kỳ thiệt hại, tổn thất xảy ra trực tiếp hay gián tiếp do kết quả của việc người đọc sử dụng, công bố, phát tán ra bên ngoài hoặc dựa vào tài liệu này để hành động, không hành động hoặc ra bất kỳ quyết định nào.

© 2024 Deloitte Việt Nam