Ba rào cản khi ứng dụng GenAI trong ngân hàng

Trí tuệ nhân tạo tạo sinh (Generative AI - GenAI) đã mở ra những cánh cửa mới, mang lại những đột phá lớn trong nhiều lĩnh vực, đặc biệt là trong ngành tài chính ngân hàng. Theo báo cáo của McKinsey, GenAI có tiềm năng tạo ra giá trị mới lên tới 340 tỷ đô la chỉ riêng trong ngành ngân hàng, vượt xa so với AI truyền thống.

Mới đây, Tổng Công ty Giải pháp Doanh nghiệp Viettel (Viettel Solutions) - Thành viên Tập đoàn Công nghiệp - Viễn thông Quân đội (Viettel) đã tổ chức Hội thảo “Sự bùng nổ GenAI trong lĩnh vực tài chính ngân hàng” với sự tham dự của nhiều chuyên gia tới từ các ngân hàng, tổ chức tài chính lớn và các công ty công nghệ toàn cầu, cùng chia sẻ tri thức, kinh nghiệm và câu chuyện về GenAI và Cloud trong lĩnh vực tài chính ngân hàng.

Tại hội thảo, các chuyên gia cho rằng, dù đã có nhiều trường hợp ứng dụng tốt vào lĩnh vực tài chính ngân hàng như trợ lý ảo, tự động hóa quy trình nghiệp vụ, đánh giá rủi ro, cảnh báo lừa đảo, định danh khách hàng… song, GenAI vẫn chưa được các tổ chức tài chính - ngân hàng triển khai phổ biến ở Việt Nam. Theo đại diện của Viettel AI nhận định có 3 rào cản chính:

Một là, GenAI là công nghệ rất mới, điều này khiến nhiều tổ chức có sự e ngại nhất định trong việc đầu tư và ứng dụng công nghệ.

Hai là, cơ sở hạ tầng nhiều lớp đặt ra một thách thức khác đối với GenAI vì loại AI này phụ thuộc rất nhiều vào cơ sở dữ liệu, trong khi ngành ngân hàng với các quy định nghiêm ngặt về bảo mật và quyền riêng tư, thường hạn chế truy cập và chia sẻ dữ liệu.

Ba là, rào cản đến từ các nền tảng hiện có của các tổ chức, doanh nghiệp. Trước đây, doanh nghiệp triển khai các hệ thống rất lớn, riêng lẻ, phân tán. Hiện nay, xu hướng là tập trung và chia sẻ dữ liệu để phân tích và đưa ra giải pháp toàn diện. Tuy nhiên, việc chuyển đổi từ hệ thống cũ sang hệ thống mới đòi hỏi sự đầu tư lớn về thời gian và nguồn lực.

Lời giải đến từ đâu?

Để phá vỡ những rào cản này, Viettel Solutions đã phối hợp chặt chẽ với các công ty công nghệ hàng đầu thế giới, triển khai các sản phẩm dịch vụ hỗ trợ doanh nghiệp trong lĩnh vực ngân hàng tài chính có thể sớm khai phá tiềm năng của Gen AI, ứng dụng vào hoạt động sản xuất kinh doanh.

Ông Nguyễn Trọng Vĩnh - Giám đốc Công nghệ Nền tảng Cloud Viettel Solutions chia sẻ, thời gian vừa qua, Viettel Solutions và ông lớn công nghệ NVIDIA đã có nhiều dự án phối hợp để giải quyết các vấn đề cả về hạ tầng phần cứng, nền tảng phần mềm và quy trình ứng dụng AI.

Ông Nguyễn Trọng Vĩnh - Giám đốc Công nghệ Nền tảng Cloud Viettel Solutions chia sẻ tại hội thảo.

Với hạ tầng số trải khắp Bắc - Trung - Nam, Viettel sẵn sàng cung cấp đầy đủ dịch vụ từ lớp hạ tầng, đến nền tảng cho tới lớp ứng dụng. Viettel Cloud hiện sở hữu hạ tầng điện toán đám mây lớn nhất và đa dạng nhất Việt Nam, được Uptime chứng nhận tiêu chuẩn Tier III với 14 Data Center (trung tâm dữ liệu) với khả năng cung cấp 11.500 racks. Dự kiến, đến năm 2025 sẽ nâng lên 17 Data Center với khả năng cung cấp 18.000 racks, và mục tiêu tới 2030 là 24 Data Center với 36.000 racks.

Để đáp ứng các xu hướng tương lai, Viettel Solutions đã ra mắt giải pháp Viettel Kubernetes Engine (VKE) tích hợp GPU. Đây là nền tảng Kubernetes triển khai trên hạ tầng Cloud mạnh mẽ của Viettel Cloud, cung cấp môi trường ảo hóa hoàn chỉnh, cho phép người dùng phát triển, kiểm thử, triển khai và phân phối ứng dụng trên nền tảng Kubernetes.

Kubernetes là một hệ thống mã nguồn mở được thiết kế để tự động triển khai, mở rộng và quản lý các ứng dụng container. Nó hoạt động như một "người quản lý thông minh" giúp phân phối và điều phối các container trên nhiều máy chủ khác nhau. Kubernetes tự động hóa việc khởi động lại, cân bằng tải và mở rộng ứng dụng khi cần thiết, đảm bảo ứng dụng luôn hoạt động ổn định và hiệu quả. Bằng cách sử dụng Kubernetes, doanh nghiệp có thể dễ dàng quản lý các ứng dụng phức tạp và tận dụng tối đa tài nguyên hạ tầng đám mây của mình.

Đi sâu về Kubernetes, ông Vĩnh chỉ rõ những lợi điểm nổi bật của Kubernetes của Viettel Cloud, bao gồm khả năng tự động cân bằng tải công việc giữa các máy chủ, đảm bảo hiệu suất và hoạt động ổn định; khả năng dễ dàng triển khai các ứng dụng trên nhiều tầng lưu trữ khác nhau, từ lưu trữ cục bộ đến lưu trữ đám mây…

Đặc biệt, khi phát hiện các vấn đề như sự cố phần cứng, lỗi phần mềm hoặc quá tải tài nguyên, Kubernetes có khả năng tự động tạo ra vùng chứa mới, loại bỏ vùng chứa hiện tại và chuyển tất cả tài nguyên sang vùng chứa mới. Điều này giúp hệ thống nhanh chóng phục hồi sau sự cố, đảm bảo tính liên tục và ổn định của dịch vụ.

VKE nằm trong tổng hoà hệ sinh thái Viettel Cloud sử dụng sức mạnh của các thành tố, dịch vụ khác như sever tính toán, an toàn bảo mật, lưu trữ, giám sát cảnh báo…

VKE nằm trong tổng hoà hệ sinh thái Viettel Cloud, kết hợp sức mạnh của nhiều dịch vụ khác nhau để tạo nên một nền tảng toàn diện. Các dịch vụ này bao gồm máy chủ tính toán cung cấp khả năng xử lý mạnh mẽ; đảm bảo an ninh dữ liệu và bảo vệ hệ thống khỏi các mối đe dọa; cung cấp các giải pháp lưu trữ linh hoạt và hiệu quả từ lưu trữ cục bộ đến lưu trữ đám mây; hệ thống giám sát và cảnh báo, liên tục theo dõi các hoạt động của hệ thống và cảnh báo khi có sự cố,…

Viettel Kubernetes Engine (VKE) trong hệ sinh thái Viettel Cloud

Hệ thống VKE tích hợp GPU giúp mở rộng tài nguyên một cách linh hoạt trên đám mây Viettel, tối ưu hóa việc sử dụng GPU và cho phép phân bổ ứng dụng AI/ML dựa trên nhu cầu thực tế. VKE cũng hỗ trợ khả năng phục hồi cho khối lượng công việc AI/ML trong trường hợp gặp sự cố phần mềm hoặc phần cứng. Kubernetes cung cấp một môi trường tiêu chuẩn, tạo điều kiện thuận lợi cho việc phát triển và triển khai các mô hình AI/ML trên nhiều môi trường và nền tảng đám mây khác nhau.

Lakehouse trên Viettel Kubernetes Engine tích hợp công cụ DevOps 

Đại diện Viettel cũng giới thiệu việc triển khai Lakehouse trên nền tảng Kubernetes Engine. Lakehouse là một kiến trúc kết hợp các ưu điểm của data lake (hồ dữ liệu) và data warehouse (kho dữ liệu), cho phép thu thập, xử lý, lưu trữ và phân tích dữ liệu từ nhiều nguồn khác nhau. Điều này giúp doanh nghiệp dễ dàng quản lý và khai thác dữ liệu để ra quyết định chiến lược.

Kiến trúc Lakehouse trên Kubernetes Engine được tích hợp các công cụ DevOps, quản trị và bảo mật tiên tiến. Các công cụ này giúp tự động hóa quy trình phát triển phần mềm, quản lý hệ thống một cách hiệu quả và đảm bảo an ninh dữ liệu. Kết quả là một hệ thống dữ liệu mạnh mẽ và linh hoạt, đáp ứng nhu cầu đa dạng của doanh nghiệp.

Cam kết của Viettel Cloud

Vì Kubernetes là một nền tảng mở, Viettel Cloud có thể cung cấp nhiều mô hình triển khai khác nhau để doanh nghiệp lựa chọn giải pháp phù hợp nhất. Doanh nghiệp có thể chọn mô hình tự triển khai và kiểm soát hoàn toàn hệ thống.

Trong trường hợp doanh nghiệp không muốn tự quản lý hạ tầng, Viettel cung cấp dịch vụ quản trị hạ tầng với các thành phần điều khiển của VKE do Viettel vận hành. Dịch vụ này hỗ trợ doanh nghiệp tập trung toàn bộ nguồn lực vào việc phát triển ứng dụng và kinh doanh.

“Chúng tôi trong thời gian sắp tới sẽ cam kết rất mạnh mẽ vào việc xây dựng các Data Center, cung cấp các sản phẩm dịch vụ Cloud và hỗ trợ các bài toán AI, Machine Learning dành cho lĩnh vực tài chính ngân hàng” - ông Vĩnh khẳng định.

Với quan điểm muốn đi nhanh thì đi một mình, muốn đi xa thì đồng hành cùng nhau, Viettel luôn sẵn sàng đồng hành cùng các tổ chức, doanh nghiệp đưa công nghệ mới, các giải pháp chuyển đổi số ưu việt, giúp tối ưu giá trị và tạo ra sự khác biệt, các dịch vụ mới trên hành trình khai phóng tiềm năng số.