Khi các Fintech trưởng thành, độ tin cậy và tính minh bạch của các thuật toán của họ sẽ ngày càng trở nên quan trọng. Fintechs thiếu các khuôn khổ quản lý rủi ro phức tạp của cạnh tranh truyền thống của họ, nhưng có thể sử dụng công nghệ để thu hẹp khoảng cách.

Shameek Kundu là Giám đốc Dịch vụ Tài chính của TruEra, một công ty chuyên làm cho AI trở nên đáng tin cậy. Với bằng MBA về tài chính và nhiều năm kinh nghiệm làm việc cho các công ty tài chính và CNTT, cũng như ngồi trong các nhóm công / tư AI có trách nhiệm tại Ngân hàng Anh / FCA, Đối tác toàn cầu của OECD về AI và Cơ quan tiền tệ Singapore , Kundu có nhiều kiến ​​thức về trí tuệ nhân tạo và máy học. Nó đã phát triển với tốc độ đáng kinh ngạc trong thập kỷ qua nhưng các yêu cầu nhất định phải được đáp ứng để AI và máy học thành công và được sử dụng chính xác.

Sử dụng hiệu quả dữ liệu và thuật toán là trọng tâm trong câu chuyện thành công của Fintech. Ví dụ: khả năng cung cấp trải nghiệm khách hàng hoàn toàn kỹ thuật số của Fintechs – từ việc tham gia nhanh chóng đến phê duyệt khoản vay gần như tức thì – được củng cố bởi các thuật toán nhận dạng hình ảnh và văn bản cũng như các mô hình tín dụng sử dụng các nguồn dữ liệu phi truyền thống. Sự vượt trội của họ so với các công ty đương nhiệm truyền thống trong việc khai thác tiềm năng của dữ liệu đã cho phép họ dự đoán nhu cầu của khách hàng hiệu quả hơn, giới thiệu các cải tiến sản phẩm một cách nhanh nhẹn và hình dung lại các quy trình truyền thống để đạt hiệu quả cao hơn.

Tuy nhiên, ngay cả khi ngành công nghiệp này đã giảm gấp đôi dữ liệu và thuật toán, thì sự lo lắng của xã hội về tác động của Trí tuệ nhân tạo (AI) cũng ngày càng gia tăng. Các ví dụ nổi bật, chẳng hạn như sự xuất hiện của “phân biệt giới tính” của thẻ tín dụng mới và việc sử dụng nhận dạng cảm xúc khuôn mặt để phát hiện các yêu cầu bảo hiểm gian lận, đã góp phần vào mối quan tâm này.

Một số trong số này có thể là những trường hợp phản ứng quá mức sớm đối với công nghệ chưa được hiểu rõ. Tuy nhiên, có những rủi ro rất thực tế bên dưới. Các thuật toán AI có thể khó hiểu hơn so với các thuật toán thống kê hoặc dựa trên quy tắc truyền thống của chúng, gây khó khăn cho việc đưa ra các quyết định trong nội bộ hoặc giải thích kết quả của chúng cho khách hàng và cơ quan quản lý. Bởi vì các thuật toán như vậy học hỏi từ các mẫu trong dữ liệu lịch sử, chất lượng và tính đại diện của dữ liệu đầu vào có thể khiến chúng tạo ra hoặc làm nổi bật những thành kiến ​​không công bằng và trở nên không đáng tin cậy theo thời gian. Cuối cùng, nếu không có sự giám sát của con người, các hệ thống như vậy có thể làm tăng rủi ro liên quan đến sự ổn định và cạnh tranh của thị trường.

Có ba lý do chính đáng để các Fintech bắt đầu quan tâm đến chất lượng của các mô hình AI / Machine Learning (ML) của họ. Đầu tiên, so với các công ty đương nhiệm truyền thống, nhiều Fintech phụ thuộc nhiều hơn vào các thuật toán tự động để ra quyết định và hoạt động cốt lõi. Các mô hình kinh doanh của họ thường được dự đoán dựa trên việc sử dụng nhiều dữ liệu hơn, bao gồm từ các nguồn phi truyền thống và các mô hình AI / ML đóng một vai trò quan trọng trong việc tận dụng dữ liệu đó một cách có ý nghĩa. Do đó, các mô hình AI / ML chất lượng kém có thể tác động trực tiếp hơn đến lợi nhuận của Fintech – ví dụ: thông qua các khoản lỗ tín dụng và gian lận hoặc các quyết định định giá kém.

Thứ hai, trong khi khách hàng của Fintechs có thể cảm thấy thoải mái hơn với công nghệ, họ cũng nhận thức rõ ràng hơn về các rủi ro xung quanh dữ liệu và thuật toán so với phần còn lại của dân số và mong đợi sự minh bạch hơn trong vấn đề này. Làm sai có thể làm mất lòng tin của khách hàng nhanh chóng.

Thứ ba, các cơ quan quản lý ở Anh, Hoa Kỳ, Liên minh Châu Âu, Canada, Singapore, Hồng Kông và nhiều quốc gia khác đã giới thiệu hoặc đang tham vấn rộng rãi các hướng dẫn về sử dụng AI / ML. Quan trọng là, khi các hướng dẫn quy định đã được xuất bản, chúng không chỉ áp dụng cho những người đương nhiệm mà còn cho các Fintech – ví dụ: các yêu cầu dự thảo luật AI của Ủy ban Châu Âu về Tín dụng. Tính minh bạch, công bằng, mạnh mẽ và ổn định của các mô hình này là một trong những mối quan tâm chính của họ.

Để đáp ứng những yêu cầu này, hầu hết các Fintech đều bắt đầu bằng một sự chênh lệch so với các đối thủ cạnh tranh “kế thừa” của họ. Họ thiếu DNA rủi ro nội bộ và tuân thủ của các Tổ chức Tài chính đương nhiệm, chẳng hạn như các khuôn khổ được thiết lập tốt về Quản lý Dữ liệu và Rủi ro Mô hình. Mặc dù điều này có thể làm cho họ nhanh hơn và sáng tạo hơn, nhưng nó cũng hạn chế khả năng của họ để đáp ứng hiệu quả các mối quan tâm của khách hàng và quy định xung quanh các thuật toán.

Họ nên trả lời như thế nào? Có lẽ bằng cách tập trung vào những gì họ biết rõ nhất: sử dụng công nghệ để thay đổi cách thức quản lý rủi ro. Bằng cách triển khai các hệ thống để hiểu, phân tích và giám sát các mô hình ML của họ, các Fintech có thể tự động hóa một tập hợp con đáng kể các yêu cầu quản lý dữ liệu và rủi ro mô hình xung quanh các mô hình ML, đồng thời cho phép nhóm của họ xây dựng và chạy các mô hình chất lượng cao. Ví dụ: họ có thể sử dụng các hệ thống như vậy để

  • Tạo sự minh bạch về các động lực chính dẫn đến các dự đoán / quyết định của mô hình (“Tại sao X nhận được một khoản vay, trong khi Y bị từ chối?”)
  • Đánh giá bất kỳ sai lệch tiềm ẩn nào trong các dự đoán của mô hình và nguyên nhân gốc rễ (“Phụ nữ có nhận được mức phí bảo hiểm ô tô tốt hơn không? Nếu vậy, điều đó có chính đáng không?”)
  • Theo dõi sự ổn định của mô hình và dữ liệu theo thời gian, kích hoạt cảnh báo khi chúng vi phạm các ngưỡng được xác định trước và xác định nguyên nhân gốc rễ của sự không ổn định đó (“Mô hình của chúng tôi có gắn cờ cảnh báo ít hơn X% cho các giao dịch gian lận trong tháng này không? Nếu vậy, điều gì đang thúc đẩy sự thay đổi đó? ”)
  • Xác định các bộ phận tiềm năng của dân số mà mô hình không đáng tin cậy (“Có phải dự đoán của mô hình cho hơn 60 công nhân cổ trắng dựa trên quá ít điểm dữ liệu?”)
  • Xác định những thay đổi tiềm ẩn về chất lượng dữ liệu có thể ảnh hưởng đến độ chính xác dự đoán của mô hình (“Việc mua lại gần đây có làm giảm lượng thông tin mà chúng tôi có thể truy cập trên các khoản thanh toán cá nhân không? Điều này có làm cho mô hình chống rửa tiền của chúng tôi kém hiệu quả hơn không?”)

Các chuyên gia về con người sẽ tiếp tục có vai trò quan trọng – xem xét và hành động dựa trên câu trả lời cho những câu hỏi này. Tuy nhiên, việc tự động hóa phần lớn việc chẩn đoán và giám sát các mô hình AI / ML có thể cho phép các Fintech áp dụng một số kỷ luật quản lý rủi ro của các đối thủ cạnh tranh truyền thống của họ mà không cần phải hy sinh sự nhanh nhẹn và xây dựng chi phí đắt đỏ.

BÌNH LUẬN

Vui lòng nhập bình luận của bạn
Vui lòng nhập tên của bạn ở đây