Mengapa mengatasi bias dalam pembelajaran mesin adalah kunci untuk membuka inklusi keuangan yang lebih besar

“Inklusi keuangan berarti bahwa individu dan bisnis memiliki akses ke produk dan layanan keuangan yang bermanfaat dan terjangkau yang memenuhi kebutuhan mereka - transaksi, pembayaran, tabungan, kredit, dan asuransi - disampaikan dengan cara yang bertanggung jawab dan berkelanjutan." - Bank Dunia

Di JUMO, misi kami adalah untuk secara radikal memajukan inklusi keuangan dengan menjembatani kesenjangan antara layanan keuangan kritis, dan mereka yang paling membutuhkannya. Pelanggan kami adalah wirausahawan, usaha kecil dan pedagang di pasar berkembang yang tidak memiliki sejarah keuangan tradisional dan karena itu dikeluarkan dari ekosistem perbankan arus utama.

Tetapi dengan milyaran orang di pasar negara berkembang yang online untuk pertama kalinya, kebanyakan dari mereka melalui ponsel, kami sekarang memiliki kesempatan untuk membangun bentuk-bentuk baru identitas digital dan finansial yang menciptakan pilihan keuangan baru.

Melakukan ini sulit. Dibutuhkan masuk akal dari data yang tidak terstruktur dengan cara yang tidak mungkin dilakukan manusia secara manual. Alih-alih, JUMO menggunakan metode machine learning (ML) dan artificial intelligence (AI) yang dapat secara lebih akurat memodelkan risiko pelanggan dan menghubungkannya dengan pilihan keuangan yang tepat. Dengan pendekatan ini, kita dapat menjangkau jutaan orang yang sebelumnya dikecualikan, tetapi itu akan membutuhkan lebih banyak pekerjaan.

Pengecualian keuangan tidak langsung. Nuansa budaya, jender dan sosial berlaku di pasar dan negara, menambah lapisan kompleksitas pada upaya global untuk mengurangi kemiskinan. Itu berarti pendekatan algoritmik tunggal untuk masalah cenderung rentan terhadap bias yang tidak disengaja. Untuk mengurangi hal ini, penting untuk memasukkan faktor sosial-budaya non-intuitif yang unik untuk sekelompok orang yang datanya kami akses.

Pertimbangkan seorang petani di sektor pertanian sebelum kekeringan yang diantisipasi. Pada model kredit tradisional, profil risiko mereka - dan karena itu harga pinjaman - naik tepat ketika pendanaan dan hasil panen menurun. Jika petani mengakses pinjaman melalui model risiko kredit tradisional, mereka akan menanggung beban pembayaran yang lebih berat, membuat mereka lebih cenderung gagal bayar, sehingga model tersebut terbukti benar. Ini adalah pengingat tentang dampak nyata dari pengambilan keputusan algoritmik.

Sederhananya: ada cara yang lebih baik untuk mengelola situasi ini.

Bagaimana jika kita secara akurat memprediksi kekeringan, menurunkan harga pinjaman, dan membantu petani melewati masa sulit ini? Ini akan meningkatkan kemungkinan petani memenuhi syarat untuk pinjaman pada tingkat yang dapat dilunasi secara wajar, yang mengurangi risiko gagal bayar.

Maka, sangat penting bahwa sementara kami berupaya memperluas akses keuangan, kami juga terus merefleksikan data yang kami gunakan, proses pembelajaran mesin yang kami terapkan, dan dampaknya pada pasar-pasar ini. Kami baru-baru ini fokus pada pengoptimalan pendekatan kami terhadap bias dalam pemodelan dan proses pengambilan keputusan kami. Melalui pekerjaan ini, kami mengembangkan kerangka kerja yang akan terus kami terapkan pada apa yang kami lakukan. Kerangka kerja ini mungkin berguna bagi orang lain yang berharap untuk mengurangi bias yang tidak disengaja dalam model lain.

Mengukur dampak dan marginalisasi

Tantangan pengecualian keuangan sangat luas, itulah sebabnya organisasi global seperti Perserikatan Bangsa-Bangsa bekerja bersama perusahaan untuk mengatasi masalah ini. Secara alami, untuk menyelesaikan masalah Anda harus terlebih dahulu memahami besarnya masalah ini.

Penyertaan yang sempurna akan berarti bahwa kami memperluas pilihan keuangan hingga 100% dari pelanggan 'baik' - dengan kata lain, pelanggan yang bermaksud, dan memiliki kemampuan untuk membayar kembali pinjaman mereka. Di JUMO, kami mengukur diri terhadap sejauh mana pelanggan 'baik' yang secara teoritis dapat mengakses produk keuangan dari bank lokal melalui platform kami. Untuk menguji dampak kami, kami menargetkan sampel representatif dari pelanggan yang ditolak, sering disebut sampel penolakan, untuk mengukur ambang batas atas seperti apa bentuk inklusi keuangan yang sempurna nantinya.

Terus menginterogasi data pengguna memberi kami akses ke aliran informasi yang tidak bias yang dapat kami gunakan untuk meminimalkan bias historis (yang muncul dari pengambilan keputusan historis) dan menghindari konsekuensi yang tidak diinginkan dari orang-orang yang tidak termasuk secara akurat. Namun, penting bahwa proses pengukuran ini teratur dan berkelanjutan. Ini memastikan bisnis kami tetap selaras dengan misi keseluruhan kami dan menghindari mengevaluasi pelanggan berdasarkan bias yang tidak diinginkan yang telah memasuki sistem.

Data yang lebih baik berarti prediksi yang lebih baik

Penting untuk diingat bahwa hasil dari model pembelajaran mesin apa pun hanya sebagus data yang disertakan. Misalnya, kita tahu bahwa persentase yang tidak proporsional dari pengguna platform kami adalah pria (70% dibandingkan dengan 30% pelanggan wanita). Tetapi ketika kami menggabungkan data kami dengan penelitian lain, kami menemukan bahwa wanita hanya 10% lebih kecil kemungkinannya untuk memiliki ponsel daripada pria daripada memainkan peran yang kurang signifikan dalam pengambilan dan penggunaan uang digital.

Jadi mengapa perempuan secara tidak sengaja terpinggirkan?

Untuk memahami masalah ini, kami perlu bertanya: informasi apa yang dapat kami gunakan untuk melengkapi dataset saat ini yang akan membantu kami membedakan antara individu-individu dalam kelompok yang tampaknya homogen?

Dalam hal ini, adalah pemahaman bahwa di beberapa pasar wanita lebih jarang menggunakan ponsel dan dompet ponsel daripada pria. Itu sebagian besar disebabkan oleh faktor sosial budaya, termasuk kurangnya kepercayaan pada perbankan mobile atau biaya transaksi yang terlarang. Dengan mengambil wawasan dari data ini dan menerapkannya secara berbeda pada wanita, kita dapat mengembangkan kriteria risiko yang lebih tepat yang dapat meningkatkan kesetaraan kesempatan.

ML dan intuisi untuk aplikasi dunia nyata

Dalam industri teknologi kita sering melihat dunia melalui data - 1s dan 0s. Kami mengabaikan dampak manusia dari pekerjaan kami. Untuk membuat kemajuan nyata dalam memajukan metodologi prediksi, kita perlu algoritma dan intuisi; kita perlu melihat di luar jangka pendek, menukar positif palsu dan negatif palsu, dan membangun produk yang cocok untuk orang.

Tidak ada satu model pun yang dapat mengatasi kompleksitas atau kekayaan jejaring sosial manusia selama puluhan tahun dan perbedaan mendasar yang mendasarinya. Untuk maju, kita perlu terus menerus menantang pemikiran tradisional, dan pemikiran kita sendiri.

Dalam kredit, yang sebagian besar tetap tidak berubah selama beberapa dekade, cara kita memandang dan menilai risiko memiliki potensi besar untuk kemajuan. Pembelajaran mesin dapat dan akan memainkan peran transformatif dalam upaya kami, jadi kami cenderung memikirkan sisi baiknya. Pada saat yang sama, kami menyadari risikonya. Inilah sebabnya kami fokus menggunakan AI untuk mengurangi bias dalam pengambilan keputusan keuangan sambil mengetahui bahwa jika diterapkan dengan buruk, itu bisa memiliki efek sebaliknya.

Pendekatan welas asih terhadap inklusi keuangan?

Dengan mengadopsi pendekatan ini, kami menyadari perlunya seperangkat kriteria yang berkembang yang memaksimalkan kemampuan individu untuk mengekspresikan potensi mereka. Dengan melakukan ini, kita akhirnya dapat memutuskan hubungan langsung antara skor kredit dan kekayaan dengan menggunakan pendekatan non-unilateral untuk evaluasi risiko. Ini berarti pedagang di Kampala mengambil $ 100 modal kerja dan pedagang meminjam $ 10.000 di Sacramento dievaluasi berdasarkan kriteria penilaian risiko yang paling tepat untuk setiap individu, membuka dunia pilihan keuangan.

Konsekuensi dan bias yang tidak disengaja yang muncul sebagai akibat dari pengambilan keputusan, sering melibatkan ML, tidak hanya merupakan hasil dari proses algoritma atau pemodelan, tetapi melibatkan semua titik sentuh terakumulasi yang menghasilkan hasil akhir. Untuk mengatasi bias Anda tidak bisa hanya mengamati dan memperbaiki gejalanya. Anda harus memahami proses end-to-end dan membedah seluruh sistem untuk mendapatkan akar penyebabnya. Setelah selesai, Anda harus terus melakukannya - terus menguji, mempelajari, dan mengoptimalkan untuk menghilangkan bias dari model Anda.

Pada akhirnya, ini dapat menjadi alat untuk secara empati menggunakan teknologi untuk memperluas dan memperdalam inklusi keuangan.

Andrew Watkins-Ball adalah pendiri dan CEO JUMO, platform teknologi terbesar dan paling cepat berkembang untuk mengoperasikan pasar layanan keuangan seluler inklusif di pasar negara berkembang. JUMO bermitra dengan bank-bank berpikir maju dan operator jaringan seluler untuk menghubungkan konsumen dan bisnis kecil dengan peluang keuangan. JUMO menggabungkan data dan teknologi untuk menghasilkan produk yang dirancang untuk menjangkau dan memenuhi 80% populasi dunia yang tidak dilayani oleh jasa keuangan tradisional.

Beberapa anggota tim JUMO berkontribusi pada pekerjaan ini, termasuk Ricki Davimes, Anthony la Grange, Clarissa Johnston, Ben Gidlow, Natu Lauchande, Niklas von Maltzahn dan Paul Whelpton.