Penggunaan AI Makin Menjamur, Begini Langkah AFSI untuk Mengatasinya

Perkembangan teknologi dan kecerdasan buatan (artificial intelligence/AI) telah mengubah wajah berbagai sektor, termasuk industri keuangan. Fintech, singkatan dari financial technology, menjadi salah satu sektor terdepan dalam mengadopsi teknologi AI. Tujuannya tidak lain untuk meningkatkan aksesibilitas, efisiensi, dan layanan keuangan secara keseluruhan.

Sebagai negara dengan penduduk muslim terbesar di dunia, fintech dengan prinsip syariah menjadi bagian krusial dalam ekosistem keuangan Indonesia yang sedang berkembang. Namun, seiring dengan pertumbuhan fintech, penting bagi para pemangku kepentingan dalam industri ini untuk mengatur dan mengawasi penggunaan AI dengan bijak. Nah, di sinilah Asosiasi Fintech Syariah Indonesia (AFSI) memainkan perannya sebagai kongregasi dari seluruh perusahaan fintech syariah di Tanah Air.

AI dalam Fintech Syariah

Artificial intelligence (AI) atau kecerdasan buatan adalah inovasi teknologi yang berasal dari kombinasi ilmu komputer, big data, dan machine learning. Tujuan teknologi ini ialah untuk mempelajari pola, memprediksi, dan memberikan solusi mengenai suatu masalah berdasarkan informasi yang diberikan. Sederhananya, makin banyak informasi yang diberikan, makin ‘pintar’ pula teknologi AI ini.

AI sudah diterapkan di banyak sektor, termasuk fintech konvensional maupun syariah. Pasalnya, fintech adalah sektor keuangan yang memiliki banyak data. Data-data tersebut perlu dianalisis untuk kepentingan operasional bisnis. Bila seluruh analisis data dilakukan secara manual, otomatis memerlukan banyak tenaga manusia.

Guna mengotomasi analisis data dan pekerjaan manual lainnya, pelaku industri fintech perlahan-lahan mulai mengadopsi AI. Melansir laman Trenasia, survei dari Cambridge Center for Alternative Finance menunjukkan ada sekitar 90% perusahaan fintech dunia yang sudah mengadopsi teknologi AI.

Sebagaimana yang sudah diketahui, penerapan teknologi AI dalam platform fintech membawa dampak yang cukup besar, terutama soal pengolahan data. Untuk lebih lengkapnya, simak pembahasan berikut.

• Otomasi pemrosesan data: Salah satu AI untuk mengotomasi pemrosesan data adalah Robotic Process Automatic (RPA). Sistem ini dapat membantu bisnis menyelesaikan tugas-tugas manual seperti pemeriksaan keamanan data, pemrosesan pengajuan pinjaman, penanganan pertanyaan pelanggan, dan lainnya.
• Mendeteksi penipuan: AI dapat digunakan untuk mengidentifikasi perilaku mencurigakan yang dapat mengancam keamanan data dalam platform fintech.
• Memprediksi dan menilai pinjaman: AI dapat digunakan untuk membantu perusahaan fintech mengidentifikasi nasabah yang kemungkinan besar akan mengalami gagal bayar.

Selain ketiga penerapan di atas, tentu masih ada pemanfaatan lain dari teknologi AI. Seperti disebutkan sebelumnya, makin banyak informasi yang dimasukkan ke sistem AI, makin terlatih pula AI tersebut. Namun, penggunaan inovasi teknologi ini tak lepas dari sejumlah risiko.

Peran AFSI dalam Mengatur Penerapan AI

Penerapan AI dalam berbagai sektor industri tak bisa lepas dari beberapa risiko. Pun begitu dengan penerapannya di industri fintech. Selain risiko yang sudah ada, pemanfaatan kecerdasan buatan secara masif memungkinkan timbulnya risiko baru yang belum pernah ditemukan sebelumnya atau disebut dengan unprecedented risk.

Guna memitigasi risiko tersebut dan tetap mengoptimalkan pemanfaatan AI di sektor fintech, diperlukan code of conduct atau kode etik. Kode etik ini diharapkan dapat menjadi panduan bagi para pelaku industri fintech dalam menggunakan teknologi AI. Dalam penerapannya di sektor fintech syariah, kode etik dirancang oleh Asosiasi Fintech Syariah Indonesia (AFSI) selaku organisasi seluruh pelaku industri fintech syariah.

Dalam code of conduct yang dirancang AFSI, pemanfaatan AI dalam fintech syariah harus memenuhi prinsip-prinsip dasar AI, di antaranya:

• beneficial (bermanfaat)
• fair and accountable (wajar dan akuntabel)
• transparent and explicable (transparan dan dapat dijelaskan)
• robustness and security (ketangguhan dan keamanan) 

Sementara, tujuan pembuatan code of conduct ini sendiri adalah agar bisa menjadi pedoman bagi seluruh penyelenggara fintech di Indonesia dalam melakukan manajemen risiko pemanfaatan AI dalam bisnis. 

5 Prinsip Dasar Penggunaan AI dalam Fintech

Dalam kode etik AFSI terkait penerapan AI di industri fintech, terdapat lima prinsip dasar yang perlu dipahami. Kelima prinsip dasar ini disusun berdasarkan riset atas sejumlah panduan, seperti OECD AI Principle dan National Institute of Standards and Technology AI Risk Management Framework.

Adapun prinsip dasar yang dimaksud, yakni:

1. Berasaskan Pancasila

Pancasila merupakan dasar negara sekaligus ideologi bangsa Indonesia yang menjadi fondasi dalam kehidupan berbangsa dan bernegara. Nilai-nilai Pancasila juga perlu diterapkan dalam pemanfaatan AI di industri fintech. 

Segala bentuk pengembangan dan pemanfaatan teknologi AI dalam operasional bisnis fintech harus sesuai dengan kepentingan nasional. Selain itu juga harus diterapkan dengan tanggung jawab etika sesuai Pancasila.

2. Beneficial (Bermanfaat)

Dalam mengoptimalkan penggunaan AI supaya bermanfaat bagi manusia dan lingkungan, ada beberapa hal yang perlu diperhatikan, yakni:

• Penyelenggara fintech harus memastikan bahwa penggunaan AI dalam operasional bisnis bisa memberikan manfaat bagi keberlangsungan bisnis. Selain itu, penggunaannya juga harus bermanfaat bagi kesejahteraan konsumen, meningkatkan inklusi keuangan, mengentaskan kesenjangan, dan mendorong pertumbuhan ekonomi yang berkelanjutan.
• Pemanfaatan AI harus mengutamakan hak asasi manusia, keberagaman, dan perlindungan terhadap konsumen dan investor.

3. Fair and Accountable (Wajar dan Akuntabel)

Pemanfaatan AI harus wajar dan akuntabel serta memperhatikan prinsip non-diskriminatif dan keadilan. Selain itu, penyelenggara fintech harus melakukan mitigasi risiko dengan uji coba, data, dan algoritma yang relevan. Data harus valid, terkini, dan bebas dari bias.

AI yang digunakan dalam bentuk aplikasi juga harus memiliki akurasi tinggi dan sesuai dengan etika yang berlaku. Sebelum aplikasi digunakan, penyelenggara fintech harus meminta persetujuan dari direktur/komisaris. Terakhir, penyelenggara harus bertanggung jawab atas segala output aplikasi AI untuk memberikan kepastian pada konsumen.

4. Transparent and Explicable (Transparan dan Dapat Dijelaskan)

Penyelenggara fintech perlu menjelaskan pemrosesan AI kepada konsumen mulai dari input hingga output guna meningkatkan transparansi. Penyelenggara harus memiliki pengetahuan dan kendali atas pemrosesan AI. Sementara itu, penjelasan yang diberikan ke konsumen harus mencakup potensi risiko dan tindakan mitigasi jika ada kegagalan.

Selanjutnya, kerangka manajemen risiko AI perlu diterapkan harus mencakup mekanisme yang bertanggung jawab dan recovery mechanisms sesuai dengan pedoman masing-masing penyelenggara. Hal ini untuk memastikan bahwa penggunaan AI berjalan transparan dan dapat dipahami oleh konsumen.

5. Robustness and Security (Ketangguhan dan Keamanan)

Penyelenggara fintech wajib memastikan keamanan dan ketangguhan aplikasi AI yang digunakan dengan memperhatikan sejumlah hal. Pertama, tingkat ketangguhan aplikasi AI harus sesuai dengan parameter setiap penyelenggara. Kedua, penyelenggara wajib memastikan aplikasi tidak rentan terhadap serangan siber. Selain itu, aplikasi AI juga wajib memiliki recovery mechanism guna menghadapi risiko serangan siber.

Ketiga, penyelenggara fintech harus memastikan bahwa aplikasi AI yang digunakan adalah hasil pengembangan developer yang profesional dan bersertifikasi. Keempat, penyelenggara wajib memastikan bahwa aplikasi AI sudah melalui proses pengujian dan pembelajaran menggunakan data valid dan paling terkini. 

Kelima, aplikasi AI harus sudah melalui proses pengujian dan tes validasi secara teratur dan berkala. Terakhir, penyelenggara fintech wajib memiliki standar yang menunjukkan validitas data.

Itulah kelima prinsip dasar penggunaan AI dalam industri fintech Indonesia. Dengan mengutamakan transparansi, keamanan, dan pertanggungjawaban, AFSI selaku asosiasi fintech syariah Indonesia berkomitmen untuk memastikan bahwa AI digunakan dengan bijak dan sesuai dengan lima prinsip dasar AI. Dengan begitu, AI dalam fintech dapat terus memberikan manfaat bagi bisnis dan konsumen.