কৃত্রিম বুদ্ধিমত্তা আমাদের বিশ্বকে পরিবর্তন করছে এবং আর্থিক পরিষেবাগুলিও এর ব্যতিক্রম নয়। AI ব্যক্তিগত ব্যাঙ্কিং খাতকে নতুন আকার দিচ্ছে কিন্তু বর্তমানে এটি লিঙ্গ সমতা, স্বচ্ছতা এবং ন্যায্যতার উপর কোথায় দাঁড়িয়েছে?

যখন কেউ আজ ঋণের জন্য আবেদন করে, তখন একটি ক্রমবর্ধমান সম্ভাবনা রয়েছে যে কোনও মানুষ তাদের আবেদনটি পড়বে না। একটি ডেটা-চালিত অ্যালগরিদম সিদ্ধান্ত নেয় যে তারা যোগ্য কিনা, তারা কতটা ধার নিতে পারে এবং কতটা ঝুঁকিপূর্ণ বলে বিবেচিত হয়, প্রায়শই কয়েক সেকেন্ডের মধ্যে এবং ব্যাখ্যা ছাড়াই, চুপচাপ আর্থিক সুযোগগুলিকে এমনভাবে আকার দেয় যা বেশিরভাগ লোকেরা তাদের দৈনন্দিন জীবনে কখনও দেখে না কিন্তু অনুভব করে।

এই সিস্টেমগুলি সাধারণত নিরপেক্ষ সরঞ্জাম হিসাবে উপস্থাপিত হয়:মানুষের চেয়ে দ্রুত, আরও সামঞ্জস্যপূর্ণ, কম কুসংস্কারের প্রবণতা।

অস্বচ্ছতা এবং পক্ষপাতের জন্য দীর্ঘকাল ধরে সমালোচিত একটি সেক্টরে, সেই প্রতিশ্রুতিটি আকর্ষণীয় এবং প্রায়শই শিল্প এবং নীতি বিতর্কে প্রতিধ্বনিত হয়। কিন্তু এই প্রতিশ্রুতিটি একটি ভঙ্গুর অনুমানের উপর নির্ভর করে, খুব কমই স্পষ্ট করা হয় যে, এই সিস্টেমগুলি যে ডেটা থেকে শেখে তা প্রত্যেকের জীবনকে সমানভাবে প্রতিফলিত করে।

ইইউ এজেন্সি ফর ফান্ডামেন্টাল রাইটসের সাম্প্রতিক একটি প্রতিবেদন, পাঁচটি সদস্য রাষ্ট্রের ফিল্ডওয়ার্কের উপর ভিত্তি করে, কর্মসংস্থান, জনসাধারণের সুবিধা এবং আইন প্রয়োগের মতো ক্ষেত্রে ইইউ এআই আইনের অধীনে কীভাবে উচ্চ-ঝুঁকিপূর্ণ এআই সিস্টেমগুলি পরিচালিত হয় তা পরীক্ষা করে। এটি আইনি উচ্চাকাঙ্ক্ষা এবং অনুশীলনের মধ্যে একটি আকর্ষণীয় ব্যবধান খুঁজে পেয়েছে:বৈষম্যের ঝুঁকিগুলি ব্যাপকভাবে স্বীকার করা হলেও, প্রদানকারী এবং নিয়োগকারীদের প্রায়শই তাদের পদ্ধতিগতভাবে মূল্যায়ন করার জন্য সরঞ্জাম, দক্ষতা এবং নির্দেশনার অভাব থাকে। স্ব-মূল্যায়ন অসামঞ্জস্যপূর্ণ, এবং তদারকি পাতলা থেকে যায়।

এটি একটি গুরুত্বপূর্ণ বিষয়। যখন এই সিস্টেমগুলিকে খাওয়ানো ডেটা পুরুষদের মতো একই গভীরতা এবং নির্ভুলতার সাথে মহিলাদের আর্থিক জীবনের বাস্তবতা ক্যাপচার করতে ব্যর্থ হয়, তখন ফলাফলটি কেবল একটি প্রযুক্তিগত ত্রুটি নয় বরং একটি কাঠামোগত বিকৃতি, যা আকার দেয় কে ক্রেডিট অ্যাক্সেস পায়, কোন শর্তে এবং দীর্ঘমেয়াদী ফলাফলের সাথে। AI-চালিত অর্থ ন্যায্য হওয়ার জন্য, এই সিস্টেমগুলি নির্ভর করে এমন ডেটাতে মহিলাদের প্রথমে "দৃশ্যমান" হতে হবে৷

অ্যালগরিদম ন্যায্যতার বিচার করে না বা জিজ্ঞাসা করে না যে একটি ফলাফল অর্থপূর্ণ কিনা, তবে তাদের দেওয়া ডেটা, প্যাটার্ন অঙ্কন এবং সেগুলিকে সামনের দিকে প্রজেক্ট করার উপর ভিত্তি করে কোনটি সঠিক হওয়ার সম্ভাবনা সবচেয়ে বেশি অনুমান করে। যখন ডেটা অসম্পূর্ণ বা বিকৃত হয়, তখন সিস্টেমের উপসংহারগুলি শুরু থেকেই নড়বড়ে অনুমানের উপর নির্ভর করে।

যদি নারীদের নিম্নরূপ করা হয়, খারাপভাবে পরিমাপ করা হয় বা পুরুষদের থেকে আলাদাভাবে বিশ্লেষণ করা হয় না, তবে সিস্টেমটি অসম ফলাফল দেখতে পারে না, এবং এটি যা দেখতে পারে না তা সংশোধন করতে পারে না। পক্ষপাত সহজভাবে এগিয়ে নিয়ে যাওয়া হয় এবং রুটিন করা হয়।

এই গতিশীলতা মিস করা সহজ যখন আলোচনাগুলি মডেল এবং প্রবিধানের স্তরে থাকে, তবে অটোমেটেড সিস্টেমগুলি অনুশীলনে পরিলক্ষিত হওয়ার সাথে সাথে এর প্রভাবগুলি স্পষ্ট হয়ে যায়। বিভিন্ন দেশে, প্রমাণগুলি দেখায় যে অসমতা কত দ্রুত অ্যালগরিদমিক সিদ্ধান্তগুলিতে এমবেড করা যেতে পারে, সিস্টেমগুলি বৈষম্যের জন্য ডিজাইন করা হয়েছে বলে নয়, বরং তারা যে ডেটা থেকে শিখেছে তাতে ইতিমধ্যে উপস্থিত বিকৃতিগুলি বিশ্বস্তভাবে পুনরুত্পাদন করে৷

কেনিয়া একটি বলার মত দৃষ্টান্ত প্রদান করে। প্রকাশিত সমীক্ষা অনুসারে, একটি বহুল ব্যবহৃত ডিজিটাল ঋণদানের অ্যালগরিদম ধারাবাহিকভাবে পুরুষদের তুলনায় মহিলাদের ছোট ঋণের প্রস্তাব দেয়, কিছু ক্ষেত্রে শক্তিশালী পরিশোধের কার্যকারিতা সত্ত্বেও এক তৃতীয়াংশেরও বেশি। সিস্টেমটি ইচ্ছাকৃতভাবে নারীদের আলাদা করেনি:এটি কেবল দীর্ঘস্থায়ী সামাজিক ও অর্থনৈতিক বৈষম্য দ্বারা আকৃতির ডেটা থেকে শিখেছে এবং তারপরে সেই প্যাটার্নগুলিকে স্কেলে প্রয়োগ করেছে৷

এই উদাহরণে যা গুরুত্বপূর্ণ তা কেনিয়া নিজেই নয়, তবে কেসটি কী দৃশ্যমান করে তোলে। অ্যালগরিদম ঠিক যা করার জন্য ডিজাইন করা হয়েছিল তা করেছে, অতীতের আচরণ থেকে শিখে এবং সেই নিদর্শনগুলিকে ধারাবাহিকভাবে প্রয়োগ করে, তবুও মহিলাদের এবং পুরুষদের ফলাফলের মধ্যে পার্থক্য করার ক্ষমতা ছাড়াই, বাস্তব সময়ে যে বৈষম্য পুনরুত্পাদিত হচ্ছে তা সনাক্ত করার কোন উপায় ছিল না। সমস্যাটি অটোমেশন নয়, অন্ধত্ব ছিল।

অর্থ কীভাবে লিঙ্গ অন্ধ স্পট কাটিয়ে উঠতে পারে?

সেখানেই যৌন-বিচ্ছিন্ন ডেটা অপরিহার্য হয়ে ওঠে। লিঙ্গ অনুসারে আর্থিক তথ্য বাছাই করে, নিয়ন্ত্রক, আর্থিক প্রতিষ্ঠান এবং প্রযুক্তি ডিজাইনাররা স্বয়ংক্রিয় সিস্টেমের প্রভাবগুলি উন্মোচন করতে পারে, কার অর্থের অ্যাক্সেস রয়েছে তা সনাক্ত করতে এবং ফলাফলগুলি ভিন্ন হতে শুরু করে এমন ক্ষেত্রগুলি চিহ্নিত করতে পারে। সেই দৃশ্যমানতা ছাড়া, লিঙ্গ ব্যবধানগুলি লুকিয়ে থাকে এবং লুকানো ফাঁকগুলি স্থায়ী হওয়ার অভ্যাস থাকে। ডিজিটাল ফাইন্যান্সে, ডেটা হল "একজন মেয়ের সেরা বন্ধু", স্লোগান হিসেবে নয়, জবাবদিহিতার একটি বাস্তব শর্ত হিসেবে৷

বেশিরভাগ আর্থিক প্রতিষ্ঠান প্রাথমিক সনাক্তকরণের অংশ হিসাবে গ্রাহকের লিঙ্গ রেকর্ড করে। কাগজে, তথ্য আছে, রুটিন রিপোর্টিং এবং মৌলিক গ্রাহক রেকর্ডে এমবেড করা আছে। অনুশীলনে, যাইহোক, একটি ভেরিয়েবল রেকর্ড করা এটি ব্যবহার করার মত নয়। অনেক দেশে, গ্রাহকের লিঙ্গ ডাটাবেসে প্রদর্শিত হয় কিন্তু বিচক্ষণ প্রতিবেদনের মতো মূল তত্ত্বাবধায়ক কাঠামো সহ সুপারভাইজারদের দ্বারা কখনই বিশ্লেষণ, প্রতিবেদন বা নিরীক্ষণ করা হয় না। প্রায়শই, ডেটা ইতিমধ্যেই বিদ্যমান, তবে এটি সংগ্রহ করা হয়, ফাইল করা হয় এবং তারপর চুপচাপ উপেক্ষা করা হয়। সমস্যাটি কী করা যায় তার মধ্যে নয়, তবে কী করা যায় তার মধ্যে।

সঠিক অর্থব্যবস্থা:উন্নয়নশীল দেশগুলো এগিয়ে যাচ্ছে

প্রায়শই কম সংস্থান রয়েছে বলে ধরে নেওয়া দেশগুলিতে চিত্রটি খুব আলাদা দেখায়। ল্যাটিন আমেরিকা এবং আফ্রিকার কিছু অংশে, নিয়ন্ত্রকদের বছরের পর বছর ধরে লিঙ্গ-বিচ্ছিন্ন প্রতিবেদনের প্রয়োজন রয়েছে এবং নিয়মিতভাবে আর্থিক ক্ষেত্রে লিঙ্গ ব্যবধানের তথ্য প্রকাশ করে।

চিলিতে, আর্থিক কর্তৃপক্ষ দুই দশকেরও বেশি সময় ধরে ঋণ এবং আমানতের লিঙ্গ পার্থক্য ট্র্যাক করেছে, নিয়মিত লিঙ্গ-বিচ্ছিন্ন আর্থিক পরিসংখ্যান প্রকাশ করছে।

মেক্সিকোতে, মহিলা এবং পুরুষরা কীভাবে আর্থিক পরিষেবাগুলি ব্যবহার করে এবং কীভাবে ঋণগ্রহীতা হিসাবে কাজ করে তা বোঝার জন্য নিয়ন্ত্রকরা জাতীয় পরিবারের সমীক্ষার সাথে ব্যাঙ্ক ডেটা একত্রিত করে৷

সেই দৃশ্যমানতার ব্যবহারিক পরিণতি হয়েছে। মেক্সিকোতে, সুপারভাইজরি ডেটা দেখিয়েছে যে মহিলাদের ঋণগুলি ছোট কিন্তু কম ঝুঁকিপূর্ণ ছিল, প্রমাণ যেগুলি ঋণ ক্ষতির বিধানের নিয়মগুলির পরিবর্তনে পরিণত হয়েছে৷

চিলিতে, তথ্য প্রকাশ করেছে যে অ্যাকাউন্টগুলিতে সমান অ্যাক্সেস সঞ্চয় বা বীমাতে সমান ফলাফলে অনুবাদ করেনি, আরও লক্ষ্যযুক্ত নীতি প্রতিক্রিয়ার প্ররোচনা দেয়। একবার এই ফাঁকগুলি দৃশ্যমান হয়ে গেলে, সেগুলি উপেক্ষা করা আরও কঠিন হয়ে ওঠে৷

এই দৃষ্টিকোণ থেকে দেখা যায়, অনেক উচ্চ-আয়ের অর্থনীতির পরিস্থিতি প্রযুক্তিগত ব্যবধানের মতো কম এবং প্রাতিষ্ঠানিক দ্বিধা-দ্বন্দ্বের মতো দেখায়। বেশিরভাগ ইউরোপে, উন্নত ডেটা অবকাঠামো থাকা সত্ত্বেও লিঙ্গ ডেটা স্বেচ্ছায় বা খণ্ডিত থেকে যায়, এটি প্রযুক্তিগত ক্ষমতার নয় বরং প্রাতিষ্ঠানিক পছন্দের ব্যর্থতা। আমার আসন্ন পলিসি পেপার "ডেটা আর আ গার্লস বেস্ট ফ্রেন্ডস:ট্যাকলিং ডিজিটাল ফিনান্সিয়াল ইনইক্যালিটি থ্রু সেক্স-ডিস্যাগ্রিগেটেড ডেটা", যা মে মাসে প্রকাশিত হবে তা এক্সপ্লোর করে৷

যেহেতু কৃত্রিম বুদ্ধিমত্তা আর্থিক সিদ্ধান্ত গ্রহণে আরও গভীরভাবে এম্বেড হয়ে যায়, সেই পছন্দটি রক্ষা করা কঠিন হয়ে পড়ে। এমন একটি সময়ে যখন ইউরোপ EU AI আইন বাস্তবায়ন করছে এবং অর্থের ক্ষেত্রে অ্যালগরিদমিক সিদ্ধান্ত গ্রহণকে কীভাবে নিয়ন্ত্রণ করা যায় তা নিয়ে বিতর্ক করছে, পদ্ধতিগত লিঙ্গ ডেটার অনুপস্থিতি একটি মৌলিক প্রশ্ন উত্থাপন করে:বৈষম্য সনাক্ত করার জন্য প্রয়োজনীয় ডেটা বিশ্লেষণ না হলে কীভাবে ন্যায্যতা পর্যবেক্ষণ করা যায়?

তথ্যে নারীদের দৃশ্যমান করা প্রতীকী নয়। এটি ছাড়া, ন্যায্য অর্থ একটি দাবির চেয়ে সামান্য বেশি।

পণ্ডিত এবং গবেষকদের দক্ষতা সমন্বিত ইংরেজিতে একটি সাপ্তাহিক ই-মেইল। এটি মহাদেশ থেকে বেরিয়ে আসা গবেষণার বৈচিত্র্যের একটি সূচনা প্রদান করে এবং ইউরোপীয় দেশগুলির মুখোমুখি কিছু মূল সমস্যাগুলি বিবেচনা করে। নিউজলেটার পান!