কৃত্রিম বুদ্ধিমত্তা বা আর্টিফিশিয়াল ইন্টেলিজেন্স (এআই) ব্যবহারের বিষয়ে মাইক্রোসফট পরিচালনা পরিষদ, আইন প্রণেতা এবং ফেডারেল ট্রেড কমিশনকে হুঁশিয়ারি দিয়েছেন মাইক্রোসফটের সফটওয়্যার বিষয়ক একজন ইঞ্জিনিয়ার শেন জোনস। তিনি সংশ্লিষ্ট এসব পক্ষকে একটি চিঠি লিখেছেন। তাতে বলেছেন, কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে ছবি তৈরির একটি টুল হিসেবে পরিচিত কোপাইলট ডিজাইন ব্যবহারে নিরাপত্তার ক্ষেত্রে যথেষ্ট সুরক্ষামূলক ব্যবস্থা নিচ্ছে না প্রযুক্তি বিষয়ক জায়ান্ট এই প্রতিষ্ঠান। এই টুলের অপব্যবহার করে আপত্তিকর যৌনতা ও সহিংসতা বিষয়ক ছবি বানানো হচ্ছে। এ খবর দিয়েছে অনলাইন ব্লুমবার্গ।
শেন জোন্স বলেছেন, সর্বশেষ ওপেনএআই-এর ডিএএলএল-ই ইমেজ জেনারেটর মডেলে নিরাপত্তা বিষয়ক মারাত্মক ঝুঁকি দেখতে পেয়েছেন। এই অ্যাপ ব্যবহার করে ক্ষতিকর ছবি তৈরিতে বাধা দেয়ার বিধান রাখা হয়েছে। কিন্তু শেন জোনস যখন এটা ব্যবহার করেছেন, তখন সেই নির্দেশনাকে উপেক্ষা করে যেতে পেরেছেন। অর্থাৎ তিনি নিয়মের বাইরে যেতে পেরেছেন। এই মডেলকে মাইক্রোসফটের অনেক কৃত্রিম বুদ্ধিমত্তা বিষয়ক এআই টুলসের সঙ্গে এমবেড করা হয়েছে, যেমন কোপাইলট ডিজাইনার। শেন জোনস বলেন, তিনি যেসব অনিয়ম দেখতে পেয়েছেন তা মাইক্রোসফটকে জানিয়েছেন এবং ওয়াশিংটনভিত্তিক রেডমন্ডকে উন্নত নিরাপত্তা ব্যবস্থা (সেফগার্ড) নিশ্চিত না করা পর্যন্ত জনসাধারণের ব্যবহার থেকে কোপাইলট ডিজাইনারকে সরিয়ে ফেলতে বার বার অনুরোধ করেছেন।
শেন জোনসের লেখা ওই চিঠি দেখতে পেয়েছে ব্লুমবার্গ। ওই চিঠিতে ফেডারেল ট্রেড কমিশনকে শেন জোনস বলেছেন, কোপাইলট ডিজাইনারের একটি প্রবণতা আছে। সে একের পর এক অনভিপ্রেত, নারীদের ছবি দিয়ে আপত্তিকর যৌনতা বিষয়ক ইমেজ বা ছবি তৈরি করে। তিনি আরও বলেছেন, রাজনৈতিক পক্ষপাতিত্ব, অপ্রাপ্ত বয়সীদের মদ পান ও ড্রাগ নেয়ার বিষয়, করপোরেট ট্রেডমার্ক ও কপিরাইটের অপব্যবহার, ষড়যন্ত্র তত্ত্ব ও ধর্মের নামে ভুয়া ক্ষতিকর আরও অনেক ক্যাটাগরির ক্ষতিকর কন্টেন্ট সৃষ্টি করে এআই। চিঠি হাতে পাওয়ার কথা স্বীকার করেছে ফেডারেল ট্রেড কমিশন। ক্ষতিকর কন্টেন্ট সৃষ্টিতে এআই টুলস ব্যবহারের যে প্রবণতা সৃষ্টি হয়েছে শেন জোনসের কথায় সেই উদ্বেগকে আরও বাড়িয়ে তুলেছে।
শেন জোনস মাইক্রোসফটের এনভায়রনমেন্টাল, সোশ্যাল অ্যান্ড পাবলিক পলিসি কমিটিকে লিখেছেন। এর সদস্য পেনি প্রিটজকার এবং রেইড হফম্যান। ওই চিঠিতে শেন জোনস বলেছেন, এআই বিষয়ে ভোক্তাদের মধ্যে যে ঝুঁকি সৃষ্টি হয়েছে তার স্বচ্ছতার ক্ষেত্রে সরকারের নিয়ন্ত্রকদের জন্য অপেক্ষা করা আমাদের উচিত হবে বলে মনে করি না।
ঠিকানা/এসআর
শেন জোন্স বলেছেন, সর্বশেষ ওপেনএআই-এর ডিএএলএল-ই ইমেজ জেনারেটর মডেলে নিরাপত্তা বিষয়ক মারাত্মক ঝুঁকি দেখতে পেয়েছেন। এই অ্যাপ ব্যবহার করে ক্ষতিকর ছবি তৈরিতে বাধা দেয়ার বিধান রাখা হয়েছে। কিন্তু শেন জোনস যখন এটা ব্যবহার করেছেন, তখন সেই নির্দেশনাকে উপেক্ষা করে যেতে পেরেছেন। অর্থাৎ তিনি নিয়মের বাইরে যেতে পেরেছেন। এই মডেলকে মাইক্রোসফটের অনেক কৃত্রিম বুদ্ধিমত্তা বিষয়ক এআই টুলসের সঙ্গে এমবেড করা হয়েছে, যেমন কোপাইলট ডিজাইনার। শেন জোনস বলেন, তিনি যেসব অনিয়ম দেখতে পেয়েছেন তা মাইক্রোসফটকে জানিয়েছেন এবং ওয়াশিংটনভিত্তিক রেডমন্ডকে উন্নত নিরাপত্তা ব্যবস্থা (সেফগার্ড) নিশ্চিত না করা পর্যন্ত জনসাধারণের ব্যবহার থেকে কোপাইলট ডিজাইনারকে সরিয়ে ফেলতে বার বার অনুরোধ করেছেন।
শেন জোনসের লেখা ওই চিঠি দেখতে পেয়েছে ব্লুমবার্গ। ওই চিঠিতে ফেডারেল ট্রেড কমিশনকে শেন জোনস বলেছেন, কোপাইলট ডিজাইনারের একটি প্রবণতা আছে। সে একের পর এক অনভিপ্রেত, নারীদের ছবি দিয়ে আপত্তিকর যৌনতা বিষয়ক ইমেজ বা ছবি তৈরি করে। তিনি আরও বলেছেন, রাজনৈতিক পক্ষপাতিত্ব, অপ্রাপ্ত বয়সীদের মদ পান ও ড্রাগ নেয়ার বিষয়, করপোরেট ট্রেডমার্ক ও কপিরাইটের অপব্যবহার, ষড়যন্ত্র তত্ত্ব ও ধর্মের নামে ভুয়া ক্ষতিকর আরও অনেক ক্যাটাগরির ক্ষতিকর কন্টেন্ট সৃষ্টি করে এআই। চিঠি হাতে পাওয়ার কথা স্বীকার করেছে ফেডারেল ট্রেড কমিশন। ক্ষতিকর কন্টেন্ট সৃষ্টিতে এআই টুলস ব্যবহারের যে প্রবণতা সৃষ্টি হয়েছে শেন জোনসের কথায় সেই উদ্বেগকে আরও বাড়িয়ে তুলেছে।
শেন জোনস মাইক্রোসফটের এনভায়রনমেন্টাল, সোশ্যাল অ্যান্ড পাবলিক পলিসি কমিটিকে লিখেছেন। এর সদস্য পেনি প্রিটজকার এবং রেইড হফম্যান। ওই চিঠিতে শেন জোনস বলেছেন, এআই বিষয়ে ভোক্তাদের মধ্যে যে ঝুঁকি সৃষ্টি হয়েছে তার স্বচ্ছতার ক্ষেত্রে সরকারের নিয়ন্ত্রকদের জন্য অপেক্ষা করা আমাদের উচিত হবে বলে মনে করি না।
ঠিকানা/এসআর