ডিপফেকের মাধ্যমে যৌন হয়রানির অভিযোগে ইলন মাস্কের প্রতিষ্ঠান xAI-এর তৈরি কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবট ‘গ্রোক’ সাময়িকভাবে বন্ধ করে দিয়েছে ইন্দোনেশিয়া। আন্তর্জাতিক বার্তা সংস্থা রয়টার্স জানিয়েছে, গ্রোক ব্যবহারে নিষেধাজ্ঞা দেওয়া প্রথম দেশ হিসেবে ইতিহাসে নাম লেখাল ইন্দোনেশিয়া।ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল বিষয়ক মন্ত্রী মেউত্যা হাফিদ জানান, গ্রোক ব্যবহার করে হাজারো ব্যবহারকারী নারীদের নগ্ন ছবি এবং এমনকি কিছু ক্ষেত্রে শিশুদের যৌন ডিপফেক ছবি তৈরি করেছে—যা সরকার গুরুতর ডিজিটাল অপরাধ হিসেবে দেখছে।রয়টার্সকে দেওয়া এক বিবৃতিতে হাফিদ বলেন, “সম্মতি ছাড়া যৌন ডিপফেক তৈরি মানবাধিকার, মর্যাদা ও ডিজিটাল নিরাপত্তার ওপর সরাসরি আঘাত। সরকার এ ধরনের অপরাধ কোনোভাবেই মেনে নেবে না।” রাষ্ট্রীয় বার্তা সংস্থা আন্তারা নিউজ জানিয়েছে, নারী, শিশু ও সাধারণ জনগণকে মানসিক ও সামাজিক ক্ষতি থেকে রক্ষার জন্যই গ্রোক সাময়িকভাবে ব্লক করা হয়েছে। মন্ত্রী হাফিদ এই কর্মকাণ্ডকে ‘ডিজিটালভিত্তিক সহিংসতা’ হিসেবে আখ্যা দেন।এ ঘটনায় ইন্দোনেশিয়া সরকার সামাজিক যোগাযোগমাধ্যম এক্স (সাবেক টুইটার)–এর কর্মকর্তাদের তলব করেছে। গ্রোকের নকশা, কার্যপদ্ধতি এবং নেতিবাচক প্রভাব সম্পর্কে ব্যাখ্যা চাওয়া হয়েছে। একই সঙ্গে ভবিষ্যতে অপব্যবহার ঠেকাতে কী ধরনের প্রযুক্তিগত ব্যবস্থা নেওয়া হবে, সে বিষয়ে সুস্পষ্ট পরিকল্পনা দিতে বলা হয়েছে।মন্ত্রী হাফিদ বলেন, গ্রোক ইন্দোনেশিয়ায় পুনরায় চালু হবে কি না, তা নির্ভর করবে—প্ল্যাটফর্মটি কতটা কঠোর কনটেন্ট ফিল্টার ও নৈতিক এআই নীতিমালা বাস্তবায়নে আগ্রহী তার ওপর।এর আগে ইলন মাস্ক ও xAI ব্যবহারকারীদের সতর্ক করে বলেছিলেন, গ্রোক ব্যবহার করে অবৈধ কনটেন্ট তৈরি করলে আইনি পরিণতি ভোগ করতে হবে। এক্সে দেওয়া পোস্টে মাস্ক বলেন, “গ্রোক দিয়ে অবৈধ কনটেন্ট তৈরি করলে তা আপলোড করার মতোই আইনি শাস্তি পেতে হবে।” তবে ডিপফেক কনটেন্ট নিয়ন্ত্রণে ব্যর্থতার অভিযোগ বাড়তে থাকায়, সম্প্রতি মাস্ক তার অবস্থান কিছুটা নরম করেন। শনিবার তিনি এক সমর্থকের পোস্ট পুনরায় শেয়ার করেন, যেখানে বলা হয়—ডিপফেক তৈরির দায় ব্যবহারকারীদের, প্ল্যাটফর্মের নয়।এদিকে যুক্তরাষ্ট্রেও বিষয়টি আলোচনার কেন্দ্রবিন্দুতে এসেছে। তিনজন মার্কিন সিনেটর গুগল ও অ্যাপলকে চিঠি দিয়ে তাদের অ্যাপ স্টোর থেকে গ্রোক ও এক্স অ্যাপ সরিয়ে নেওয়ার আহ্বান জানিয়েছেন। সিনেটররা অভিযোগ করেন, এই অ্যাপগুলো নারীদের ও শিশুদের বিরুদ্ধে যৌন ডিপফেক তৈরির সুযোগ দিয়ে অ্যাপ স্টোরের নীতিমালা লঙ্ঘন করছে।চিঠিতে তারা বলেন, “এক্স ও গ্রোক অ্যাপের মাধ্যমে নারীদের ও শিশুদের সম্মতিহীন যৌন চিত্র তৈরি করা হচ্ছে, যা ক্ষতিকর এবং সম্ভবত অবৈধ।” বিশ্লেষকদের মতে, ইন্দোনেশিয়ার এই সিদ্ধান্ত কৃত্রিম বুদ্ধিমত্তার অপব্যবহার রোধে বৈশ্বিক পর্যায়ে নতুন নজির স্থাপন করল।