মঙ্গলবার রাতে টিকটক লাইভে পেরেজ হিলটনের আত্মহননের চেষ্টার দৃশ্যটি প্ল্যাটফর্মের স্বয়ংক্রিয় মডারেশন সিস্টেমে দ্রুত ধরা পড়েছিল। টিকটকের একজন মুখপাত্র ইউএসএ টুডেকে জানিয়েছেন যে, তাদের মডারেশন টিমকে বিষয়টি তৎক্ষণাৎ সতর্ক করা হয়েছিল। তবে একটি 'মডারেটর ত্রুটির' কারণে ভিডিওটি প্ল্যাটফর্ম থেকে সরিয়ে নিতে বিলম্ব ঘটে। টিকটক দাবি করেছে, ভিডিওটি ১৫ মিনিট স্থায়ী ছিল, ৩০ মিনিট নয়। একইসঙ্গে হিলটনের পরবর্তী বেশ কয়েকটি লাইভ স্ট্রিম ৯০ সেকেন্ডের মধ্যেই বন্ধ করে দেওয়া হয়েছিল। কমিউনিটি গাইডলাইন লঙ্ঘনের দায়ে হিলটনের অ্যাকাউন্টটি স্থায়ীভাবে নিষিদ্ধ করেছে টিকটক। যদি আপনি বা আপনার পরিচিত কেউ মানসিক স্বাস্থ্য সংকটের সম্মুখীন হন, তবে ৯৮৮ সুইসাইড অ্যান্ড ক্রাইসিস লাইফলাইনে ৯৮৮ নম্বরে কল বা টেক্সট করুন।
ভিডিওটি সরিয়ে নেওয়া হলেও এর বিভিন্ন অংশ এখনও এক্স (সাবেক টুইটার) প্ল্যাটফর্মে ছড়িয়ে রয়েছে। একই দিনে হিলটনের লাইভস্ট্রিমের মতো আরেকটি টিকটক ভিডিওতে ৬,০০,০০০-এর বেশি ফলোয়ার থাকা এক মেক্সিকান ইনফ্লুয়েন্সারকে গুলি করে হত্যা করতে দেখা যায়। ২০২০ সালে টিকটক গ্রাফিক কনটেন্ট সময়মতো অপসারণ না করার মতো ২০০টি বড় ধরনের ঘটনার সম্মুখীন হয়েছিল। সোশ্যাল মিডিয়া কোম্পানিগুলোর নিজস্ব নীতিমালায় আত্মহনন বা ক্ষতিকর আচরণের চিত্র ধারণ নিষিদ্ধ। টিকটকের নীতিমালায় বলা হয়েছে, আত্মহনন বা ক্ষতিকর আচরণ প্রচার বা প্রদর্শনকারী যেকোনো কনটেন্টের প্রতি তাদের 'জিরো টলারেন্স' নীতি রয়েছে। তবে এক্স বা মেটার পক্ষ থেকে এ বিষয়ে কোনো মন্তব্য পাওয়া যায়নি। ইউটিউব তাদের বিদ্যমান পলিসির দিকেই ইঙ্গিত করেছে।
ইলন মাস্ক ২০২২ সালে এক্স কিনে নেওয়ার পর থেকে প্ল্যাটফর্মটির কন্টেন্ট মডারেশন টিমের বড় অংশকে ছাঁটাই করা হয়েছে, যা নিয়ে অনেক সমালোচনা রয়েছে। জর্জিয়া বিশ্ববিদ্যালয়ের ইন্টারনেট সংস্কৃতি গবেষক জেসিকা ম্যাডক্সের মতে, কন্টেন্ট মডারেশন অনেকটা 'হ্যাক-আ-মোল' খেলার মতো, যেখানে একটি সমস্যা সরানোর সাথে সাথে আরেকটি মাথাচাড়া দেয়। তিনি মনে করেন, মানবসৃষ্ট ভুলের ঝুঁকি কমাতে স্বয়ংক্রিয় অপসারণ প্রক্রিয়া আরও তাৎক্ষণিক হওয়া প্রয়োজন।
ম্যাডক্স আরও বলেন, সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলোর বর্তমান অ্যালগরিদম ও ট্রেন্ডের অর্থনীতি এমনভাবে তৈরি যে, মানসিক স্বাস্থ্যের জন্য ক্ষতিকর হলেও ভাইরাল কনটেন্ট থেকে ক্লিক বা ভিউ পেতে তারা উৎসাহ দেয়। অতীতেও টিকটক ও ফেসবুকের মতো প্ল্যাটফর্মে এ ধরনের গ্রাফিক কনটেন্ট সময়মতো অপসারণ না করার নজির রয়েছে, যা ব্যবহারকারীদের জন্য উদ্বেগের কারণ হয়ে দাঁড়িয়েছে। গবেষকদের মতে, এ ধরনের ভিডিও এড়িয়ে চলাই ব্যবহারকারীদের জন্য সর্বোত্তম পথ, কারণ এটি দেখা বা খোঁজা প্ল্যাটফর্মগুলোকে আরও বেশি করে এমন কনটেন্ট ছড়াতে প্ররোচিত করে।