কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তি এখন আর কেবল ই-মেইল লেখা বা ছবি তৈরির মতো সাধারণ কাজে সীমাবদ্ধ না থেকে স্বয়ংক্রিয় এআই এজেন্টের মাধ্যমে প্রতিষ্ঠানের সংবেদনশীল তথ্য বিশ্লেষণ ও জটিল প্রশাসনিক কাজ সম্পাদন করছে। তবে এআইয়ের এমন দ্রুতিক্রমিক সক্ষমতার বৃদ্ধির প্রেক্ষাপটে প্রযুক্তির ওপর অন্ধভাবে নির্ভর করার বড় ধরণের ঝুঁকি নিয়ে বৈশ্বিক ব্যবহারকারী ও প্রতিষ্ঠানগুলোকে সতর্ক করেছেন মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা।
সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে (সাবেক টুইটার) এক বার্তায় নাদেলা উল্লেখ করেন, কোনো এআই মডেলকে আপাতদৃষ্টিতে নিরাপদ মনে হলেও তার ওপর শতভাগ অন্ধবিশ্বাস রাখা উচিত নয়। বিশেষ করে এআই এজেন্ট যখন কোনো প্রতিষ্ঠানের সংবেদনশীল তথ্য ব্যবহারের সুযোগ পায় এবং মানুষের হস্তক্ষেপ ছাড়া নিজে থেকে গুরুত্বপূর্ণ সিদ্ধান্ত নিতে পারে, তখন এটি নিরাপত্তা সংক্রান্ত বড় ধরনের ঝুঁকি তৈরি করতে পারে।
পোস্টে কৃত্রিম বুদ্ধিমত্তাকে ‘সুপার ইন্টেলিজেন্স’ আখ্যা দিয়ে নাদেলা বলেন, “কোনো এআই মডেলকে শতভাগ নিরাপদ ঘোষণা করা হলেও সব পরিস্থিতিতে এটি প্রত্যাশিত আচরণ করবে এমন কোনো নিশ্চয়তা নেই।” তিনি এআইকে পুরোপুরি নিয়ন্ত্রণহীন না রেখে সেটি কোন কোন তথ্য অ্যাক্সেস করতে পারবে এবং কতটুকু কাজ সম্পাদন করতে পারবে তা কঠোর ও পৃথক নিয়ন্ত্রণব্যবস্থার মাধ্যমে নির্ধারণ করার তাগিদ দেন।
একই সাথে একটি এআই মডেল দিয়ে অন্যটির ভুল বা কাজ পরীক্ষা করার প্রচলিত প্রবণতা নিয়েও সতর্ক করেন নাদেলা। স্বাধীন কোনো তদারকি ব্যবস্থা না থাকলে একাধিক এআই মডেল ব্যবহার করেও ভুল সিদ্ধান্ত বা নিরাপত্তা বিপর্যয় এড়ানো সম্ভব নাও হতে পারে। এ কারণে এআইয়ের আচরণ পর্যবেক্ষণ, কাজের সীমা নির্ধারণ এবং নিরাপত্তা বিঘ্নিত হওয়ার ঘটনা ঘটলে তা দ্রুত প্রকাশ করে সার্বিক সুরক্ষাবলয় জোরদার করার পরামর্শ দিয়েছেন এই প্রযুক্তিপ্রধান।
বিশেষজ্ঞদের মতে, প্রচলিত সফটওয়্যারে ত্রুটি দেখা দিলে মূল কোড পরীক্ষা করে কারণ জানা গেলেও, এআই মডেল ঠিক কোন যুক্তিতে বিশেষ সিদ্ধান্ত নিল তা সব সময় স্পষ্ট থাকে না। নাদেলার মতে, এআই ব্যবহারে প্রতিষ্ঠানের সময় ও শ্রম সাশ্রয় হলেও এর সম্ভাব্য ভুল সিদ্ধান্তের মারাত্মক পরিণতি এড়াতে শুরু থেকেই কার্যকরী ও সমন্বিত প্রতিরক্ষা ব্যবস্থা গড়ে তোলা অপরিহার্য।