টি এইচ মাহির
প্রকাশ : ২২ আগস্ট ২০২৬ ১৩:১৮ পিএম
বিশেষজ্ঞদের ধারণা ছিল এআই মানুষের হাতের নাগালে চলে যাবে কি না। এমনি এক ঘটনা ঘটেছে এআই এজেন্টদের দ্বারা। ওপেনএআই, অ্যানথ্রোপিক এবং মেটা সবাই প্রকাশ করেছে সাইবার নিরাপত্তা পরীক্ষা করার সময় তাদের উন্নত এআই এজেন্টগুলো অন্য কোম্পানির সিস্টেমে অন্যায়ভাবে প্রবেশ করে। ঘটনাগুলো নির্দিষ্ট ও নিয়ন্ত্রিত পরীক্ষার সময় ঘটলেও এগুলো স্বায়ত্তশাসিত এআই সিস্টেমগুলোকে কীভাবে পর্যবেক্ষণ ও নিয়ন্ত্রণ করা উচিত তা নিয়ে একটি বিতর্কের জন্ম দিয়েছে। শীর্ষস্থানীয় এআই গবেষণাগারের ভেতরে এমন ঘটনা বেশ উদ্বেগের।
সম্প্রতি ওয়ার্ল্ড ইকোনমিক ফোরামের সাইবার নিরাপত্তা বিষয়ক প্রতিবেদন অনুযায়ী, শীর্ষস্থানীয় এআই সংস্থাগুলো জানিয়েছে যে তাদের এআই এজেন্টরা নির্ধারিত সাইবার নিরাপত্তা সংক্রান্ত কাজ করার সময় স্যান্ডবক্স টেস্টিং পরিবেশ থেকে বেরিয়ে এসে বাহ্যিক করপোরেট সিস্টেমের সঙ্গে যোগাযোগ স্থাপন করেছে। এআই এজেন্ট হলো এমন একটি বুদ্ধিমান কৃত্রিম বুদ্ধিমত্তা ব্যবস্থা যা মানুষের সরাসরি নির্দেশ ছাড়াই নিজস্ব পরিকল্পনা অনুযায়ী পরিবেশ থেকে তথ্য নিয়ে একা একা কোনো লক্ষ্য বা কাজ সম্পন্ন করতে পারে। এটি শুধু এআই চ্যাটবটের মতো উত্তর দেয় না বরং ধাপে ধাপে কাজ ঠিক করে এবং তা নিজে থেকেই বাস্তবায়ন করে।
সম্প্রতি ওপেনএআই, অ্যানথ্রোপিক এবং মেটার মতো প্রতিষ্ঠান তাদের এআই এজেন্ট দিয়ে সাইবার নিরাপত্তা সংক্রান্ত পরীক্ষা চালাচ্ছিল। গবেষকরা এআইকে একটি নির্দিষ্ট সমস্যা সমাধানের দায়িত্ব দিয়েছিলেন। সেই সমস্যা সমাধান করতে গিয়ে কিছু এআই এজেন্ট পরীক্ষার জন্য নির্ধারিত সীমার বাইরে চলে যায় এবং অন্য প্রতিষ্ঠানের অনলাইন সিস্টেমে প্রবেশ করে। কিন্তু এআইটি এটি ইচ্ছে করে হ্যাক করেনি। বরং তাকে যে কাজ দেওয়া হয়েছিল সেটি শেষ করার জন্য সে সম্ভাব্য সব উপায় খুঁজছিল। সহজভাবে বললে এআইটি তার কাজ সম্পন্ন করতে গিয়ে নিরাপত্তার সীমাবদ্ধতা ঠিকভাবে বুঝতে পারেনি। মেটা জানিয়েছে তাদের একটি পরীক্ষামূলক এআই মডেলের নিরাপত্তা পরীক্ষার সময় সেটি ভুলবশত ইন্টারনেট সংযোগ পেয়ে যায়। অ্যানথ্রোপিকও একই ধরনের ঘটনার কথা জানিয়েছে। পরে প্রতিষ্ঠানগুলো বলেছে এসব ঘটনা মূলত পরীক্ষার পরিবেশের ত্রুটি থেকে ঘটেছে এবং এগুলো কোনো পরিকল্পিত সাইবার হামলা ছিল না। তবুও বিষয়টি উদ্বেগের কারণ। কারণ ভবিষ্যতের এআই এজেন্ট আরও শক্তিশালী হবে। যদি কোনো এআই সফটওয়্যার ইমেইল পাঠাতে পারে, অনলাইন অ্যাকাউন্ট ব্যবহার করতে পারে, কোড চালাতে পারে এবং বিভিন্ন ওয়েবসাইটে কাজ করতে পারে তখন ভুল নির্দেশনা বা নিরাপত্তার দুর্বলতার কারণে বড় ধরনের সমস্যা তৈরি হতে পারে।
যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউটও জানিয়েছে তারা যে একটি উন্নত এআই মডেলের পরীক্ষা চালাচ্ছিল সেটিও পরীক্ষার সিস্টেমে ভুলভাবে প্রবেশের চেষ্টা করেছিল। এ ছাড়া গবেষণা প্রতিষ্ঠান এমইটিআর জানিয়েছে তারা ইতোমধ্যে ৪৪টি ঘটনার রেকর্ড পেয়েছে যেখানে এআই এজেন্ট ব্যবহারকারীর উদ্দেশ্যের বিরুদ্ধে কাজ করেছে। ওপেনএআই বলছে, ভবিষ্যতে এ ধরনের ঘটনা আরও বাড়তে পারে। কারণ এআই মডেল যত বেশি দক্ষ হবে তত বেশি জটিল কাজ করতে পারবে। বিশেষ করে সাইবার নিরাপত্তার ক্ষেত্রে এআই যদি নিজে নিজে দুর্বলতা খুঁজে বের করতে পারে তাহলে তা নিরাপত্তা বিশেষজ্ঞদের জন্য যেমন সহায়ক হবে তেমনি অপব্যবহারের ঝুঁকিও বাড়বে। এই ঘটনার পর যুক্তরাষ্ট্রের আইনপ্রণেতারাও উদ্বেগ প্রকাশ করেছেন। তারা বাধ্যতামূলক নিরাপত্তা পরীক্ষা, অনাকাঙ্ক্ষিত সাইবার ঘটনার প্রকাশ এবং আন্তর্জাতিক সহযোগিতার দাবি জানিয়েছেন।
বিশেষজ্ঞদের মতে সমাধান হলো এআইকে কাজের অনুমতির ক্ষেত্রে সীমিত ক্ষমতা দেওয়া, গুরুত্বপূর্ণ কাজের আগে মানুষের অনুমোদন নেওয়া এবং শক্তিশালী নিরাপত্তা পর্যবেক্ষণ ব্যবস্থা গড়ে তোলা। এআই যত বেশি স্বয়ংক্রিয় হবে তত বেশি প্রয়োজন হবে নিরাপত্তা ও নিয়ন্ত্রণ।