কৃত্রিম বুদ্ধিমত্তার ক্ষমতা যত বাড়ছে, ততই সামনে আসছে তার নিরাপত্তা নিয়ে নতুন প্রশ্ন। আর এবার এই বিষয় নিয়ে আশঙ্কা প্রকাশ করল গুগল। এই টেক জায়েন্ট সংস্থা জানিয়েছে, সম্প্রতি একটি সাইবার নিরাপত্তা সংক্রান্ত পরীক্ষার সময়ে তাদের জেমিনি কৃত্রিম বুদ্ধিমত্তা মডেলটি স্বয়ংক্রিয়ভাবেই তিনটি বাস্তব সিস্টেমে ঢুকে পড়েছিল।
গুগল জানায়, পরীক্ষার সময়ে জেমিনি অনলাইনে থাকা বিভিন্ন ডেটা খুঁজে বের করে। শুধু তাই নয়, বাস্তব সিস্টেমগুলির ক্রেডেনশিয়ালস বা পরিচয়পত্র ব্যবহার করে এমন ওয়েবসাইটে ঢোকার চেষ্টা করে, যেগুলিকে সে পরীক্ষার অংশ ছিল বলে জানায় গুগল। তিনটি ক্ষেত্রেই শেষ পর্যন্ত জেমিনি নিজে থেকে কার্যক্রম বন্ধ করে দেয়।
কবে ঘটেছে এই ঘটনা
ঘটনাটির সূত্রপাত হয়েছিল ২০২৬ সালের মে মাসে। একটি স্বাধীন সাইবার সিকিউরিটি চেকিং সংস্থার দ্বারা পরিচালিত পরীক্ষায় জেমিনিকে একটি নিয়ন্ত্রিত পরিবেশের মধ্যে বিভিন্ন নিরাপত্তা-সংক্রান্ত কাজ ও তথ্য জোগাড়ের কাজ করতে দেওয়া হয়েছিল। কিন্তু আচমকাই দেখা গিয়েছে পরীক্ষামধ্যে অনিচ্ছাকৃতভাবে ইন্টারনেট অ্যাক্সেস খোলা থাকায় মডেলটি বাস্তব সিস্টেমের মধ্যে ঢুকে পড়ে।
শুধু তাই নয়, একটি পরীক্ষায় জেমিনি একটি পাসওয়ার্ড অনুমান করে ওই সিস্টেমে ঢোকার চেষ্টা করে। অন্য দুটি ক্ষেত্রে সংগ্রহশালায় পাওয়া পরিচয়পত্র ব্যবহার করে সিস্টেমে ঢোকে বলে জানিয়েছে গুগল। তবে সংস্থার তরফে আরও জানানো হয়েছে, জেমিনি যখন বুঝতে পারে যে সংশ্লিষ্ট সিস্টেমগুলো কোনো বাস্তব সংস্থার, তখন সেটি তার কার্যকলাপ বন্ধ করে দেয়। গুগল জানিয়েছে, তিনটি সংস্থাকে এই নিরাপত্তা লঙ্ঘনের বিষয়টি জানানো হয়েছে। এই ঘটনায় কোনো বড় ক্ষতি হয়নি।
আরও পড়ুন: আইওএস ২৭-এ বড় নিরাপত্তা ফিচার, প্রতারণার সময় সতর্ক করবে আইফোন
তবে গুগলের সিকিউরিটি ইঞ্জিনিয়ারিংয়ের ভাইস প্রেসিডেন্ট হেথার অ্যাডকিন্স জানিয়েছেন, এই ঘটনাটি যথেষ্ট চিন্তার। একটি শক্তিশালী কৃত্রিম বুদ্ধিমত্তা মডেলকে কাজে লাগিয়ে এমন অনেক কাজ করা যেতে পারে, যা ঠিকমতো নিয়ন্ত্রণ না করলে বড়সড় সমস্যা হতে পারে। নিরাপত্তার ক্ষেত্রেও হতে পারে বড় চ্যালেঞ্জ।
কেন এই ঘটনা গুরুত্বপূর্ণ
এই ঘটনা সামনে এসেছে এমন এক সময়ে, যখন কৃত্রিম বুদ্ধিমত্তা এজেন্টগুলিকে নিয়ে সারা বিশ্বে চিন্তা বাড়ছে। এর আগে ওপেনএআই ও অ্যানথ্রপিকের মডেল নিয়ে সাইবার নিরাপত্তা পরীক্ষার সময় অনাকাঙ্ক্ষিত আচরণের ঘটনা প্রকাশ্য এসেছে। ফলে কৃত্রিম বুদ্ধিমত্তার ক্ষমতা বৃদ্ধির সঙ্গে নিরাপত্তা ব্যবস্থা কতটা দ্রুত এগোচ্ছে, তা নিয়ে প্রযুক্তি মহলে আলোচনা বাড়ছে।
কৃত্রিম বুদ্ধিমত্তা উন্নয়নের গতি কমানো উচিত? বাড়ছে বিতর্ক
এই পরিস্থিতির মধ্যেই অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদি গত ১২ সেপ্টেম্বর জানিয়েছিলেন, কৃত্রিম বুদ্ধিমত্তা মডেলের ক্ষমতা বৃদ্ধির প্রক্রিয়াকে কিছুটা কমানো উচিত। তাঁর বক্তব্য, কৃত্রিম বুদ্ধিমত্তার উন্নয়ন এমন গতিতে এগোচ্ছে যে এর সঙ্গে পাল্লা দিয়ে নিরাপত্তা এবং নিয়ন্ত্রণের ব্যবস্থা পিছিয়ে পড়তে পারে। পাশাপাশি, ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান ও এক্সএআইয়ের ইলন মাস্কও এই মতামতকে সমর্থন করেছেন। তবে জেমিনির এই কার্যক্রম ফের একবার নিরাপত্তার নিরিখে কৃত্রিম বুদ্ধিমত্তার বিপদকে প্রকাশ্যে আনল বলেই মনে করছে বিশেষজ্ঞ মহল।
এজেড
