নিরাপত্তা পরীক্ষায় গিয়ে ৩ কোম্পানিতেই হ্যাক করলো জেমিনি এআই!

কৃত্রিম বুদ্ধিমত্তার (এআই) সক্ষমতা যাচাই করতে গিয়ে চমকে দেওয়ার মতো ঘটনা ঘটেছে। সাইবার নিরাপত্তা পরীক্ষার সময় গুগলের এআই মডেল জেমিনি নিজে থেকেই তিনটি কোম্পানির সিস্টেমে প্রবেশ করে হ্যাকিংয়ের চেষ্টা চালিয়েছে। গুগলের ভাষ্য অনুযায়ী, এ ধরনের ঘটনার এটি এখন পর্যন্ত জানা প্রথম উদাহরণ হতে পারে।

বিবিসিকে গুগলের এক কর্মকর্তা জানান, পরীক্ষার অংশ হিসেবে জেমিনি ইন্টারনেটে থাকা প্রকাশ্য তথ্য খুঁজে বের করে এবং অনুমান করে কিছু লগইন তথ্য ব্যবহার করে এমন ওয়েবসাইটে প্রবেশের চেষ্টা করে, যেগুলোকে মডেলটি পরীক্ষার আওতাভুক্ত বলে মনে করেছিল। তবে তিনটি ক্ষেত্রেই শেষ পর্যন্ত জেমিনি নিজে থেকেই থেমে যায়। ঘটনার বিষয়ে সংশ্লিষ্ট তিন প্রতিষ্ঠানকে জানানো হয়েছে।

ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে প্রথম বিষয়টি সামনে আসে। গত মে মাসে সাইবার নিরাপত্তা মূল্যায়নকারী একটি স্বাধীন প্রতিষ্ঠানের পরিচালিত পরীক্ষার সময় এ ঘটনা ঘটে। পরীক্ষাটির উদ্দেশ্য ছিল এআই মডেলগুলো সাইবার নিরাপত্তার ক্ষেত্রে কী ধরনের সক্ষমতা দেখাতে পারে, তা যাচাই করা।

গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস বিবিসিকে বলেন, সংশ্লিষ্ট তিন প্রতিষ্ঠানকে বিষয়টি জানানো হয়েছে। একই সঙ্গে পরীক্ষার পদ্ধতিতে প্রয়োজনীয় পরিবর্তন আনতে গুগল তাদের প্রশিক্ষণ অংশীদারের সঙ্গে কাজ করেছে।

তিনি বলেন, শক্তিশালী এআই মডেলকে দায়িত্বশীলভাবে কাজ করার প্রশিক্ষণ দেওয়ার গুরুত্ব এসব ঘটনা স্পষ্ট করে।

জেমিনির ঘটনা অবশ্য একেবারে বিচ্ছিন্ন নয়। সাম্প্রতিক সময়ে অন্যান্য এআই সিস্টেমের ক্ষেত্রেও পরীক্ষামূলক পরিবেশের সীমা অতিক্রম করে সাইবার হামলার ঘটনা সামনে এসেছে।

জুলাইয়ে অ্যানথ্রপিক জানিয়েছিল, তাদের এআই মডেল ক্লড পরীক্ষার পরিবেশ থেকে বের হয়ে স্বয়ংক্রিয়ভাবে তিনটি প্রতিষ্ঠানের সিস্টেমে হ্যাক করেছিল। এর কয়েক দিন আগে ওপেনএআইও জানিয়েছিল, তাদের কিছু মডেল জনসাধারণের জন্য উন্মুক্ত কয়েকটি সেবায় সাইবার হামলা চালিয়েছিল।

এ ধরনের ঘটনার পর এআই প্রযুক্তির দ্রুত বিকাশের নিরাপত্তা নিয়ে নতুন করে আলোচনা শুরু হয়েছে। প্রযুক্তি খাতের কিছু প্রতিষ্ঠান এআই উন্নয়নের গতি কমানোর আহ্বান জানালেও অন্যরা দ্রুত উন্নয়ন অব্যাহত রাখার পক্ষে অবস্থান নিয়েছে।

এআইয়ের নিরাপত্তা নিয়ে উদ্বেগের পাশাপাশি প্রযুক্তিটির ওপর নিয়ন্ত্রণ ও নীতিমালা প্রণয়ন নিয়েও আলোচনা বাড়ছে।

এদিকে, আগামী শুক্রবার চীনের প্রেসিডেন্ট শি জিনপিংয়ের সম্মানে হোয়াইট হাউসে আয়োজিত রাষ্ট্রীয় নৈশভোজে এনভিডিয়ার প্রধান নির্বাহী জেনসেন হুয়াং ও ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যানের উপস্থিত থাকার কথা রয়েছে। পরের সপ্তাহে জাতিসংঘের নিরাপত্তা পরিষদকে এআই বিষয়ে ব্রিফ করার কথা রয়েছে অল্টম্যানের।

তবে শুক্রবার বিবিসির মার্কিন অংশীদার সংবাদমাধ্যম সিবিএস নিউজকে হুয়াং বলেন, এআই উন্নয়নে ‘যত দ্রুত সম্ভব’ এগিয়ে যাওয়া উচিত।

সূত্র: বিবিসি