কৃত্রিম বুদ্ধিমত্তার গবেষণায় কোনো নিরাপত্তা ঝুঁকি ধরা পড়লে দ্রুত মডেলের কাজ থামানোর জন্য নতুন ব্যবস্থা চালু করেছে OpenAI। এর নাম Control Room। ৯ নভেম্বর ২০২৬ প্রকাশিত ঘোষণায় প্রতিষ্ঠানটি জানিয়েছে, গবেষণার কোনো কাজ বন্ধ করার নির্দেশ পাওয়ার পর সর্বোচ্চ ৩৫ সেকেন্ডের মধ্যে ওই কাজের জন্য AI মডেলের নতুন আউটপুট বন্ধ করা যায়।
Control Room কী?
এটি OpenAI-এর গবেষণা অবকাঠামোর একটি কেন্দ্রীয় নিয়ন্ত্রণব্যবস্থা। মডেল প্রশিক্ষণ, মূল্যায়ন এবং AI এজেন্টের পরীক্ষার মতো কাজগুলো এতে শনাক্ত ও পর্যবেক্ষণ করা হয়। কোনো কাজের আচরণে ঝুঁকি দেখা দিলে মানুষ বা পর্যবেক্ষণব্যবস্থা সেটি বন্ধ করার নির্দেশ দিতে পারে।
কীভাবে AI-এর কাজ বন্ধ করে?
প্রতিটি গবেষণা কাজ একটি আলাদা job ID পায়। মডেল থেকে নতুন উত্তর তৈরি করার আগে সংশ্লিষ্ট inference engine এই ID ব্যবহার করে Control Room-এর অনুমতি যাচাই করে। কোনো কাজ বন্ধ হিসেবে চিহ্নিত হলে পরবর্তী অনুরোধ আর অনুমোদন পায় না। ফলে সেই কাজের জন্য মডেল নতুন আউটপুট তৈরি করতে পারে না।
এখানে একটি গুরুত্বপূর্ণ পার্থক্য আছে। পুরো গবেষণা প্রক্রিয়া বা সার্ভার বন্ধ হয়ে যায়, এমন নয়। নির্দিষ্ট কাজটির জন্য মডেলের নতুন আউটপুট বন্ধ হয়। অন্য অনুমোদিত কাজ চলতে পারে।
৩৫ সেকেন্ড সময় লাগে কেন?
OpenAI-এর তথ্য অনুযায়ী, অনুমতি যাচাই দ্রুত করতে ব্যবহৃত ক্যাশিং ব্যবস্থার কারণে বন্ধের নির্দেশ কার্যকর হতে সর্বোচ্চ ৩৫ সেকেন্ড লাগতে পারে। প্রতিষ্ঠানটি সময় আরও কমানোর চেষ্টা করছে। এটি নির্দেশ পাওয়ার পরের সময়, ঝুঁকি প্রথম শনাক্ত হওয়ার পর থেকে গণনা করা সময় নয়। এই সক্ষমতার তথ্য প্রতিষ্ঠানটির নিজস্ব দাবি; স্বাধীন পরীক্ষার ফল প্রকাশ করা হয়নি।
Control Room নিজেই বন্ধ হয়ে গেলে কী হবে?
ব্যবস্থাটি fail-closed নীতিতে কাজ করে। অর্থাৎ Control Room অচল হলে অনুমতি ছাড়া মডেলের নতুন আউটপুট তৈরির অনুরোধ আটকে যাবে। OpenAI বলছে, তাদের সবচেয়ে উন্নত মডেলগুলোর গবেষণায় এই সুরক্ষা চালু হয়েছে এবং বাকি গবেষণা কাজেও ধাপে ধাপে যুক্ত হচ্ছে।
ChatGPT ব্যবহারকারীদের জন্য এর অর্থ কী?
Control Room মূলত OpenAI-এর অভ্যন্তরীণ গবেষণা ব্যবস্থার জন্য তৈরি। এটি ChatGPT ব্যবহারকারীদের জন্য নতুন কোনো সেটিং বা সাধারণভাবে সব AI চ্যাট বন্ধ করার বোতাম নয়। প্রতিষ্ঠানটি জানিয়েছে, ব্যবহারকারীদের সেবা দেওয়ার আলাদা অবকাঠামোতে আগে থেকেই মডেল বন্ধ করার ব্যবস্থা রয়েছে।
বাংলাদেশের AI ডেভেলপার ও প্রযুক্তি প্রতিষ্ঠানগুলোর জন্য এ উদ্যোগ একটি বাস্তব শিক্ষা দেয়: স্বয়ংক্রিয় AI এজেন্ট চালু করার পাশাপাশি নির্দিষ্ট কাজ শনাক্ত করা, অনুমতি নিয়ন্ত্রণ, পর্যবেক্ষণ এবং জরুরি বন্ধের ব্যবস্থাও পরিকল্পনায় রাখা দরকার। তবে OpenAI-এর এই পদ্ধতি অন্য প্রতিষ্ঠানের জন্য প্রস্তুত সফটওয়্যার হিসেবে প্রকাশ করা হয়নি।
সূত্র
OpenAI-এর ৯ নভেম্বর ২০২৬-এর Control Room ঘোষণা।
