AI Risks To Humanity: 'AI আমাদের মেরে ফেলবে', Google DeepMind-এর সেফটি গবেষকের পদত্যাগ

নিজের পোস্টে Google DeepMind ছাড়ার কারণ ব্যাখ্যা করেছেন চুঘতাই। সেফটি গবেষক হিসেবে তাঁর দায়িত্ব ছিল AI মডেলগুলি যাতে মানুষের স্বার্থে কাজ করে, সেটা নিশ্চিত করা। তিনি লিখেছেন, 'Google-এ আমি খুব কাছ থেকে AI-এর ডেভেলপমেন্ট দেখেছি। এই প্রযুক্তির স্বাভাবিক গতিপথ নিয়েও আমি অত্যন্ত উদ্বিগ্ন।'

এই AI গবেষকের 'আমি বিশ্বাস করি যে AI-এর সম্ভাবনা রয়েছে আমাদের সবাইকে মেরে ফেলার। আর এই পরিণতি এড়ানোর জন্য হয়তো আমাদের হাতে সময় ফুরিয়ে আসছে।'

এদিকে Google DeepMind-এর AGI সেফটি টিমের সদস্য যশ এঙ্গেলসও-ও পদত্যাগ করেছেন। চুঘতাইয়ের মতো তিনিও উন্নত AI-এর ভবিষ্যৎ নিয়ে উদ্বেগ প্রকাশ করেছেন। তিনি X-এ লেখেন, ' আমি মনে করি, আগামী পাঁচ বছরের মধ্যে AI সিস্টেম ভয়াবহ মাত্রায় ক্ষতি করতে পারে। সেই সম্ভাবনা খুব বেশি।' তিনি আরও বলেন, 'এর সম্ভাবনা কতটা, সেটা আমি জানি না। কিন্তু আমার মনে হয়, এই ঝুঁকি এতটাই বেশি যে এটিই বিশ্বের সবচেয়ে গুরুত্বপূর্ণ সমস্যা হয়ে উঠেছে।'

বর্তমানে এঙ্গেলস যোগ দিয়েছেন Model Evaluation and Threat Research (METR)-এ। এটি একটি নন প্রফিট গবেষণা প্রতিষ্ঠান। এই প্রতিষ্ঠান অত্যাধুনিক AI মডেলগুলির ক্ষমতা ও ঝুঁকি খতিয়ে দেখে। 

দ্রুত উন্নতি করেছে AI
গত চার বছরে AI দ্রুত উন্নতি করেছে। এই বিষয়ে বিলাল চুঘতাই বলেন, '২০২২ সালের শুরুতে যখন আমি প্রথম AI নিয়ে কাজ শুরু করি, তখন AI-কে মজার হলেও প্রায় অকেজো মনে হতো।'

তিনি জানান, মাত্র চার বছর পর পরিস্থিতি সম্পূর্ণ বদলে গিয়েছে। OpenAI-এর AI agent swarm এখন একশো বছরের পুরনো অঙ্কের সমস্যার সমাধান করছে। আরও উদ্বেগের বিষয় হল, OpenAI-এর AI সিস্টেম নিয়ন্ত্রণের বাইরে গিয়েছে। সেটা অটোমেটিকভাবে থার্ডপার্টি সংস্থা Hugging Face-এর সিস্টেম হ্যাক করার চেষ্টা করেছে।

বিলাল চুঘতাইয়ের মতে, 'আগামিদিন পরিস্থিতি আরও পাগলাটে হয়ে উঠবে।' তাঁর আশঙ্কা, খুব শিগগিরই AI সংস্থাগুলি এমন সুপারইন্টেলিজেন্ট AI সিস্টেম তৈরি করতে পারে, যা প্রতিটি ক্ষেত্রেই মানুষকে পিছনে ফেলে দেবে

এই পরিস্থিতি মোকাবিলায় AI সংস্থাগুলিকে alignment নিয়ে কাজ করার আহ্বান জানিয়েছেন তিনি। তবে তাঁর মতে, এই বিষয়টি এখনও অত্যন্ত কঠিন।