নৃতাত্ত্বিক AI ল্যাবগুলিকে বিরতি দেওয়ার জন্য অনুরোধ করে, নিয়ন্ত্রণ হারানোর ঝুঁকিতে মানুষকে সতর্ক করে

অ্যানথ্রপিক প্রস্তাব করেছে যে বিশ্বের শীর্ষস্থানীয় কৃত্রিম বুদ্ধিমত্তা সংস্থাগুলি উন্নত এআই সিস্টেমগুলির বিকাশকে থামানোর জন্য একটি সমন্বিত উপায় প্রস্তাব করেছে, সতর্ক করে যে প্রযুক্তিটি এত দ্রুত উন্নতি করছে যে মানুষের নিয়ন্ত্রণ হারানোর ঝুঁকি রয়েছে।

ক্লডের চ্যাটবটের পিছনে থাকা সংস্থাটি বৃহস্পতিবার একটি ব্লগ পোস্টে বলেছে যে অত্যাধুনিক AI কাজগুলি সম্পূর্ণ করার সময় দ্রুত এবং দ্রুততর হয়ে উঠছে, “বিশ্ব যদি এর বিকাশকে ধীর বা সাময়িকভাবে বন্ধ করার বিকল্প থাকে তবে এটি ভাল হবে”।

অ্যানথ্রপিক বলেছে যে তার অভ্যন্তরীণ গবেষণা ইনস্টিটিউট অন্যদের সাথে সহযোগিতায় সমস্যাটি অন্বেষণ করার পরিকল্পনা করেছে এবং আরও নির্দিষ্ট না হয়ে বিশ্বাসযোগ্য মন্থরতা বা বিরতির জন্য সিস্টেমগুলি তৈরি করতে সহায়তা করার জন্য “পদক্ষেপ গ্রহণ” করে।

নৃতাত্ত্বিক প্রতিদ্বন্দ্বী ওপেনএআই বুধবার প্রকাশিত একটি প্রতিবেদনে একটি ভিন্ন পদ্ধতির পক্ষে যুক্তি দিয়ে বলেছে যে “গণতান্ত্রিক সরকারগুলি, ব্যক্তিগত সংস্থাগুলি একা কাজ করে না, শেষ পর্যন্ত নিয়ম, সুরক্ষা এবং জবাবদিহিতা ব্যবস্থা নির্ধারণ করা উচিত।”

“আমাদের দৃষ্টিভঙ্গি হল এআই উদ্ভাবনের গতি সম্পর্কে সিদ্ধান্তগুলি কোনও ল্যাব, কোম্পানি বা বিশেষ স্বার্থ গোষ্ঠীর উপর ছেড়ে দেওয়া উচিত নয়,” তিনি বলেছিলেন।

এআই মডেলগুলি দ্রুততর হয়ে উঠছে, দ্রুত বৃদ্ধির সাথে তারা কত দ্রুত নিজেরাই কোডিংয়ের মতো সফ্টওয়্যার কাজগুলি সম্পাদন করতে পারে, অ্যানথ্রপিক তার প্রকাশে বলেছে। বর্তমান প্রবণতার উপর ভিত্তি করে এবং পর্যাপ্ত কম্পিউটিং শক্তি দেওয়া হলে, একটি এআই সিস্টেম তার নিজস্ব উত্তরসূরি ডিজাইন ও বিকাশ করতে সক্ষম হতে পারে, যা “পুনরাবৃত্ত স্ব-উন্নতি” নামে পরিচিত।

স্ব-নির্মাণ এআই একটি প্রধান প্রযুক্তিগত মাইলফলক হবে যা বিজ্ঞান, স্বাস্থ্য এবং অন্যান্য ক্ষেত্রে সুবিধা নিয়ে আসবে, অ্যানথ্রোপিক বলেছে, কিন্তু “এটি মানুষের AI সিস্টেমের নিয়ন্ত্রণ হারানোর ঝুঁকিও বাড়িয়ে দিতে পারে।”

কারিগরি শিল্পের কিছু পরিসংখ্যান দীর্ঘকাল ধরে এই পরিস্থিতিতে সতর্ক করেছে।

অ্যানথ্রোপিক-এর প্রকাশনা এই সপ্তাহে টরন্টো বিশ্ববিদ্যালয়ের গবেষকদের একটি দল থেকে একটি ভিন্ন সতর্কতা অনুসরণ করে যা দেখিয়েছে যে কীভাবে কৃত্রিম বুদ্ধিমত্তার সরঞ্জামগুলি একটি নতুন ধরনের কৃত্রিম বুদ্ধিমত্তা “ওয়ার্ম” তৈরি করতে ব্যবহার করা যেতে পারে যা তার হ্যাকিং কৌশলকে মানিয়ে নেয় কারণ এটি ডিভাইস থেকে ডিভাইসে ছড়িয়ে পড়ে এবং একটি বিশাল কম্পিউটার নেটওয়ার্ক দখল করে।

প্রধান গবেষক নিকোলাস পেপারনট একটি সাক্ষাত্কারে বলেছেন, “আমি মনে করি মানুষের জন্য এটি বোঝা খুবই গুরুত্বপূর্ণ যে এটি কেবলমাত্র সবচেয়ে বড় এবং সবচেয়ে শক্তিশালী ভাষা মডেল নয় যা নিরাপত্তা সমস্যা সৃষ্টি করে।”

অ্যানথ্রোপিক প্রকাশনার লেখক, কোম্পানির সহ-প্রতিষ্ঠাতা জ্যাক ক্লার্ক এবং এর গবেষণা ইনস্টিটিউটের প্রধান মেরিনা ফাভারো বলেছেন, এই বিরতিটি “সামাজিক কাঠামো এবং প্রান্তিককরণ গবেষণা” এআই অগ্রগতির সাথে ধরা দেওয়ার জন্য ব্যবহার করা হবে। প্রযুক্তি মানবিক মূল্যবোধ এবং উদ্দেশ্যের সাথে মেলে তা নিশ্চিত করার জন্য সারিবদ্ধকরণ হল শিল্প সংক্ষিপ্ত বিবরণ।

প্রস্তাবিত সমন্বয় উন্নত কৃত্রিম বুদ্ধিমত্তা ল্যাবগুলিকে যাচাই করার অনুমতি দেবে যে বিশ্বব্যাপী প্রতিদ্বন্দ্বীরা আসলে তাদের কাজ বন্ধ বা ধীর করে দিয়েছে, “এবং একজন খারাপ অভিনেতা গোপনে এগিয়ে যাওয়ার জন্য সমন্বিত মন্থরতার সৌভাগ্য ব্যবহার করতে পারে না।”

সংস্থাটি বলেছে একটি সমন্বিত বৈশ্বিক ব্যবস্থার প্রয়োজন কারণ, এটি ছাড়া, এআই বিকাশে মন্থরতা “কম সতর্ক” খেলোয়াড়দের ধরতে এবং কোম্পানি এবং সরকারগুলির উপর চাপ বাড়াতে পারে কারণ তারা এআই সুরক্ষা সম্পর্কে কঠোর সিদ্ধান্ত নেয়।

প্রযুক্তি আরও বেশি সক্ষম হওয়ার সাথে সাথে উন্নত এআই সিস্টেমগুলি মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে এবং সমাজের ক্ষতি করতে পারে এমন আশঙ্কা বেড়েছে। অ্যানথ্রপিকের নিজস্ব মিথোস মডেলটি বিদ্যমান কোডে দুর্বলতা খুঁজে পাওয়ার ক্ষমতা সহ এই বছরের শুরুতে ব্যাংকিং এবং সফ্টওয়্যার সহ শিল্পের মাধ্যমে শকওয়েভ প্রেরণ করেছে।

তবে নিয়ন্ত্রণটি ধীরগতিতে হয়েছে, বিশেষ করে মার্কিন যুক্তরাষ্ট্রে, যেখানে বেশিরভাগ প্রধান AI ল্যাব ভিত্তিক। এই সপ্তাহের শুরুর দিকে ট্রাম্প প্রশাসনের একটি নির্বাহী আদেশ ল্যাবগুলির উপর দায় চাপিয়েছিল, তাদের জনসাধারণের প্রকাশের আগে সরকারী সাইবার নিরাপত্তা পরীক্ষার জন্য তাদের সবচেয়ে সক্ষম মডেলগুলি স্বেচ্ছায় জমা দিতে বলেছিল।

নিরাপত্তা পদ্ধতি

এআই গবেষকরা এর আগেও বিরতির আহ্বান জানিয়েছিলেন, কিন্তু সামান্য সফলতা পেয়েছেন। ইলন মাস্ক, কৃত্রিম বুদ্ধিমত্তা ল্যাব xAI-এর মালিক, নিরাপত্তা রেলের জন্য সময় দেওয়ার জন্য ছয় মাসের জন্য কৃত্রিম বুদ্ধিমত্তার বিকাশ বন্ধ করার জন্য অলাভজনক ফিউচার অফ লাইফ ইনস্টিটিউটের 2023 পুশের সমর্থকদের মধ্যে ছিলেন।

অ্যানথ্রোপিক দীর্ঘদিন ধরে নিজেকে একটি নিরাপত্তা-কেন্দ্রিক এআই ল্যাব হিসেবে অবস্থান করেছে। এই বছরের শুরুর দিকে, এটি মার্কিন সামরিক বাহিনীকে তার মডেলগুলি গার্হস্থ্য নজরদারি এবং সম্পূর্ণ স্বায়ত্তশাসিত অস্ত্রের জন্য ব্যবহার করার অনুমতি দিতে অস্বীকার করে, সরকারের কাছ থেকে একটি প্রতিক্রিয়ার প্ররোচনা দেয়, যা এটিকে একটি জাতীয় নিরাপত্তা কালো তালিকায় রাখে, যা পরবর্তীতে 2026 সালে কার্যকর হবে।

অ্যানথ্রপিকের ঘোষণাটি আসে যখন কোম্পানি এবং ChatGPT নির্মাতা ওপেনএআই স্টক মার্কেটে শেয়ার বিক্রি করার জন্য প্রতিযোগিতা করছে, একটি আইপিওতে যা অ্যানথ্রপিকের মূল্য প্রায় $1 ট্রিলিয়ন হতে পারে।

পেপারনট তার রিপোর্ট প্রকাশ করার আগে কানাডিয়ান সাইবারসিকিউরিটি কর্তৃপক্ষকে অবহিত করেছে, যা দেখায় কিভাবে গবেষকরা একটি “ওপেন সোর্স” কৃত্রিম বুদ্ধিমত্তার সরঞ্জাম ব্যবহার করে একটি ল্যাবে কীট তৈরি করেছেন যা সফ্টওয়্যার বিকাশকারীদের অ্যাক্সেস এবং পরিবর্তন করা সহজ।

“অতীতে, সাইবার আক্রমণগুলি খুব উচ্চ-মূল্যের লক্ষ্যগুলিতে ফোকাস করেছে,” তিনি বলেছিলেন। “ব্যাংকিং সিস্টেম, হাসপাতাল, পাওয়ার গ্রিড, জল চিকিত্সা ব্যবস্থা, স্কুল।”

Papernot সম্মত হন যে কোম্পানি, সরকারী সংস্থা এবং একাডেমিক গবেষকদের মধ্যে পাল্টা ব্যবস্থা বিকাশের জন্য আরও বেশি সহযোগিতা হওয়া উচিত কারণ AI-চালিত হ্যাকিং সরঞ্জামগুলি কম্পিউটারের দুর্বলতাগুলির অনুসন্ধানে শক্তি দেয়৷

“আপনার বেসমেন্টে যে পুরানো ল্যাপটপটি আপনি নিয়মিত চেক করেন না তা খুব উচ্চ-মূল্যের লক্ষ্যের মতো দেখায় না, তবে এই উচ্চ-মূল্যের লক্ষ্যগুলিকে আক্রমণ করার জন্য এটি একটি লঞ্চ প্যাড হিসাবে ব্যবহার করা যেতে পারে,” তিনি বলেছিলেন। “এই সাইবার হামলা চালানোর জন্য কম খরচের কারণে ইন্টারনেটের সাথে সংযুক্ত যেকোনো কিছু এখন ঝুঁকির মধ্যে রয়েছে।”