আতঙ্কজনকভাবে শক্তিশালী হিসাবে বিজ্ঞাপিত এআই মডেলগুলির ক্লাস স্পষ্টতই সরকারকে খুব ভয় পেয়েছিল এবং এখন অক্ষম

মার্চেন্ট এই শব্দগুলি লেখার কয়েক ঘন্টা পরে, রপ্তানি নিয়ন্ত্রণ নির্দেশিকাটি অ্যানথ্রোপিক এবং ফেবেল 5 এর কাছে হস্তান্তর করা হয়েছিল এবং আপাত জাতীয় নিরাপত্তা উদ্বেগের কারণে মিথোস 5 দুর্গম হয়ে পড়েছিল। দেখা যাচ্ছে যে অ্যানথ্রোপিককে শুধুমাত্র মার্কিন নাগরিক নয় এমন ব্যবহারকারীদের অ্যাক্সেস প্রত্যাহার করার আদেশ দেওয়া হয়েছে, কিন্তু অ্যানথ্রোপিক বোধগম্যভাবে আদেশ অমান্য করার ভয়ে বিশ্বের যে কোনও জায়গায় কাউকে অ্যাক্সেস করার অনুমতি দেওয়া অব্যবহারিক বলে মনে করে। অনেক সমস্যার মধ্যে, নন-আমেরিকানরা অ্যানথ্রপিকে কাজ করে। পরিস্থিতির সমাধান না হওয়া পর্যন্ত মডেলগুলি সম্পূর্ণরূপে ফেলে দেওয়া স্পষ্টতই সহজ।

মজার বিষয় হল, রপ্তানি নিয়ন্ত্রণ নির্দেশে অ্যানথ্রপিকের বিবৃতিতে উল্লেখ করা হয়েছে যে অ্যানথ্রপিক মডেলগুলির জন্য একটি সন্তোষজনক সুরক্ষা ব্যবস্থা তৈরি করার প্রচেষ্টায় যুক্তরাজ্য সরকার এবং “একাধিক বেসরকারি তৃতীয়-পক্ষ সংস্থার সাথে” মার্কিন সরকারের সাথে কাজ করেছে। মুক্তির পরে, সুরক্ষাগুলি অনেক উপায়ে ফেবেল 5কে ঘিরে মিডিয়া বর্ণনার সবচেয়ে বিশিষ্ট বৈশিষ্ট্য ছিল। মডেলের অপব্যবহারকারী ব্যবহারকারীদের নীরবে শাস্তি দেওয়ার জন্য ডিজাইন করা কঠোরতম রক্ষকগুলির মধ্যে একটি, এমনকি অকল্পনীয় বলে বিবেচিত হয়েছিল, যা অ্যানথ্রোপিককে ক্ষমা চাওয়ার জন্য প্ররোচিত করেছিল।

কিন্তু অ্যানথ্রোপিক-এর বিবরণ অনুযায়ী, ফেবেল 5-এর জন্য জেলব্রেক করার বিষয়ে জানার পর সরকার শঙ্কিত হয়ে পড়ে যেটি সেই সব-গুরুত্বপূর্ণ সুরক্ষাগুলিকে বাইপাস করে:

“এটা আমাদের বোধগম্য যে সরকার বিশ্বাস করে যে এটি Fable 5 এর ‘জেলব্রেক’ প্রতিরোধ করার একটি পদ্ধতি সম্পর্কে সচেতন। আমরা এই নির্দিষ্ট কৌশলটির একটি প্রদর্শন পর্যালোচনা করেছি যা পূর্বে পরিচিত ছোটখাটো দুর্বলতাগুলির একটি ছোট সংখ্যক সনাক্ত করতে ব্যবহৃত হয়। এই সমস্ত দুর্বলতাগুলি তুলনামূলকভাবে সহজ বলে মনে হয় এবং আমরা দেখতে পেয়েছি যে অন্যান্য সর্বজনীনভাবে উপলব্ধ মডেলগুলিও প্রয়োজন ছাড়াই তাদের সনাক্ত করতে সক্ষম।

Anthtropic সঠিকভাবে নির্দেশ করে যে যখন Fable 5 প্রকাশিত হয়েছিল, তখন তার ব্লগের নিরাপত্তা বিভাগটি স্পষ্ট করে দিয়েছিল যে কিছু জেলব্রেক এখনও সম্ভব ছিল। এটা “সম্ভবত অসম্ভব সম্পূর্ণরূপে সার্বজনীন জেলব্রেকগুলি এড়িয়ে চলুন, কিন্তু আমাদের লক্ষ্য হল বাকি জেলব্রেকগুলিকে যথেষ্ট ধীর এবং ব্যয়বহুল করা যাতে আমরা সেগুলিকে বৃহৎ স্কেলে ব্যবহার করার আগে সনাক্ত করতে এবং প্রতিরোধ করতে পারি৷ মূলত, যেহেতু পুরোপুরি জেলব্রেক-প্রুফ মডেল তৈরি করা এখনও সম্ভব হয়নি, তাই অ্যানথ্রপিক জেলব্রেকগুলি তৈরি করতে চেয়েছিল হয় উত্পাদন করা ব্যয়বহুল বা খুব “সংকীর্ণ” যে আমার মডেলের তুলনায় সাধারণ ব্যবহারকারীরা অনেক বেশি হুমকিস্বরূপ৷ স্বাভাবিক

যাইহোক, নৃতাত্ত্বিকরা তার মডেলগুলির দ্বারা অনুভূত বিপদগুলির তাত্পর্যকে হ্রাস করতে দেখে অদ্ভুত, লিখেছে যে এই দুর্বলতাগুলি “অপ্রধান”, “আগে পরিচিত” এবং “আপেক্ষিকভাবে সহজ”, উল্লেখ্য যে “অন্যান্য সর্বজনীনভাবে উপলব্ধ মডেলগুলিও চক্করের প্রয়োজন ছাড়াই তাদের আবিষ্কার করতে পারে”।

আবার, যখন অ্যানথ্রপিক প্রথম এই শ্রেণীর মডেলগুলি প্রকাশ করেছিল, তখন এটি বিশ্বকে বলেছিল যে এটি বাস্তব বিশ্বের ক্ষতি করার সম্ভাবনা সহ অভূতপূর্ব শক্তির কিছু তৈরি করেছে। দুই মাস পরে, একটি “মিথোস-শ্রেণির” মডেল ছিল একটি সর্বজনীন ভোক্তা পণ্য, যা “সীট-ভিত্তিক প্রো, ম্যাক্স, টিম এবং এন্টারপ্রাইজ প্ল্যানের ব্যবহারকারীদের জন্য একটি প্রিমিয়াম পণ্য হিসাবে কোনো অতিরিক্ত খরচ ছাড়াই” উপলব্ধ, কিন্তু শুধুমাত্র একটি সীমিত সময়ের জন্য। 23 জুন, অ্যানথ্রপিকের উদ্দেশ্য ছিল “সেই পরিকল্পনাগুলি থেকে রূপকথা 5 অপসারণ করা” এবং পরিবর্তে একটি পে-প্রতি-ব্যবহার পরিকল্পনা প্রয়োজন।

নৃতাত্ত্বিক দাবি করে যে এই ধরনের সরকারী পদক্ষেপগুলি, যদি তারা মানক হয়ে ওঠে, “সমস্ত সীমান্ত মডেল প্রদানকারীদের জন্য সমস্ত নতুন মডেল স্থাপনা বন্ধ করে দিতে পারে।” এবং হতে পারে যে সত্য. একটি প্রোডাক্ট লঞ্চ বন্ধ করার জন্য যখন সেই প্রোডাক্ট লঞ্চে একটি পূর্বসূরি প্রযুক্তি জড়িত ছিল যেটি অনুমিতভাবে একটি বিশ্বব্যাপী সাইবারসিকিউরিটি পুনর্মূল্যায়নের নিশ্চয়তা দেয়, সেই পণ্যের আশ্বাসের ছিদ্রের জন্য একটি অতিরিক্ত প্রতিক্রিয়া সম্ভবত আশ্চর্যের মতো হওয়া উচিত নয়, এমনকি যদি সেই অতিরিক্ত প্রতিক্রিয়া ব্যবসার জন্য খারাপ হয়।