নৃতাত্ত্বিক এআই ডেভেলপমেন্টে বিশ্বব্যাপী বিরতির আহ্বান জানায়, ‘ব্যক্তিগত উন্নতির’ ঝুঁকির দিকে নির্দেশ করে – স্ল্যাশডট

অ্যানথ্রোপিক নেতৃস্থানীয় AI ল্যাবগুলিকে ধীরগতির উন্নয়ন বিবেচনা করার জন্য অনুরোধ করে, সতর্ক করে যে সীমান্ত মডেলগুলি যথেষ্ট দ্রুত গতিতে চলছে যাতে সরাসরি মানব হস্তক্ষেপ ছাড়াই শীঘ্রই উন্নত করা যেতে পারে। কোম্পানি বলেছে যে AI ডেভেলপমেন্টকে থামানোর বা ধীর করার বৈশ্বিক ক্ষমতা “সম্ভবত একটি ভাল জিনিস,” মডেলের ক্ষমতার ত্বরণের অভ্যন্তরীণ ডেটা উদ্ধৃত করে। একটি ব্লগ পোস্ট থেকে: অ্যানথ্রোপিক থেকে পাবলিক বেঞ্চমার্ক এবং পূর্বে রিপোর্ট না করা ডেটা ব্যবহার করে, দ্য অ্যানথ্রোপিক ইনস্টিটিউট দেখাচ্ছে যে AI ইতিমধ্যেই AI সিস্টেমের বিকাশকে ত্বরান্বিত করছে। শুধু একটি উদাহরণ দিতে: আজ, মানব প্রকৌশলীরা 2021 এবং 2025 এর মধ্যে থেকে প্রতি ত্রৈমাসিকে গড়ে 8x বেশি কোড পাঠায়।

এই অংশে আলোচিত প্রযুক্তিগত প্রবণতাগুলি নির্দেশ করে যে AI সিস্টেমগুলি আগামী বছরগুলিতে আরও বেশি সক্ষম হয়ে উঠবে। এই প্রবণতা বিশাল প্রভাব আছে. কৃত্রিম বুদ্ধিমত্তা যা নিজেকে তৈরি করতে পারে তা প্রযুক্তির ইতিহাসে একটি বড় উন্নয়ন হবে, যা বিজ্ঞান, স্বাস্থ্য এবং এর বাইরেও বিশ্বের জন্য প্রচুর সুবিধা বয়ে আনতে পারে। কিন্তু সম্পূর্ণ পুনরাবৃত্ত স্ব-উন্নতি মানুষের AI সিস্টেমের উপর নিয়ন্ত্রণ হারানোর ঝুঁকিও বাড়িয়ে দিতে পারে। যদি সিস্টেমগুলি সম্পূর্ণরূপে তাদের নিজস্ব উত্তরসূরি তৈরি করতে সক্ষম হয়, আমরা যে উপায়ে তাদের রক্ষা করি, তাদের নিরীক্ষণ করি এবং তাদের আচরণ গঠন করি তা অনেক বেশি গুরুত্বপূর্ণ হয়ে ওঠে। […]

যদি এই প্রযুক্তির বিকাশকে কার্যকরভাবে ধীর করা সম্ভব হয় যাতে এর বিশাল প্রভাবগুলি মোকাবেলা করার জন্য আমাদের আরও সময় দেওয়া যায়, আমরা মনে করি এটি সম্ভবত একটি ভাল জিনিস হবে। কিন্তু মন্থরতা যদি কম সতর্ক অভিনেতাদের প্রযুক্তিগতভাবে ধরতে দেয়, তাহলে এটি সবাইকে কম নিরাপদ করে তুলতে পারে। একটি বৈশ্বিক সমন্বয় ব্যবস্থা ছাড়া, কোম্পানি এবং সরকারগুলিকে প্রতিযোগিতামূলক এবং ভূ-রাজনৈতিক চাপের মধ্যে নিরাপত্তার বিষয়ে কঠিন সিদ্ধান্ত নিতে হবে।

আমরা বিশ্বাস করি, প্রযুক্তির অগ্রগতির সাথে তাল মিলিয়ে চলার জন্য সামাজিক কাঠামো এবং সারিবদ্ধকরণ গবেষণাকে অনুমতি দেওয়ার জন্য বিশ্বে সাময়িকভাবে AI ডেভেলপমেন্টকে সাময়িকভাবে মন্থর বা বন্ধ করার বিকল্প থাকে। নৃতাত্ত্বিক ইনস্টিটিউট গবেষণা পরিচালনা করবে — অন্য অনেকের সাথে সহযোগিতায় — এবং এমন সিস্টেম তৈরি করতে সাহায্য করার জন্য পদক্ষেপ নেবে যা বিশ্বাসযোগ্য মন্থরতা বা বিরতি প্রয়োজন। এই সিস্টেমগুলি ফ্রন্টিয়ার এআই ডেভেলপারদের যাচাই করার অনুমতি দেবে যে বিশ্বব্যাপী অন্যরা থেমে গেছে বা ধীর হয়ে গেছে, এবং একজন খারাপ অভিনেতা এগিয়ে যাওয়ার জন্য সমন্বিত মন্থরতার আশীর্বাদ ব্যবহার করতে পারে না। যদি এই ধরনের সিস্টেমগুলি বিদ্যমান থাকে, তাহলে আমরা আশা করি ধীরে ধীরে বা সাময়িকভাবে বিরতি দেব, যদি সীমান্তে বা কাছাকাছি অন্যান্য বিকাশকারীরা যাচাইযোগ্যভাবে তা করে থাকেন…