বিজ্ঞানীরা সতর্ক করেছেন যে এআই স্লপ গবেষণার জগতে ধ্বংসযজ্ঞ চালাচ্ছে

বৈজ্ঞানিক নিবন্ধগুলি পাঠকদের তাদের তথ্য বিশ্বাস করার জন্য নির্ভর করে। এই কারণেই এটি উদ্বেগজনক যে কর্নেল এবং ইউসিএলএর সাথে যুক্ত গবেষকদের একটি নতুন গবেষণায় চারটি প্রধান গবেষণা ডাটাবেসে হোস্ট করা বৈজ্ঞানিক নিবন্ধগুলিতে 146,900টি জাল AI-উত্পাদিত উদ্ধৃতি পাওয়া গেছে।

জেমিনি এবং ChatGPT-এর মতো বৃহৎ ভাষার মডেলগুলির একটি মৌলিক সীমাবদ্ধতা হল তাদের যুক্তিসঙ্গত কিন্তু ভুল শব্দ তথ্য তৈরি করার প্রবণতা। হ্যালুসিনেশন নামে পরিচিত একটি ঘটনা. যদি একজন গবেষক তাদের যাচাই না করে উদ্ধৃতি লেখার জন্য একটি চ্যাটবটের উপর নির্ভর করেন, মডেলটি সম্পূর্ণরূপে বানোয়াট রেফারেন্স তৈরি করতে পারে।

যদিও বৈজ্ঞানিক কাগজপত্র প্রায়ই জনসাধারণের কাছ থেকে লুকানো থাকে, তারা যে গবেষণার প্রতিবেদন করে তা আমাদের জীবনে গভীর প্রভাব ফেলে। ইন্টারনেট থেকে শুরু করে লিথিয়াম-আয়ন ব্যাটারি সবকিছুই একটি গবেষণা পত্র হিসাবে শুরু হয়েছিল।

কিন্তু বিজ্ঞানীরা যখন এআই হ্যালুসিনেশনের কথা উল্লেখ করে কাগজপত্র জমা দেন, তখন তা গবেষণার মানের প্রতি বিশ্বাস নষ্ট করতে পারে।

অবহেলিত বিজ্ঞান

গবেষণা দল 2.5 মিলিয়ন বৈজ্ঞানিক নিবন্ধ থেকে 111 মিলিয়ন রেফারেন্স বিশ্লেষণ করেছে। তারা শিরোনাম সহ উদ্ধৃতিগুলি অনুসন্ধান করেছিল যে দলটি কোনও প্রকাশনার সাথে মেলাতে পারেনি। যদিও এই ক্ষেত্রে কিছু ভুল বানান ছিল, দলটি হ্যালুসিনেশনও খুঁজে পেয়েছিল।

অসাধু গবেষকরা চ্যাটবটগুলির উত্থানের অনেক আগে থেকেই উদ্ধৃতিগুলিকে মিথ্যা বলেছিল, তাই দলটি 2023 সালের আগে প্রকাশিত গবেষণায় অতুলনীয় উদ্ধৃতি হারগুলিও পরীক্ষা করে, যখন চ্যাটবটগুলি এখনও সর্বব্যাপী হয়ে ওঠেনি।

“এলএলএম ব্যাপকভাবে গ্রহণ করার পরে আমরা অস্তিত্বহীন রেফারেলগুলির একটি তীক্ষ্ণ বৃদ্ধি পেয়েছি,” লেখকরা কাগজে লিখেছেন।

দলটি আরও দেখেছে যে খারাপ উদ্ধৃতিগুলি শুধুমাত্র কয়েকটিতে কেন্দ্রীভূত হওয়ার পরিবর্তে অনেক ভূমিকা জুড়ে ছড়িয়ে পড়েছে। এটি পরামর্শ দেয় যে সমস্যাটি ব্যাপক, অনেক গবেষক সম্পূর্ণরূপে যাচাই না করেই এআই-উত্পন্ন রেফারেন্সের উপর নির্ভর করছেন।

সতর্কতা চিহ্ন

উইচিটা স্টেট ইউনিভার্সিটির ম্যানেজমেন্টের অধ্যাপক উষা হ্যালি, ইমেলের মাধ্যমে CNET কে বলেছেন যে তিনি জাল উদ্ধৃতিগুলির বিস্তারকে একটি গুরুতর সতর্কতা হিসাবে দেখেন।

“মিথ্যা বা এআই-উত্পাদিত উদ্ধৃতিগুলি পাণ্ডিত্যপূর্ণ রেকর্ডের উপর আস্থাকে হ্রাস করে যা সেই ভিত্তি প্রদান করে যার উপর সমকক্ষ পর্যালোচনা এবং সঞ্চিত জ্ঞান বিশ্রাম দেয়,” হ্যালি বলেন। “বিরক্তিকরভাবে, এই সংশয় এখন একাডেমিয়া এবং প্রাথমিক কর্মজীবনের পণ্ডিতদের কাছ থেকে আসছে।”

চারটি ডাটাবেস যেখানে গবেষকরা জাল উদ্ধৃতি খুঁজে পেয়েছেন তা হল arXiv, bioRxiv, SSRN এবং PubMed Central৷ বৈজ্ঞানিক ভান্ডার হিসাবে পরিচিত এই সংস্থাগুলি গবেষণার জগতে গুরুত্বপূর্ণ ভূমিকা পালন করে।

একটি বৈজ্ঞানিক জার্নালে একটি নিবন্ধ প্রকাশিত হওয়ার আগে, লেখকরা প্রায়ই এটি একটি বৈজ্ঞানিক ভাণ্ডারে আপলোড করে, এর দৃশ্যমানতা বৃদ্ধি করে এবং বিশ্ব বৈজ্ঞানিক সম্প্রদায়কে অবিলম্বে এটি অ্যাক্সেস করার অনুমতি দেয়। কৃত্রিম বুদ্ধিমত্তার উদ্ধৃতি নিয়ে নতুন নিবন্ধটি বর্তমানে arXiv-এ হোস্ট করা হয়েছে।

সম্প্রতি, আরএক্সিভ মিথ্যা উদ্ধৃতির প্রবাহ বন্ধ করার জন্য পদক্ষেপ নিয়েছে। সংস্থাটি মঙ্গলবার ঘোষণা করেছে যে এটি লেখকদের জাল উদ্ধৃতি বা AI সামগ্রীর কোনও চিহ্ন সহ কাগজপত্র জমা দেওয়া নিষিদ্ধ করবে যা সাবধানে যাচাই করা হয়নি।

“বিজ্ঞানের কর্পাস পাতলা হয়ে যাচ্ছে। অনেক AI জিনিস সক্রিয়ভাবে ভুল বা এর কোনো মানে হয় না। এটা শুধু গোলমাল,” আরএক্সআইভির প্রধান বৈজ্ঞানিক কর্মকর্তা স্টেইন সিগুর্ডসন ফেব্রুয়ারিতে CNET-এর ক্যাটলিন চেড্রোইকে বলেছিলেন। “আসলে কী ঘটছে তা খুঁজে পাওয়া কঠিন করে তোলে এবং এটি মানুষকে বিপথে নিয়ে যেতে পারে।”