টোকেন বিল আসে: AI এর পলাতক খরচ পরিচালনা করার জন্য শিল্পের সংগ্রামের ভিতরে | টেকক্রাঞ্চ

ইন্ডাস্ট্রি জুড়ে, কোম্পানিগুলো AI-এর দাম কমাতে শুরু করেছে। উবার এপ্রিলে তার পুরো 2026 AI কোডিং বাজেট পাস করেছে। মাইক্রোসফ্ট তাদের সক্ষম করার কয়েক মাস পরে তার বিকাশকারীদের কাছ থেকে ক্লাউড কোড লাইসেন্স প্রত্যাহার করে। প্রাইসলাইনের একজন কর্মচারী টেকক্রাঞ্চকে বলেছেন যে কার্সরের চুক্তির নিয়মিত পুনর্নবীকরণ 4-5 গুণ বেশি ব্যয়বহুল।

যদিও প্রতি টোকেনের দাম কমেছে, AI এর বৃহত্তর গ্রহণের জন্য চাপ এবং ক্রমবর্ধমান স্বায়ত্তশাসিত এজেন্ট টোকেনের ব্যবহার বাড়িয়েছে। যে কোম্পানিগুলি 2025 সালের শুরুর দিকে সমস্ত-আপনি-খাতে-সাবস্ক্রিপশনে ঝাঁপিয়ে পড়েছিল তারা এখন বুঝতে লড়াই করছে যে তাদের অর্থ কোথায় যাচ্ছে, খরচ ফিরিয়ে আনতে এবং তারা তাদের বাকি বাজেট থেকে কিছু ROI পুনরুদ্ধার করতে পারে কিনা তা নির্ধারণ করতে।

এদিকে, সেখানে তাদের খুঁজে বের করার জন্য একটি বাজার তৈরি হচ্ছে। স্টার্টআপ, প্রতিষ্ঠিত বিক্রেতারা এবং একটি নতুন স্ট্যান্ডার্ড বডি ব্যবসাগুলিকে তারা কী ব্যয় করে তা ট্র্যাক করার জন্য সরঞ্জাম এবং ভাষা দেওয়ার জন্য দৌড়াচ্ছে৷

“ছয় মাস আগে, আমি একজন গ্রাহকের সাথে কথোপকথন করব এবং তা হবে, ‘এটা কি করতে পারে? এটা কি যথেষ্ট ভালো?'” ওপেনএআই-এর চিফ অপারেটিং অফিসার আলেকজান্ডার এমবিরিকস এই সপ্তাহে নিউইয়র্ক সিটিতে একটি ইভেন্টে টেকক্রাঞ্চকে বলেছেন। “এখন আমাদের কথোপকথনগুলি কখনই সে সম্পর্কে কথা বলে না৷ এখন কথোপকথনগুলি হল, ‘আরে, আমরা এত খরচ করছি৷ আপনার কী দৃশ্যমানতা আছে? আপনার কী নিরীক্ষণযোগ্যতা আছে? আপনার কী টোকেন নিয়ন্ত্রণ রয়েছে? আপনার মডেলগুলি কতটা দক্ষ?”

এই পটভূমিতে, লিনাক্স ফাউন্ডেশন এই সপ্তাহে টোকেনোমিক্স ফাউন্ডেশনের জন্য পরিকল্পনা উন্মোচন করেছে, একটি নতুন স্ট্যান্ডার্ড বডি যার লক্ষ্য AI টোকেনগুলির চারপাশে একই খরচের শৃঙ্খলা স্থাপন করা যা FinOps ক্লাউড ব্যয়ের জন্য করেছিল।

লিনাক্স ফাউন্ডেশনের একটি প্রকল্প FinOps ফাউন্ডেশনের নির্বাহী পরিচালক, জেআর স্টর্মেন্ট, টেকক্রাঞ্চকে বলেছেন, “এপ্রিল এবং মে মাসে, আমি কোম্পানিগুলির কাছ থেকে শুনতে শুরু করেছি, ‘ওহ মাই গড, আমরা আমাদের পুরো 2026 টোকেন বাজেটকে অতিক্রম করেছি এবং আমরা শুধুমাত্র এপ্রিলেই আছি,’ ” “আমরা অস্তিত্ব সংক্রান্ত সংকট শুনতে শুরু করেছি এবং পুরো কথোপকথনটি টোকেনম্যাক্সিং থেকে ‘দ্রুত যান’ থেকে ‘আমাদের গার্ডেল দরকার, আমরা কীভাবে এটি নিয়ন্ত্রণ করব?'”

কারিগরি বিশ্ব জুড়ে চিৎকার শোনা গেছে, সিইওরা তাদের দলগুলিকে সেরা মডেলগুলি ব্যবহার করতে এবং দ্রুত এগিয়ে যাওয়ার জন্য চাপ দিচ্ছেন, খরচগুলি অভিশাপিত হবে। অ্যানথ্রপিকের ক্লড ওপাস 4.5, ওপেনএআই-এর জিপিটি-5.1 এবং গুগলের জেমিনি 3 প্রো-এর মতো নভেম্বরে প্রকাশিত নতুন মডেলগুলি এজেন্ট টুলগুলিতে উল্লেখযোগ্য উন্নতি এনেছে, যা ব্যবহারকে বহুগুণ বাড়িয়েছে। এভাবেই একটি কোম্পানি কর্মীদের জন্য ব্যবহারের সীমা সেট করতে ভুলে যাওয়ার পরে $500 মিলিয়ন ক্লড বিলের সাথে নিজেকে খুঁজে পেয়েছে।

“এটি ক্র্যাক কোকেন মহামারীর মতো,” প্রাইসলাইনের আইটি ফাইন্যান্সের সিনিয়র ডিরেক্টর ক্রিস রিড বলেছেন, উল্লেখ করেছেন যে সংস্থাটি নির্দিষ্ট গোষ্ঠীর উপর প্রতীকী সীমা স্থাপন শুরু করেছে। “তারা আপনাকে এটিতে আঁকড়ে ধরার চেষ্টা করতে দেয় এবং এখন আপনি কিছুটা বাঁধার মধ্যে আছেন।”

ইঞ্জিনিয়ারিং অপারেশন প্ল্যাটফর্ম ফারোস এআই-এর সিইও ভিটালি গর্ডন বলেছেন যে তিনি সম্প্রতি একজন সিটিওর সাথে কথা বলেছেন যিনি তাকে বলেছিলেন, “আমার একজন প্রকৌশলী গত মাসে টোকেনের জন্য $ 40,000 খরচ করেছেন, এবং আমি সত্যিই জানি না যে আমি তাকে থামাতে বা গিয়ে অন্য সবাইকে তার মতো হতে বলব।”

ফারোসের একটি মার্চ জরিপে দেখা গেছে যে 20,000 ডেভেলপারের মধ্যে আউটপুট বাড়ছে, কিন্তু বাগ এবং পুনর্লিখনও ছিল। জেলিফিশ, একটি ইঞ্জিনিয়ারিং ম্যানেজমেন্ট প্ল্যাটফর্ম, দেখেছে যে প্রকৌশলীরা যারা বেশি টোকেন ব্যবহার করেছেন তারা কম AI ব্যবহারকারীদের তুলনায় প্রায় দ্বিগুণ উত্পাদনশীল, কিন্তু সেখানে পৌঁছানোর জন্য টোকেন সংখ্যার 10 গুণ ব্যয় করেছেন।

জেলিফিশের গবেষণার প্রধান নিকোলাস আরকোলানো, ইমেলের মাধ্যমে টেকক্রাঞ্চকে বলেছেন যে এজেন্টিক বৈশিষ্ট্যের কারণে এআই-এর ব্যয় ব্যাপকভাবে বিস্ফোরিত হচ্ছে, নয় মাসে প্রতি বিকাশকারীর ব্যয় প্রায় 18.6 গুণ বেড়েছে। পরিশেষে, এই পরিসংখ্যানগুলি খরচের পরামর্শের চেয়ে উৎপাদনশীলতার ক্ষেত্রে আরও জটিল করে তোলে।

“অত্যন্ত ব্যয় পরিশোধ করা হয় কিনা তা প্রেরিত কোডের চূড়ান্ত ব্যবসায়িক মূল্যে নেমে আসে (যেমন, রাজস্ব), যা বেশিরভাগ কোম্পানি এখনও পরিমাপ করতে পারে না,” Arcolano বলেছেন।

সেই পরিমাপের সমস্যার অন্তত একটি অংশ হল নিছক স্কেল যেখানে AI আজ ব্যবহার করা হচ্ছে।

“ক্লাউড খরচ ট্র্যাকিং প্রতি মাসে কয়েক মিলিয়ন সারির ডেটা সমস্যা,” স্টর্মেন্ট বলেছেন। “টোকেন খরচ ট্র্যাক করা একটি ট্রিলিয়ন-সারি-এক-মাসের ডেটা সমস্যা। আপনি এটিকে কোনো স্প্রেডশীট বা এমনকি মৌলিক টুলে ক্র্যাম করতে পারবেন না। এটি করার জন্য আপনাকে মৌলিকভাবে আপনার সরঞ্জাম, আপনার চশমা এবং আপনার অ্যাকাউন্টিং সিস্টেমগুলি পুনর্বিবেচনা করতে হবে।”

প্রাইসলাইনে, রিড ইতিমধ্যেই অসঙ্গতি দেখছে। বিক্রেতার রিপোর্ট করা ব্যবহার এবং প্রাইসলাইনের অভ্যন্তরীণ ডেটার মধ্যে সমস্যাগুলি লক্ষ্য করা গেছে৷

“আমি টেলিকম ব্যয় ব্যবস্থাপনায় আমার কর্মজীবন শুরু করেছি, এবং আমি টেলিকম থেকে ক্লাউড থেকে কৃত্রিম বুদ্ধিমত্তা পর্যন্ত একই সমান্তরাল দেখতে পাচ্ছি,” তিনি বলেছিলেন। “প্রতিবার আপনি নতুন কিছু প্রবর্তন করলে, এটি বিলিং ত্রুটি এবং অডিট এবং অপ্টিমাইজেশনের সুযোগের জন্য উপযুক্ত।”

এই ইস্যুকে ঘিরে একটি বাজার তৈরি হতে শুরু করেছে। পে-আই-এর মতো বিশুদ্ধ-প্লে কোম্পানি রয়েছে, যা GenAI বিনিয়োগের খরচ এবং কর্মক্ষমতা ট্র্যাক, পরিমাপ এবং অপ্টিমাইজ করে। ইতিমধ্যে, অর্থপ্রদান ডেভেলপারদের খরচ ট্র্যাক করতে, ব্যবহার পরিমাপ করতে এবং সদস্যতা ফি এর পরিবর্তে প্রকৃত মূল্যের উপর ভিত্তি করে ব্যবহারকারীদের বিল করতে দেয়।

তারপরে জেলিফিশ, ওয়েডেভ এবং ফারোস এআই এর মতো কোম্পানি রয়েছে, যেগুলি ডেভেলপমেন্ট টুলের ROI প্রদর্শনের জন্য AI এজেন্ট ট্র্যাকিং প্রদান করে। স্টর্মেন্ট বলেছে যে FinOps ফাউন্ডেশনের 180 বিক্রেতাদের অধিকাংশই এই স্থানের দিকে ঝুঁকছে।

বিদ্যমান ডিস্ট্রিবিউশন সহ কোম্পানিগুলি এই নতুন বাজারের সুবিধা নিতে নতুন বৈশিষ্ট্য যুক্ত করছে। র‌্যাম্প সম্প্রতি এআই ব্যয় ব্যবস্থাপনায় স্থানান্তরিত হয়েছে; ডেটাডগ এবং নিউ রিলিক ক্লাউড কস্ট ম্যানেজমেন্ট, টোকেন-লেভেল অবজারভেবিলিটি এবং জিপিইউ মনিটরিংয়ের মতো পরিষেবাগুলিকে সম্বোধন করেছে। পরের সপ্তাহের FinOps X সম্মেলনে, AWS কৃত্রিম বুদ্ধিমত্তার উপর ব্যবসায়িক ব্যয়ের জন্য তৈরি নতুন আর্থিক ব্যবস্থাপনা বৈশিষ্ট্যগুলি প্রবর্তন করবে বলে আশা করা হচ্ছে।

Tiffany Luck, NEA-এর একজন অংশীদার, মনে করেন যে টোকেনগুলির কার্যকারিতা এবং পর্যবেক্ষণযোগ্যতা “অ্যাপ্লিকেশন বা জোতা স্তরে” যোগ করা হতে পারে৷ তিনি কারখানার দিকে ইঙ্গিত করেছিলেন, একটি স্টার্টআপ যা ব্যবসার জন্য এআই এজেন্ট তৈরি করে, যা এই সপ্তাহে একটি রাউটার মডেল প্রকাশ করেছে যা স্বয়ংক্রিয়ভাবে প্রতিটি কাজের জন্য সঠিক মডেল বেছে নেয়।

গর্ডন আশা করেন যে বর্ডার ল্যাবস এবং অন্যান্য মডেল প্রদানকারীরা ওপেনরাউটার-স্টাইল অপ্টিমাইজেশান গ্রহণ করবে যাতে সস্তার মডেলগুলিতে প্রশ্ন পাঠানো হয়, একটি প্রবণতা যা ইতিমধ্যেই ক্লডের ব্যবসায়িক চালানগুলিতে প্রদর্শিত হচ্ছে৷

“আপনি অ্যানথ্রোপিকে কতটা ব্যয় করেন তার আর্থিক প্রতিবেদন, এমনকি এটিকে ওপাস মডেল বলা হলেও, কিছু খরচ হবে সনেট বা হাইকুতে, কারণ তারা এটি করার জন্য যথেষ্ট স্মার্ট,” গর্ডান বলেছিলেন। “আমি মনে করি এটি আরও বেশি কিছু হতে চলেছে।”

তবে এই সমস্ত সরঞ্জামগুলি একটি সাধারণ ভাষা বা ভাগ করা সংজ্ঞা ছাড়াই তৈরি করা হচ্ছে যে একটি টোকেনের খরচ কত, এটি কী উত্পাদন করে এবং কীভাবে বিক্রেতাদের মধ্যে ব্যয়ের তুলনা করা যায়। সেখানেই টোকেনোমিক্স ফাউন্ডেশন কাজে আসবে বলে আশা করছে।

ফাউন্ডেশন “টোকেনমিক্স” এর জন্য একটি আদর্শ সংজ্ঞা এবং কাঠামো তৈরি করছে; AI টোকেন ব্যবহার এবং বিলিংয়ের জন্য উন্মুক্ত মান, স্পেসিফিকেশন এবং মেট্রিক্স; পাশাপাশি AI অর্থনীতির জন্য নতুন মেট্রিক্স, যেমন প্রতি বুদ্ধিমত্তা বা ওয়াট প্রতি টোকেন। এটি টোকেন কারখানার কার্যকারিতা এবং খরচ দক্ষতার উপর মেট্রিক্স সংজ্ঞায়িত করার পরিকল্পনা করে। গ্রুপটি জুলাই মাসে একটি আনুষ্ঠানিক প্রবর্তনের পরিকল্পনা করেছে এবং আগামী সপ্তাহে FinOps X সম্মেলনে আরও সদস্য ঘোষণা করতে চলেছে৷

সেলসফোর্সের প্রধান প্রাপ্যতা কর্মকর্তা নিশান্ত গুপ্তা একটি বিবৃতিতে বলেছেন, “টোকেন অর্থনীতি মৌলিকভাবে আরও বিমূর্ত এবং অস্বচ্ছ যা আমরা আগে এই স্কেলে পরিচালনা করেছি।” “ক্লাউডের জন্য শিল্প যা তৈরি করেছে তার চেয়ে এটির জন্য ভিন্ন অপারেশনাল পেশী প্রয়োজন।”

তাতে বলা হয়েছে, গোল্ডম্যান শ্যাক্স 2030 সালের মধ্যে বিশ্বব্যাপী টোকেন ব্যবহার 24-গুণ বাড়ানোর প্রজেক্ট করেছে। ইতিমধ্যে বাজেটের বেশি কোম্পানিগুলির এখন সমাধান প্রয়োজন, এবং ফাউন্ডেশনের প্রথম কিস্তি এখনও কয়েক মাস বাকি।

“আমরা একটি বাষ্প ইঞ্জিন তৈরি করতে পারে, কিন্তু আমরা এখনও সমাবেশ লাইন বের করতে পারিনি,” গর্ডন বলেন।

Arcolano অনুযায়ী, স্মার্ট পদক্ষেপ বিস্তৃত এবং মধ্যপন্থী গ্রহণ।

“সর্বোত্তম ROI আসে নিম্ন থেকে মাঝারি ব্যবহারের বিস্তৃত মাঝামাঝি স্থানান্তর থেকে, ভারী ব্যবহারকারীদের উচ্চতর ঠেলে না দিয়ে,” তিনি বলেন।

রাসেল ব্র্যান্ডম এবং টিম ফার্নহোলজ এই প্রতিবেদনে অবদান রেখেছেন।