এআই কম্পিউটেশন হান্ট কি পরবর্তী মস্তিষ্ক আবিষ্কার করেছে? | টেকক্রাঞ্চ

AI মডেলগুলি চালানোর জন্য কম্পিউটারগুলির জন্য ক্রমবর্ধমান চাহিদা কেবলমাত্র ত্বরান্বিত হয়েছে, তবে ব্যবসায়ের যে কোনও ব্যক্তিকে অবশ্যই দুটি বড় বাধা অতিক্রম করতে হবে: সঠিক চিপগুলি পাওয়া এবং সেগুলিকে ডেটা সেন্টারে নিয়ে যাওয়া যেখানে তারা উপার্জন শুরু করতে পারে৷

জেনারেল কম্পিউট, একটি নতুন ইনফারেন্স নিওক্লাউড, একটি কোম্পানি যেটি এআই প্রসেসিং পাওয়ার ভাড়া করে, যে পর্যায়ে মডেলগুলি চলছে এবং প্রশিক্ষিত হওয়ার পরিবর্তে ব্যবহারকারীদের প্রতিক্রিয়া জানাতে বিশেষীকরণ করে, সেইসব প্রশ্নের উত্তর রয়েছে যা আলোকিত করে যে AI ইকোসিস্টেম কোথায় যাচ্ছে। এই প্রতিক্রিয়াগুলি কেরিয়া ভেঞ্চার পার্টনারস এবং ভিলেজ গ্লোবাল ভেঞ্চারস থেকে অংশগ্রহণের সাথে FUSE VC-এর নেতৃত্বে $60 মিলিয়নের পোস্ট-মানি মূল্যায়নে $15 মিলিয়নের বীজ রাউন্ড বাড়াতে সাহায্য করেছে।

প্রথমত, সঠিক চিপ কি? GPU-গুলির চাহিদা ছাদের মধ্য দিয়ে চলে গেছে, কিন্তু এটি প্রচলিত জ্ঞান হয়ে উঠছে যে তারা প্রশিক্ষিত হওয়ার পরে এআই মডেলগুলি চালানোর জন্য সেরা চিপ নয়। এআই-এর যে ধাপে একটি মডেল সক্রিয়ভাবে প্রতিক্রিয়া তৈরি করছে, প্রশিক্ষণের চেয়ে আলাদা কম্পিউটেশনাল প্রয়োজনীয়তা রয়েছে এবং এর জন্য বিশেষভাবে একটি নতুন শ্রেণির চিপ তৈরি করা হচ্ছে। ডিসেম্বরে এনভিডিয়ার $20 বিলিয়ন Groq লেনদেন এবং সেরেব্রাসের $57 বিলিয়ন আইপিও গত সপ্তাহে পথ নির্দেশ করে।

উভয় কোম্পানির ক্ষমতার চাপে, জেনারেল কম্পিউটের সহ-প্রতিষ্ঠাতা সিইও ফিন পুক্লোস্কি এবং সিটিও জেসন গুডিসন আরেকটি বিকল্প খুঁজে পেয়েছেন। তারা একটি ইন্টেল-সমর্থিত চিপমেকার SambaNova দ্বারা নির্মিত বিশেষ চিপগুলির দিকে ঝুঁকছে, যা সিলিকন ভ্যালি কথোপকথনের বাইরে কিছুটা পড়ে গেছে।

SambaNova এই বছর তার নতুন চিপ প্রকাশ করলে এটি পরিবর্তন হতে পারে। আর্কিটেকচারটি আরও নমনীয় এবং অনুমান গণনার সময় প্রসঙ্গ সঞ্চয় করার জন্য আরও মেমরি ব্যবহার করে এবং সাম্বানোভা দাবি করে যে এটি শুধুমাত্র GPU গুলিই নয় বরং Groq বা Cerebras-এর মতো লোকদের দ্বারা নির্মিত অন্যান্য বিশেষ চিপগুলিকেও ছাড়িয়ে যায়৷ পুক্লোস্কি বলেছেন যে নতুন চিপগুলি প্রতি সেকেন্ডে 600 থেকে 700 টোকেন তৈরি করবে, GPU গুলির জন্য প্রতি সেকেন্ডে প্রায় 250 টোকেনগুলির তুলনায়।

জেনারেল কম্পিউটের কাছে কোম্পানির SN50 চিপগুলির 300 মিলিয়ন ডলার রয়েছে এবং বলে যে এটি তাদের স্থাপন করা প্রথম নিওক্লাউড হবে।

সাধারণ কম্পিউটের জন্য এই চিপগুলি দ্বিতীয় বড় সমস্যাটি সমাধান করতেও সাহায্য করে – সেগুলিকে কোথায় রাখতে হবে – সাধারণ কম্পিউটের জন্য: এগুলি জল নয়, বাতাসে ঠান্ডা হয় এবং কম শক্তি খরচ করে, তাই নতুন অবকাঠামোতে বিনিয়োগ না করেই এগুলি বিদ্যমান ডেটা সেন্টার সুবিধাগুলিতে ইনস্টল করা যেতে পারে৷

পুক্লোস্কি কোলোকেশন ডিল খুঁজছেন — এমন চুক্তি যেখানে জেনারেল কম্পিউট অন্য কারো প্রাঙ্গনে তার হার্ডওয়্যার ইনস্টল করে — শুধুমাত্র ডেটা সেন্টার প্রদানকারীদের সাথে নয়, ক্রিপ্টো খনি শ্রমিকদের সাথেও তাদের পরিকাঠামো পুনঃব্যবহার করতে চায় যেহেতু বিটকয়েন উৎপাদনের খরচ প্রায়শই এর দামকে ছাড়িয়ে গেছে।

জেনারেল কম্পিউট গত সপ্তাহে তার ক্লাউড অফার চালু করেছে, দাবি করেছে যে এটি ইতিমধ্যেই একটি শক্তিশালী ওপেন সোর্স LLM, MiniMax 2.7 চালানোর জন্য দ্রুততম।

Joe Hasselmann হলেন একজন ভেঞ্চার ক্যাপিটালিস্ট যিনি 2021 সালে Groq-এ বিনিয়োগ করার সময় ইনফারেন্স বুমের গ্রাউন্ড ফ্লোরে এসেছিলেন। এই বছর, তিনি একটি নতুন ফান্ড চালু করেছেন, Evercrest Capital Partners, আর্টিফিশিয়াল ইন্টেলিজেন্স স্পেসকে কেন্দ্র করে এবং জেনারেল কম্পিউটকে তার প্রথম বিনিয়োগ করেছেন। হ্যাসলম্যান এনভিডিয়ার সাথে কোরওয়েভের সম্পর্কের সাথে সাম্বানোভা-এর অংশীদারিত্ব এবং এর প্রাক্তন ক্লাউড অফারগুলির সাথে গ্রোক-এর চিপ উত্পাদনের সংমিশ্রণকে দেখেন।

“তাদের এমন গ্রাহকদের একটি স্বাস্থ্যকর মিশ্রণ প্রয়োজন যারা তাদের চিপগুলি এমন পরিবেশে রাখতে চলেছে যা তাদের জন্য উচ্চ বৃদ্ধি হতে চলেছে,” হ্যাসলম্যান বলেছিলেন। “সাম্বানোভাতে যতটা সাধারণ কম্পিউট বাজি ধরে, সাম্বানোভা সাধারণ কম্পিউটে বাজি ধরে।”

প্রশ্ন হল কোন ধরনের কম্পিউটিং আর্কিটেকচার এআই-এর ভবিষ্যতে সবচেয়ে বেশি মান অর্জন করবে। ইনফরেন্স ক্লাউড হল একাধিক মডেল এবং এজেন্টের জগতে অন্তর্নিহিত বাজি, যেখানে কোনও প্রদানকারীর প্রাধান্য নেই এবং অনুমানের গতি এবং খরচ মূল প্রতিযোগিতামূলক পরিবর্তনশীল হয়ে ওঠে। এই সপ্তাহে OpenRouter-এর জন্য উত্থাপিত $113 মিলিয়ন সিরিজ B বিবেচনা করুন, যা গ্রাহকদের তাদের টোকেন ব্যয় অপ্টিমাইজ করার জন্য একাধিক মডেলে অ্যাক্সেস দেওয়ার প্রস্তাব করার কোম্পানির ক্ষমতা প্রতিফলিত করে।

সেই হিসাবের মধ্যে গতির ব্যাপার, দামের কারণে এবং ক্ষমতার কারণে। পুক্লোস্কি কোডিং এজেন্টদের জন্য ঘন্টাব্যাপী কাজের চাপকে পাঁচ থেকে দশ মিনিটের কাজগুলিতে পরিণত করতে চায় এবং গ্রাহক পরিষেবার জন্য অডিও এজেন্ট তৈরি করতে চায়, যার জন্য কার্যকরভাবে, আরও সাশ্রয়ী মূল্যের কথোপকথনের জন্য দ্রুত অনুমান প্রয়োজন।

“আপনি যদি ChatGPT ব্যবহার করেন এবং এটি আপনাকে প্রতি সেকেন্ডে 50টি টোকেন দেয়, তবে এটি এখনও আমরা পড়তে পারি তার চেয়ে অনেক দ্রুত,” পুক্লোস্কি টেকক্রাঞ্চকে বলেছেন।