سوپرچیپ Grace Hopper (GH200) محصولی از انویدیا است که یک معماری سختافزاری نوین را با ترکیب یک پردازنده مرکزی (CPU) مبتنی بر معماری ARM (Grace) و یک واحد پردازش گرافیکی (GPU) قدرتمند (Hopper) روی یک ماژول واحد ارائه میدهد. ویژگی منحصربهفرد این سوپرچیپ، اتصال NVLink-C2C است که یک پهنای باند عظیم ۹۰۰ گیگابایت بر ثانیهای بین حافظه CPU و GPU فراهم میکند. این طراحی برای بارهای کاری هوش مصنوعی و محاسبات با عملکرد بالا (HPC) که نیاز به دسترسی سریع به مجموعه دادههای بزرگ دارند، ایدهآل است. مقاله SuperOffload نشان میدهد که چگونه میتوان از این معماری منحصربهفرد به طور کامل بهرهبرداری کرد. این سیستم با غلبه بر محدودیتهای نرمافزاری موجود، پتانسیل واقعی Grace Hopper را برای آموزش مدلهای زبانی بزرگ آزاد میکند و آن را به یک پلتفرم کلیدی برای نسل بعدی هوش مصنوعی تبدیل مینماید.
تقاضای روزافزون برای مدلهای هوش مصنوعی بزرگتر و پیچیدهتر، مرزهای سختافزارهای محاسباتی را جابجا میکند. در این حوزه جدید، محققان به «سوپرچیپها» روی آوردهاند؛ پردازندههای نوآورانهای که واحدهای پردازش گرافیکی (GPU) و پردازندههای مرکزی (CPU) قدرتمند را روی یک پکیج واحد ادغام میکنند. یک مطالعه پیشگامانه توسط پژوهشگرانی از دانشگاه ایلینوی در اربانا-شمپین، Anyscale و … Read more