با رشد سریع هوش مصنوعی و افزایش چشمگیر نیاز به توان پردازشی، محدودیتهای حافظه بیش از پیش خود را نشان دادهاند. این گلوگاهها، تولیدکنندگان حافظههای DRAM و NAND را وادار کرده تا به دنبال راهکارهای خلاقانه و خارج از چارچوب باشند. شرکت سندیسک (SanDisk) به تازگی برای غلبه بر این چالش، راهکار مبتکرانهای جهت انباشت حافظه NAND در لایه زیرین پردازندهها پیشنهاد داده است.
در گذشته، تولیدکنندگان با معرفی فناوریهای جدید حافظه (که عمدتاً بر پایه DRAM بودند) مشکلات را حل میکردند؛ اما افزایش هزینهها، چالشهای تولید و مصرف بالای انرژی باعث شده تا تمرکز صنعت به سمت راهکارهای جایگزین معطوف شود. اگرچه فناوری HBM با سرعت و پایداری خوبی توسعه یافت، اما اکنون به دلیل کمبود در بازار، خود به یک گلوگاه بزرگ برای رونق هوش مصنوعی تبدیل شده است.
حافظههای HBM نقاط ضعف دیگری مانند ظرفیت پایینتر نیز دارند. با وجود اینکه تولیدکنندگان DRAM در هر نسل سرعت و ظرفیت را ارتقا میدهند، اما هنوز نتوانستهاند همگام با تقاضای دیوانهوار بازار پیش بروند. علاوهبراین، از آنجا که حافظه HBM در کنار تراشه اصلی قرار میگیرد، همچنان با تأخیرهای ارتباطی (Inter-latency) بین پردازنده و حافظه مواجه هستیم. از سوی دیگر، حافظههای NAND ظرفیتهای بسیار بالاتر و قیمت مقرونبهصرفهتری ارائه میدهند، اما فاصله فیزیکی آنها با تراشه بیشتر بوده و سرعت انتقال داده بسیار پایینتری نسبت به DRAM و HBM دارند.
برای غلبه بر این مشکلات، شرکت سندیسک مدتی پیش برنامههای خود را برای راهکار HBF (High-Bandwidth Flash یا حافظه فلش با پهنای باند بالا) تشریح کرد. گفته میشود HBF از ساختاری مشابه HBM استفاده میکند؛ به این معنا که چندین لایه حافظه NAND روی یکدیگر قرار میگیرند و هر لایه از طریق اتصالاتی به نام TSV به لایه بعدی متصل میشود تا در نهایت یک بلوک یکپارچه از حافظههای NAND شکل بگیرد. درحالیکه حافظههای HBM فعلی در هر پشته ظرفیتی بین 32 تا 64 گیگابایت ارائه میدهند، HBF میتواند این ظرفیت را تا 4 ترابایت افزایش دهد.
اگرچه HBF مشکل ظرفیت و سرعت را تا حد زیادی حل میکند، اما نیازهای آینده هوش مصنوعی و پردازشهای فوقسریع (HPC) به راهکار قدرتمندتری نیازمندند. اینجاست که جدیدترین پتنت ثبتشده توسط سندیسک با شماره «US 12,430,274 B2» وارد میدان میشود.
این پتنت، ایده جذاب پشتهسازی سهبعدی (3D Stacking) یک بلوک حافظه NAND را با استفاده از فناوری CBA (آرایه متصلشده با CMOS) در زیر تراشه پردازشی اصلی (که میتواند یک شتابدهنده هوش مصنوعی یا GPU باشد) بررسی میکند. در این راهکار، همچنان از حافظههای HBM روی همان Interposer استفاده میشود، اما هدف و کارکرد آنها متفاوت خواهد بود.
این طراحی در واقع زدن دو نشان با یک تیر است؛ حافظه HBM وظایف فوری و نیازمند سرعت بالا را انجام میدهد، درحالیکه حافظه NAND در زیر پردازنده، عملیات خواندن/نوشتن و مدیریت مجموعه دادههای عظیم را برعهده میگیرد. این ساختار، اتصالات عریضتری بین تراشه پردازشی و بلوک حافظه ایجاد میکند که در نهایت به کاهش هزینهها، مصرف بهینهتر انرژی و افزایش سرعت منجر میشود.
براساس توضیحات این پتنت، یک پردازنده چندهستهای (مانند پردازنده گرافیکی بزرگ یا پردازنده AI) بهطور مستقیم با یک حافظه غیرفرار با ظرفیت و پهنای باند بالا ادغام میشود. این حافظه میتواند یک بلوک CBA باشد که از یک بلوک بزرگ حافظه NAND متصل به یک مدار منطقی CMOS تشکیل شده است. پردازنده و حافظه CBA یکپارچه، روی یک Interposer قرار میگیرند و پشتههای حافظه HBM در یک یا چند طرف این مجموعه چیده میشوند.
هرچند این معماری چشماندازی هیجانانگیز برای عبور از گلوگاههای حافظه ارائه میدهد، باید توجه داشت که این ایده درحالحاضر تنها یک پتنت است. پیش از تبدیلشدن آن به یک محصول تجاری، باید چالشهای متعددی از جمله میزان مصرف انرژی، مسائل حرارتی و هزینههای ساخت تراشهای تا این حد پیچیده (با حضور همزمان NAND ،DRAM و پردازنده در یک پکیج) برطرف شوند.
بااینحال، این پتنت یک حصار استراتژیک و انحصاری قدرتمند برای معماری «پردازنده روی NAND» ایجاد میکند؛ به خصوص طراحی مسیرهای ارتباطی عریض در داخل تراشه که کپیبرداری از آن بسیار دشوار است. درحالیکه محصولات فعلی بازار به سمت استانداردسازی روش سادهتر «قرارگیری قطعات در کنار یکدیگر» حرکت میکنند، جالبترین بخش ماجرا این است که ببینیم آیا سندیسک در آینده میتواند ایده ثبتشده خود را به مرحله تولید انبوه برساند یا خیر.
