ابررایانه AI/ مرزهای هوش مصنوعی جابه‌جا می‌شود؟
«تجارت نیوز» گزارش می دهد:
انویدیا Digits را معرفی کرد: ابررایانه‌ی AI کوچک با قیمت ۳۰۰۰ دلار که مدل‌های پیشرفته هوش مصنوعی را روی میز کار اجرا می‌کند.
به گزارش تجارت نیوز،
انویدیا از یک نوآوری انقلابی رونمایی کرده است که قدرت یک ابررایانه را به میز کار می‌آورد. پروژه Digits، یک ابررایانه شخصی کوچک مبتنی بر هوش مصنوعی است. در حالی که دنیای فناوری به کارت‌های گرافیکی قدرتمند جدید انویدیا متمرکز شده است، Digits جهشی بزرگ به جلو محسوب می‌شود و به توسعه‌دهندگان و محققان این امکان را می‌دهد که مدل‌های پیشرفته هوش مصنوعی را به صورت محلی و بدون نیاز به زیرساخت‌های ابری اجرا کنند.
Digits به گونه‌ای طراحی شده است که کوچک و کم‌حجم باشد و از نظر اندازه شبیه به Mac mini است، بنابراین برای تقریباً هر میز کاری مناسب است. کاربران به سادگی آن را به یک صفحه‌کلید، مانیتور و پریز برق متصل می‌کنند و آماده استفاده است. آنچه Digits را متمایز می‌کند، سخت‌افزار داخلی آن است.
این دستگاه که توسط تراشه جدید GB10 Grace Blackwell انویدیا تغذیه می‌شود، تا ۱ پتافلاپ عملکرد هوش مصنوعی ارائه می‌دهد. انویدیا با MediaTek همکاری کرده است تا این تراشه را برای بهره‌وری انرژی بهینه‌سازی کند و اطمینان حاصل کند که می‌تواند از پریزهای برق استاندارد استفاده کند و نیازی به زیرساخت‌های تخصصی ندارد.
قابلیت‌های سخت‌افزاری و نرم‌افزاری Digits
تراشه GB10 با ۱۲۸ گیگابایت رم و تا ۴ ترابایت حافظه NVMe همراه است و به توسعه‌دهندگان این امکان را می‌دهد که مدل‌های زبانی بزرگ (LLM) با تا ۲۰۰ میلیارد پارامتر را اجرا کنند. برای کارهای حتی سنگین‌تر، کاربران می‌توانند دو دستگاه Digits را با استفاده از فناوری ConnectX انویدیا به هم متصل کنند و مدل‌هایی با تا ۴۰۵ میلیارد پارامتر را اجرا کنند.
برای درک بهتر این قابلیت، ChatGPT 3.5 بر روی ۱۷۵ میلیارد پارامتر کار می‌کند، در حالی که قدرتمندترین مدل زبانی متا، Llama 3، از ۴۰۵ میلیارد پارامتر استفاده می‌کند. این بدان معناست که Digits می‌تواند برخی از پیشرفته‌ترین مدل‌های هوش مصنوعی موجود را به راحتی روی میز کار مدیریت کند.
جنسن هوانگ، بنیان‌گذار و مدیرعامل انویدیا، در بیانیه‌ای نوشت: «قرار دادن یک ابررایانه هوش مصنوعی روی میز هر دانشمند داده، محقق هوش مصنوعی و دانشجو، به آن‌ها این قدرت را می‌دهد که در عصر هوش مصنوعی مشارکت کرده و آن را شکل دهند.» این دستگاه برای دموکراتیک‌سازی دسترسی به محاسبات با عملکرد بالا طراحی شده است و به شرکت‌های کوچک‌تر، محققان و دانشجویان این امکان را می‌دهد که بدون نیاز به خدمات ابری گران‌قیمت، برنامه‌های هوش مصنوعی را توسعه و آزمایش کنند.
دسترسی به کتابخانه‌های نرم‌افزاری انویدیا
توسعه‌دهندگان با استفاده از Digits به کتابخانه گسترده نرم‌افزارهای هوش مصنوعی انویدیا، از جمله کیت‌های توسعه، ابزارهای اورکستراسیون، چارچوب‌ها و مدل‌های موجود در کاتالوگ NGC انویدیا و پورتال توسعه‌دهندگان انویدیا دسترسی خواهند داشت. علاوه بر این، آن‌ها می‌توانند از چارچوب NeMo و کتابخانه‌های RAPIDS انویدیا استفاده کنند که ابزارهای ضروری برای ساخت و بهینه‌سازی برنامه‌های هوش مصنوعی هستند.
قیمت مناسب و دسترسی گسترده
یکی از قابل توجه‌ترین جنبه‌های Digits قیمت آن است. با شروع قیمت ۳۰۰۰ دلار، انتظار می‌رود این دستگاه برای طیف گسترده‌ای از کاربران، از جمله شرکت‌های کوچک و محققان مستقل، قابل دسترسی باشد. این قیمت مقرون‌به‌صرفه می‌تواند به طور قابل توجهی مانع ورود به توسعه هوش مصنوعی را کاهش دهد و نوآوری را در صنایع مختلف تقویت کند.
برای کسانی که به دنبال گزینه‌ای مقرون‌به‌صرفه‌تر هستند، انویدیا Jetson را ارائه می‌دهد، یک کامپیوتر هوش مصنوعی خانگی به قیمت ۲۴۹ دلار که در دسامبر ۲۰۲۳ راه‌اندازی شد. اگرچه Jetson از Digits کم‌توان‌تر است، اما می‌تواند مدل‌هایی با تا ۸ میلیارد پارامتر را مدیریت کند و گزینه‌ای مناسب برای پروژه‌های کم‌منبع‌تر است.
دسترسی از می ۲۰۲۵ و آینده‌ی هوش مصنوعی
Digits قرار است در می ۲۰۲۵ در دسترس قرار گیرد و این یک نقطه عطف مهم در دموکراتیک‌سازی فناوری هوش مصنوعی است. با آوردن قابلیت‌های ابررایانه‌ای به میز کار افراد، انویدیا به نسل جدیدی از توسعه‌دهندگان و محققان این قدرت را می‌دهد که مرزهای ممکن‌ها در هوش مصنوعی را جابه‌جا کنند. با ادامه تکامل دنیای فناوری، نوآوری‌هایی مانند Digits نقش محوری در شکل‌دهی به آینده هوش مصنوعی خواهند داشت.
