raaymand.sharif@gmail.com
02133513087

انتشار مدل کدنویسی Ripple-65B با وزن باز

image-blog

شرکت Ricursive Intelligence مدل زبانی Ripple-65B Preview را با ۶۵ میلیارد پارامتر و مجوز Apache 2.0 منتشر کرده است. این مدل نسخه‌ای عمومی از مدل اختصاصی پلتفرم طراحی تراشهٔ شرکت است و با تمرکز بر کدنویسی عاملی توسعه یافته؛ یعنی انجام وظایف برنامه‌نویسی در چند مرحله و با استفاده از ابزارها. وزن‌های مدل در دسترس قرار گرفته‌اند تا توسعه‌دهندگان بتوانند آن را روی زیرساخت خود اجرا کنند. Ripple از معماری ترنسفورمر متراکم با ۸۰ لایه استفاده می‌کند. طبق اطلاعات سازنده، پیش‌آموزش آن از صفر و با ۱۲ تریلیون توکن انجام شده و مدل از پنجرهٔ متنی تا حدود یک میلیون توکن پشتیبانی می‌کند. داده‌های پیش‌آموزش عمدتاً شامل متن انگلیسی و کد بوده‌اند. پس از آن، آموزش تکمیلی برای پیروی از دستورها، پردازش متن‌های طولانی و انجام وظایف عاملی صورت گرفته است. نسخه‌های منتشرشده شامل مدل پایه، مدل تنظیم‌شده برای پیروی از دستورها با دقت BF16 و نسخهٔ NVFP4 هستند. سازنده می‌گوید هزینهٔ کامل تحقیق و توسعهٔ این مدل ۳۲ میلیون دلار بوده است. این رقم، علاوه بر آموزش نهایی، آزمایش‌های اولیه، آماده‌سازی داده، ارزیابی، رفع اشکال و توسعهٔ روش‌های آموزش تکمیلی را نیز در بر می‌گیرد. شرکت همچنین اعلام کرده که در مرحلهٔ یادگیری تقویتی از حدود ۱٫۴ میلیون اجرای آزمایشی استفاده کرده و به‌جای خرید داده‌های آموزش تکمیلی، فرایندهای تولید و پالایش دادهٔ مصنوعی را در داخل مجموعه توسعه داده است. این ارقام، گزارش خود شرکت هستند. در ارزیابی‌های منتشرشده از سوی سازنده، Ripple در آزمون TerminalBench 2.1 امتیاز ۸۰٫۵۲ را ثبت کرده است. بااین‌حال، این نتیجه به معنای برتری در تمام وظایف برنامه‌نویسی نیست؛ برای نمونه، امتیاز آن در SWE-bench Verified برابر با ۷۶٫۵ گزارش شده، درحالی‌که امتیاز مدل Reflection Beam در همان جدول ۸۱٫۶ است. سازنده نیز توضیح داده که نتایج آزمون‌های عاملی به محیط اجرا، ابزارها و تنظیمات ارزیابی وابسته‌اند و بازتولید دقیق آن‌ها دشوار است. گزارش DevNA تأکید می‌کند که مقایسهٔ اصلی شرکت فقط مدل‌های آمریکایی با وزن‌های باز را پوشش می‌دهد و تا زمان انتشار خبر، تحریریه تأیید مستقلی برای امتیاز اعلام‌شده مشاهده نکرده است. بنابراین، نتایج باید به‌عنوان ادعای سازنده خوانده شوند، نه رتبه‌بندی قطعی مدل در همهٔ کاربردها. برای اجرای محلی، سازنده به سخت‌افزاری مانند NVIDIA DGX Spark اشاره کرده است؛ این موضوع به معنای امکان اجرای مدل روی هر رایانه یا لپ‌تاپ معمولی نیست. نسخهٔ NVFP4 نیز با برچسب آزمایشی ارائه شده است. در نتیجه، انتخاب این مدل برای یک پروژه باید بر اساس آزمایش روی وظایف واقعی، منابع سخت‌افزاری موجود و کیفیت خروجی انجام شود.

0 نظر

هنوز دیدگاهی ثبت نشده است.


دیدگاه خود را ارسال کنید