Apertus 1.5 يضيف الصوت والصور ونافذة سياق أطول

كشفت Hugging Face عن Apertus 1.5، وهو استمرار في التدريب المسبق للجيل الأول من النموذج، مع توسيع البيانات والتدريب ليشمل النص والوسائط المتعددة. النسخة 8B أضيف إليها 4 تريليونات رمز، بينما تلقت نسخة 70B تريليوني رمز إضافيين، لتصل الإجماليات إلى 19 تريليونًا و17 تريليونًا على التوالي.

تدعم النماذج الجديدة فهم الصور والصوت إلى جانب النص، ويمكنها معالجة اللغة المنطوقة بشكل تجريبي. كما أضيف وضع التفكير، الذي يتيح للنموذج التريث قبل الإجابة لتحسين الأداء في مسائل الاستدلال، إلى جانب رفع نافذة السياق إلى 262,144 رمزًا، أي أربعة أضعاف Apertus 1.0.

وتقول الشركة إن Apertus 1.5 تحسن أيضًا في اتباع التعليمات واستخدام الأدوات، بما في ذلك التكامل الأفضل مع الأدوات الخارجية وواجهات برمجة التطبيقات. وتوضح أن التدريب اعتمد مراحل متعددة، منها بيانات غير مقترنة، ثم أزواج صور/تعليقات وصوت/تفريغ، ثم مرحلة طويلة السياق، مع بقاء أكثر من نصف الرموز من نص فقط للحفاظ على قدرات اللغة.

كما شددت Hugging Face على أن الإصدار مفتوح بالكامل من حيث الأوزان والبيانات والقيم وتفاصيل التدريب، وأنه جرى توثيق كل الوصفات وخلطات البيانات. وتذكر أن بعض التطبيقات مثل Proton Lumo وInfomaniak Euria دمجت Apertus 1.5 مؤخرًا، وأن إتاحة واجهة برمجة التطبيقات للمطورين أُعلن عنها عبر Swisscom وInfomaniak وPhoeniqs وجهات أخرى.