ورقة أولية تقترح بنية ذاكرة مشتركة لخدمة نماذج اللغة
تدرس الورقة بنية هجينة تجمع وحدات GPU بموارد معالجة قريبة من الذاكرة وذاكرة DRAM مشتركة لاستدلال النماذج اللغوية الكبيرة. وتركز على مرحلتي الملء المسبق وفك الترميز، اللتين تضغطان على الحوسبة وعرض نطاق الذاكرة بطرق مختلفة أثناء خدمة الطلبات.
تدرس الورقة بنية هجينة تجمع وحدات GPU بموارد معالجة قريبة من الذاكرة وذاكرة DRAM مشتركة لاستدلال النماذج اللغوية الكبيرة. وتركز على مرحلتي الملء المسبق وفك الترميز، اللتين تضغطان على الحوسبة وعرض نطاق الذاكرة بطرق مختلفة أثناء خدمة الطلبات.
يبحث المؤلفون ما إذا كانت الذاكرة المشتركة تقلل اختلال استخدام الموارد عند فصل المرحلتين. هذه دراسة معمارية وليست خدمة منشورة أو إعلان معالج تجاري؛ وينبغي قراءة ادعاءات الأداء ضمن الإعداد الذي قيّمته الورقة.
يمكن لـ Google Analytics قياس الزيارات والتفاعل مع الموقع باستخدام ملفات تعريف الارتباط إذا وافقت. يمكنك تغيير اختيارك لاحقاً.
تفاصيل القياس والخصوصية
لا تبدأ قياسات Google Analytics إلا بعد موافقتك. بعد الموافقة، قد تشمل القياسات التلقائية التمرير والنقر على الروابط الخارجية والتنزيلات ومشاهدة الفيديو وعمليات البحث والتفاعلات الأساسية مع النماذج؛ وقد تُستخرج عبارات البحث من معاملات الرابط. لا يرسل كود هذا الموقع قيم حقول النماذج؛ أما تنقيح البريد الإلكتروني في القياس التلقائي فهو أفضل جهد وليس ضماناً. يستخدم حدث مشاهدة الصفحة اليدوي رابطاً منقحاً. يمكنك تغيير اختيارك لاحقاً. قد تُرسل الزيارات التي تبدأ بموافقة سابقة أيضاً قياسات أداء رقمية لـ LCP وINP وCLS بعد تحميل Analytics. عند منح الموافقة لأول مرة أو لاحقاً، تبدأ هذه القياسات مع تحميل الصفحة التالية؛ وسحب الموافقة يوقف تقارير الأداء لهذه الصفحة. تُحفظ ملفات تفضيلك ستة أشهر؛ وتظل قياسات الإعلانات والتخصيص متوقفة.
يرسل متصفحك إشارة التحكم العالمي بالخصوصية. التحليلات متوقفة افتراضياً؛ ويمكنك تغيير هذا الاختيار صراحةً هنا.