درست ورقة نُشرت في 12 أكتوبر في مجلة Nature Computational Science كيفية استخدام نماذج اللغة الكبيرة للمعلومات المكانية والفئوية في البيانات العلمية. وشارك في تأليفها باحثون من جامعة فريدريش شيلر في يينا وسانتياغو ميريت من إنتل لابز، وجمعت بين تجارب مضبوطة على بيانات اصطناعية واختبارات معيارية لخصائص المواد. ويقول الباحثون إن النماذج تستطيع تعلم تسميات التركيب مثل أنواع الذرات، لكنها تواجه صعوبة منهجية في الإحداثيات التي تصف ترتيب الذرات في الفضاء.

استمرت الفجوة في النماذج المختبرة حتى 70 مليار معامل، وفي مجموعات بيانات تضم ما يصل إلى مليوني بنية. وتفوقت الشبكات العصبية البيانية التي تمثل الهندسة صراحة على نماذج اللغة في خصائص المواد المرتبطة ببنيتها. وتشير المقارنة إلى أن نماذج اللغة ليست مناسبة لكل مهام التنبؤ العلمي؛ ولا تفيد الورقة بإنتاج مادة جديدة أو التحقق منها مخبرياً.