مقاله U-STS-LLM: مدل زبانی بزرگ یکپارچه با هدایت فضایی-زمانی برای پیش‌بینی و تکمیل داده‌های ترافیک.

عملکرد کارآمد شبکه‌های سلولی مدرن به تحلیل دقیق داده‌های ترافیک فضایی-زمانی وابسته است. تسلط بر این الگوها برای عملکردهای اصلی شبکه، به‌ویژه پیش‌بینی بار آینده برای جلوگیری از ازدحام و پر کردن مقادیر گمشده ناشی از خرابی سنسورها یا خطاهای انتقال برای اطمینان از تداوم داده‌ها، ضروری است. با وجود ارتباط عمیق، پیش‌بینی و پر کردن داده‌ها به‌طور تاریخی به‌عنوان زیرشاخه‌های جداگانه توسعه یافته‌اند. پارادایم غالب، شبکه‌های عصبی گراف فضایی-زمانی (STGNNs)، اگرچه مؤثر هستند، اما اغلب تخصصی، از نظر محاسباتی سنگین و دارای قابلیت تعمیم محدود می‌باشند. همزمان، تطبیق مدل‌های زبان بزرگ از پیش آموزش‌دیده (LLMs) جایگزین قدرتمندی برای مدل‌سازی توالی ارائه می‌دهد، با این حال رویکردهای موجود راهنمایی ساختاری ضعیفی ارائه می‌دهند که منجر به همگرایی ناپایدار و تمرکز محدود بر پیش‌بینی می‌شود. برای پر کردن این شکاف‌ها، ما U-STS-LLM، یک چارچوب یکپارچه مبتنی بر LLM هدایت‌شده فضایی-زمانی را پیشنهاد می‌کنیم. نوآوری اصلی ما یک مولد بایاس توجه فضایی-زمانی پویا است که یک گراف تابعی پایدار را با حالت‌های گره‌ای گذرا ترکیب می‌کند تا به‌طور صریح توجه LLM را هدایت کند. همراه با یک ستون فقرات منجمد جزئی که از طریق تطبیق رتبه پایین (LoRA) و یک مکانیزم ادغام تطبیقی گیت‌دار تنظیم شده است، مدل به تطبیق پایدار و پارامتر-کارآمد دست می‌یابد. U-STS-LLM که تحت یک هدف چند وظیفه‌ای یکپارچه آموزش دیده است، یک نمایش داده جامع را یاد می‌گیرد. آزمایش‌های گسترده بر روی مجموعه داده‌های سلولی واقعی نشان می‌دهد که U-STS-LLM عملکرد پیشرفته جدیدی را هم در پیش‌بینی افق طولانی و هم در پر کردن با نرخ بالای داده‌های گمشده، در حالی که کارایی و پایداری آموزش قابل توجهی را حفظ می‌کند، ایجاد می‌کند و طرحی نو برای بهره‌برداری از مدل‌های پایه در دامنه‌های ساختاریافته و غیر زبانی ارائه می‌دهد.

The efficient operation of modern cellular networks hinges on the accurate analysis of spatio-temporal traffic data. Mastering these patterns is essential for core network functions, chiefly forecasting future load to pre-empt congestion and imputing missing values caused by sensor failures or transmission errors to ensure data continuity. While deeply connected, forecasting and imputation have historically evolved as separate sub-fields. The dominant paradigm, Spatio-Temporal Graph Neural Networks (STGNNs), while effective, are often specialized, computationally intensive, and exhibit limited generalization. Concurrently, adapting large pre-trained language models (LLMs) offers a powerful alternative for sequence modeling, yet existing approaches provide weak structural guidance, leading to unstable convergence and a narrow focus on forecasting. To bridge these gaps, we propose U-STS-LLM, a unified framework built on a spatio-temporally steered LLM. Our core innovation is a Dynamic Spatio-Temporal Attention Bias Generator that synthesizes a persistent functional graph with transient nodal states to explicitly steer the LLM's attention. Coupled with a partially frozen backbone tuned via Low-Rank Adaptation (LoRA) and a Gated Adaptive Fusion mechanism, the model achieves stable, parameter-efficient adaptation. Trained under a unified multi-task objective, U-STS-LLM learns a holistic data representation. Extensive experiments on real-world cellular datasets demonstrate that U-STS-LLM establishes new state-of-the-art performance in both long-horizon forecasting and high-missing-rate imputation, while maintaining remarkable training efficiency and stability, offering a novel blueprint for harnessing foundation models in structured, non-linguistic domains.