NARX, LSTM oder Transformer: Welche Architektur langfristig zuverlässig vorhersagt

Im untersuchten MVP lieferte der Transformer über 1.024 Schritte die beste Genauigkeit und die höchste Inferenzgeschwindigkeit. Über 10.000 autoregressive Schritte blieb jedoch die LSTM am stabilsten. Die beste Wahl hängt deshalb davon ab, ob kurzfristige Genauigkeit, sehr lange Rollout-Stabilität oder Rechenzeit das wichtigste Kriterium ist.

Der Vergleich basiert auf einem Minimum Viable Product zur vertikalen Dynamik eines einzelnen, nicht parametrisierten Schienenfahrzeugs. Untersucht wurden gerade Streckenabschnitte und konstante Geschwindigkeiten. Die Resultate sind eine Entscheidungshilfe für diesen Anwendungsfall, kein allgemeingültiger Benchmark für alle Zeitreihenprobleme.

RRE steht für Relative Range Error. Die Kennzahl setzt den Vorhersagefehler ins Verhältnis zum Wertebereich des tatsächlichen Signals. Je niedriger der RRE, desto genauer die Prognose.

FLOPs beschreiben vereinfacht den Rechenaufwand eines Modells. Je mehr FLOPs nötig sind, desto mehr Rechenoperationen muss die Hardware für eine Berechnung ausführen.

Die Daten stammen nicht aus Messfahrten, sondern aus gekoppelten Simpack-FEM- und Mehrkörpersimulationen. Für dasselbe feste Fahrzeugmodell wurden Fahrten über einen zehn Kilometer langen, geraden Streckenabschnitt bei 70, 90, 110, 130, 150 und 170 km/h berechnet. Jede Simulation liefert mit 1.000 Abtastwerten pro Sekunde synchronisierte Zeitreihen: vier bekannte Streckenanregungen und 50 vertikale Reaktionssignale des Fahrzeugs.

Das Modell lernt damit vereinfacht die Frage: Wenn das Fahrzeug in den vergangenen Millisekunden so auf die Schiene reagiert hat und die nächsten Unebenheiten der Strecke bekannt sind, wie entwickeln sich seine Bewegungen und Kräfte als Nächstes? Wie diese Daten im gesamten Engineering-Workflow erzeugt und als schnelles Surrogat für aufwendige Simulationen genutzt werden, zeigt der übergeordnete Projekt-Use-Case.

Links von Zeitschritt 0 liegt das Lag-Fenster: reale historische Strecken- und Fahrzeugdaten, mit denen die Vorhersage startet. Rechts davon liegt der Vorhersagehorizont. Das zukünftige Gleisprofil ist dort bereits bekannt, die zukünftigen Fahrzeugreaktionen dagegen nicht. Genau diese Verläufe erzeugt das Modell.

Bei einer Abtastrate von 1.000 Hz entsprechen 1.024 Vorhersageschritte rund 1,024 Sekunden Fahrzeugdynamik; 10.000 Schritte entsprechen zehn Sekunden. Im autoregressiven Rollout werden die erzeugten Fahrzeugreaktionen schritt- oder blockweise Teil des nächsten Eingabefensters. Dadurch kann ein kleiner Fehler über einen langen Horizont weitergetragen werden.

Modelle, die einzelne Zeitschritte präzise vorhersagen, können über lange Vorhersagehorizonte zunehmend abdriften. Bei einer autoregressiven Prognose erhält das Modell zunächst reale historische Daten und setzt den Prozess anschließend mit seinen eigenen Ergebnissen fort. Jede Abweichung kann dadurch Teil der nächsten Eingabe werden und sich über Tausende Schritte verstärken.

Beim Transformer lässt sich die gewählte Blockgröße – also die Zahl der pro Durchlauf erzeugten Vorhersageschritte – direkt im Fehlerverlauf erkennen. Innerhalb jedes Vorhersageblocks wächst die Abweichung deutlich an. Mit dem Beginn des nächsten Blocks wird sie zurückgesetzt, bevor dasselbe Muster erneut entsteht.

In einem zukünftigen Use Case soll dieser Effekt verringert werden, indem die Blockgröße nicht während des gesamten Trainings konstant bleibt, sondern im Verlauf des Trainings variiert wird. Das Modell lernt dadurch unterschiedliche Positionen und Längen innerhalb eines Vorhersageblocks kennen, statt sich auf einen festen Reset-Rhythmus einzustellen. Ob und in welchem Maß dies den Fehler senkt, muss im jeweiligen Einsatz validiert werden.

Die Parameterstudien aus der Bachelorarbeit zeigen beispielhaft, wie deutlich Architekturentscheidungen Fehler und Rechenaufwand verändern können. Jedes Diagramm vereint mehrere Ein-Faktor-Sweeps: Ausgehend von einer abgestimmten Basiskonfiguration wurde jeweils ein Teil der Hyperparameter variiert. Die horizontale Achse zeigt die FLOPs pro Vorhersageschritt, die vertikale Achse den RRE – niedriger ist besser.

Die konkreten Optima gelten nur für den untersuchten Datensatz. Abtastrate, Kanalzahl, Vorhersagehorizont, Datenmenge, Betriebsbereich und verfügbare Hardware verschieben sie in jedem Anwendungsfall. Die sichtbaren Minima, Plateaus und instabilen Bereiche machen jedoch deutlich: Alle drei Modelle reagieren auf ihre Parametrisierung. Ein systematisches Hyperparameter-Tuning ist deshalb ein entscheidender Schritt beim Entwurf der Architektur und Voraussetzung für gute Ergebnisse.

Die Optimierung des historischen Eingabefensters zeigt unterschiedliche Optima: Die LSTM erreicht im untersuchten Setup mit Attention bei ungefähr zehn Schritten ihre beste Genauigkeit; der Transformer findet ein Minimum bei ungefähr 100 Schritten. Größere Fenster erhöhen den Rechenaufwand, ohne die Genauigkeit verlässlich weiter zu steigern.

Nach 1.024 Schritten schien die Entscheidung eindeutig: Der Transformer lag mit 0,74 % RRE vor LSTM und NARX. Der 10.000-Schritte-Rollout änderte die Interpretation. Dort blieb die LSTM mit 1,277 % RRE am stabilsten, während der Transformer 1,78 % und NARX 2,96 % erreichten.

Nicht die Architektur mit dem niedrigsten kurzfristigen Fehler ist automatisch die beste für jeden Vorhersagehorizont.

Eine konkrete Anwendung ist die schnelle Vorbewertung rechenintensiver Simulationen. Der ergänzende Use Case zeigt, wie ein trainiertes Surrogatmodell frühes Feedback liefert und FEM weiterhin als verlässliche Validierungsinstanz nutzt.

Bachelorarbeit: Surrogate Modeling of Rail Vehicle Dynamics using Neural Networks, Oscar Johann Schumacher. Alle Kennzahlen beziehen sich auf den dort dokumentierten MVP und müssen für andere Systeme erneut validiert werden.