Physics-Informed Neural Networks (PINN): Maschinelles Lernen für den Maschinenbau
Neuronale und andere maschinelle Lernverfahren für den Maschinenbau einzusetzen, erfordert aktuell zwar noch mehr Rechenleistung und Zeit als konventionelle Methoden. GI-Junior-Fellow und Mitbegründer der BYTE-Challenge Stefan Hildebrand zeigt in diesem Beitrag auf, was trotzdem für sie spricht.
Aktuell steht Künstliche Intelligenz vor allem dank der generativen Systeme im Fokus, nachdem große Erfolge in der Bild- und Mustererkennung zu verzeichnen waren. Abseits der beiden großen Richtungen Klassifikation und Generation gewinnt jedoch auch die klassische, nicht-lineare Regression immer mehr an Aufmerksamkeit, insbesondere im Ingenieurwesen und der Physik. Ein wesentliches Anwendungsgebiet dabei ist die Lösung partieller Differentialgleichungen, zum Beispiel die Wärmeleitungsgleichung oder die Wellengleichung, die Navier-Stokes-Gleichungen oder auch die mechanische Gleichgewichtsbedingung für Festkörper (continuummechanics.org).
Konventionell werden diese Gleichungen, vor allem in der Festkörpermechanik, oft mit der Finite-Elemente-Methode gelöst (cadfem.net), die zunächst die Variation der betrachteten Differentialgleichung voraussetzt, sodass die Anforderungen an die Stetigkeit der Ableitungen von Lösung, Geometrie des betrachteten Gebietes und Randbedingungen entfallen. Dann wird das betrachtete Gebiet durch ein Netz in viele kleine Stücke, die finiten Elemente, aufgeteilt. Die zu lösende Funktion wird nun als Interpolation der Werte an den Netzknoten gesucht. Das dabei genutzte Newton-Raphson-Verfahren stellt eine Jacobimatrix mit den Ableitungen des Residuums des Gleichungssystems nach allen Knotenwerten auf (eine Anleitung zum Selberprogrammieren: uni-mainz.d).
Das führt zu den bis heute relevanten Herausforderungen, hochwertige und hinreichend feine Vernetzungen zu erzeugen, ausreichend Speicherkapazität und Rechenleistung (und damit auch elektrische Energie) für die Lösung verfügbar zu haben sowie bei der Kopplung physikalischer Phänomene und komplexen Materialverhaltens sämtliche partiellen Ableitungen aller gemischten Terme für die Jacobimatrix explizit und parametrisch zu ermitteln.
Alternativ dazu wurden zuletzt Physikalisch Informierte Neuronale Netze (PINN) vorgeschlagen (arxiv.org, github.io). Dabei wird die Lösung nun in Form eines neuronalen Netzes gesucht, dessen Ausgabe die relevanten Größen sind. Vorteilhaft hierbei ist, dass die Anwendung stochastischer Gradienten-Abstiegsverfahren wie ADAM die Aufstellung der Jacobi-Matrix umgeht und so deutlich weniger Speicher zur Lösung erforderlich ist. Oft kann das Problem auch einfacher und eleganter formuliert werden, da nur noch eine skalare Zielfunktion (Loss) benötigt wird, die zum Beispiel aus einer physikalischen Energiebetrachtung stammen kann. Beispielsweise ist die Gleichgewichtsbedingung in der Festkörperstatik äquivalent mit dem Prinzip der minimalen totalen potenziellen Energie, sodass direkt die potenzielle Energie als Loss angesetzt werden kann, was auf die Variante Deep Energy Method (DEM) führt (arxiv.org). Da oft auch das Materialverhalten direkt mithilfe der Formänderungsenergie ausgedrückt werden kann (wikipedia.org), ermöglicht dies die Codierung des Problems meist in wenigen Zeilen. Umgekehrt kann mit dieser Methode bei bekannter Verformung (zum Beispiel aus Experimenten) auch ein neuronales Materialmodell gewonnen werden (iopscience.iop.org).
Als weiterer Vorteil von PINN wird bisweilen genannt, dass keine Vernetzung mehr erforderlich sei, da keine Knotenwerte mehr gesucht sind und gegebenenfalls erforderliche Integrationen auch mit netzfreien Verfahren, zum Beispiel Monte Carlo-Methoden möglich seien. Es zeigt sich in der aktuellen Forschung jedoch immer mehr, dass dies stark vom jeweiligen Anwendungsfall abhängt. Für einfache Probleme sind die Unterschiede vernachlässigbar (link.springer.com), für Probleme mit Singularitäten kann die Nutzung der konventionellen Gauß-Quadratur mit einem Netz genau wie in der FEM jedoch signifikante Vorteile mit sich bringen (arxiv.org). Damit kann vor allem die sehr spezielle Form des Overfitting, für das die DEM anfällig ist, umgangen werden.
Während die Erforschung solcher neuronaler und anderer maschineller Lernverfahren weitgehend explorativ abläuft und die ersten Ansätze oft deutlich mehr Rechenleistung erforderten, Lösungen langsamer lieferten und die Ergebnisgenauigkeit oft geringer war als mit konventionellen Methoden, zeichnen sich inzwischen klare Vorteile ab. In ersten Untersuchungen kann die DEM mit einem konventionellen Netz Bruch- und Rissprobleme schneller und robuster lösen als die vergleichbare FEM. Die stark vereinfachte Modellierung ermöglicht es Studierenden, in wenigen Wochen ihre eigenen numerischen Löser zu schreiben, für die mit konventioneller FEM ein ganzes Semester erforderlich sind. Abschließend eröffnen die einfache Invertierbarkeit des Verfahrens und die Kopplung mit Messdaten die Möglichkeit für zahlreiche, leicht anwendbare und leistungsfähige Methoden zur automatischen Materialmodellierung.
Transparenzhinweis: Unser Autor ist Erstautor der verlinkten Publikationen https://link.springer.com/article/10.1007/s00521-024-10132-2 und https://iopscience.iop.org/article/10.1088/2632-2153/adaf74.
Diesen Beitrag hat Stefan Hildebrand beigesteuert. Er forscht an der TU Berlin, ist GI-Junior-Fellow, Mitbegründer der BYTE-Challenge und GI-Präsidiumsmitglied.
Der Text erschien zuerst in unserem Newsletter GI-Radar. Alle Ausgaben gibt es hier zum Nachlesen. Sie haben auch einen Vorschlag für ein Thema? Wir freuen uns über Ihre Nachricht an redaktion@gi-radar.de.
