Dezentrale KI: unabhängig und individuell

KI‐Technologien in der Nähe von Datenquellen einzusetzen, kann Unternehmen und Personen Kontrolle über ihre Daten zurückgeben, erfordert aber den Aufbau komplexer Systeme. Diese Grand Challenge zeigt den – nicht unbedingt leichten – Weg zur individuellen Edge AI.

Künstliche Intelligenz (KI) bestimmt zunehmend unseren beruflichen und privaten Alltag. Dennoch sind KI und ihre bekannteste technische Umsetzung, das maschinelle Lernen (ML), stetiger Kritik ausgesetzt. Insbesondere wird kritisiert, dass das Training von ML‐Modellen häufig auf zentralisierten Datenbeständen in der Cloud stattfindet. Dies impliziert, dass Nutzer*innen ihre Daten zunächst in die Cloud senden müssen und damit die Kontrolle über die eigenen Daten abgeben. Sowohl Unternehmen als auch Privatpersonen sind jedoch aus guten Gründen häufig nicht bereit, dies zu tun.

Da das Trainieren von ML‐Modellen in vielen Fällen große Datenmengen benötigt, kann der notwendige Datentransfer zu weiteren Problemen führen. Dies ist insbesondere dann der Fall, wenn Ergebnisse in Echtzeit benötigt werden oder ein Unternehmen beziehungsweise eine Privatperson zwar Daten zur Verfügung stellen möchte, jedoch nicht über eine entsprechende Internetanbindung verfügt.

Aus diesen Gründen hat das Konzept der Edge‐KI, also der Anwendung von KI‐Technologien und insbesondere ML am Rande des Netzes, in letzter Zeit viel Aufmerksamkeit erlangt. Edge‐KI basiert auf der Idee, dass neuartige KI‐Technologien mittels Edge‐Computing auf geeigneten lokalen Geräten in der Nähe von Datenquellen eingesetzt werden können, sodass Trainingsdaten nicht zentral, zum Beispiel in der Cloud, gesammelt werden müssen. Dies führt zu einem dezentraleren Ansatz bei der Anwendung von KI.

Grundlegende Konzepte der Edge‐KI werden heute bereits eingesetzt. Dennoch müssen zunächst noch eine Vielzahl von Forschungsfragestellungen beantwortet werden, bevor die Technologie breite Anwendung finden kann. Diese reichen von speziell angepassten ML‐Algorithmen für leichtgewichtige IT‐Umgebungen über nachvollziehbare KI bis hin zur Benutzerfreundlichkeit.

Trotz des Einflusses von Künstlicher Intelligenz (KI) und maschinellem Lernen (ML), ist die Kritik vielfältig und umfasst technische, gesellschaftliche und staatliche Aspekte. Ein wesentlicher Kritikpunkt an ML ist die Tendenz zu natürlichen Monopolen. In vielen Fällen werden für die Anwendung von ML sehr große Datenmengen für das Training sowie sehr große Mengen an Rechenleistung benötigt. Dies führt natürlich dazu, dass sich ML-Expertise in Unternehmen ansammelt, die bereits über große Datenmengen und sehr große Rechenzentren verfügen. Es überrascht daher nicht, dass Unternehmen wie Google oder Facebook ebenfalls stark im Bereich der KI engagiert sind. Selbst neuere Akteure wie OpenAI werden von Unternehmen wie Microsoft und Amazon unterstützt und profitieren von deren Daten und Rechenleistung. Viele Unternehmen und Menschen sind jedoch nicht sehr erpicht darauf, ihre Daten an solche Unternehmen zu senden, da sie dadurch die Kontrolle über ihre Daten verlieren. Daher können zentralisierte ML-Ansätze zu einer Bedrohung für die Datensouveränität werden.

Aus technischer Sicht kann das Hochladen sehr großer Datenmengen an eine zentrale Stelle für die Zwecke von ML problematisch werden. Selbst in einem Land mit relativ moderner Infrastruktur wie Deutschland haben nicht alle Unternehmen Zugang zu einer Hochgeschwindigkeits-Internetverbindung. Dies gilt insbesondere für ländliche Gebiete und für kleine und mittlere Unternehmen, die das Rückgrat der deutschen Wirtschaft bilden. Wenn die Internetverbindung zu einem Engpass wird, könnte dies die Unternehmen davon abhalten, KI-Funktionalitäten zu nutzen. Darüber hinaus erfordern verschiedene KI-Anwendungsfälle wie autonome Fahrzeuge oder die industrielle Fertigung, dass die Verarbeitung und Entscheidungsfindung in Echtzeit erfolgt. Das könnte problematisch werden, wenn das Hoch- und Runterladen von Daten in die Cloud mit zu hohen Latenzzeiten verbunden ist.

Edge AI führt zu einem dezentraleren Ansatz bei der Anwendung von KI, indem das Training und die Verwendung von Modellen am Rande des Netzwerks geschehen. Eine andere Richtung der Edge AI besteht darin, ML-Modelle weiterhin in der Cloud zu trainieren, aber die Modelle in der Nähe der Datenquellen anzuwenden. Dabei ist jedoch zu berücksichtigen, dass die Vorteile in puncto Datenschutz während der Trainingsphase verpuffen.

Während das Grundkonzept der Edge AI vielversprechend ist, führt es auch zu komplexen neuen Forschungsfragen. Diese ähneln teilweise den Fragen, die auch in der zentralisierten KI und im generischen Edge-Computing gelöst werden müssen, sind aber teilweise Edge AI-spezifisch.

Wie aus vielen anderen Bereichen der Informatik bekannt ist, kann die Dezentralisierung und Verteilung von Aufgaben sehr vorteilhaft sein, führt aber auch zu einer höheren Systemkomplexität. Dementsprechend erbt Edge AI die Herausforderungen der zentralisierten KI und führt durch die steigende Systemkomplexität neue ein. So geht eine höhere Komplexität in der Regel mit einer größeren Bedrohungsfläche einher und führt zu zusätzlichen Sicherheitsherausforderungen, nämlich der Gewährleistung der Vertraulichkeit, Integrität und Verfügbarkeit von Daten und des Edge AI-Systems selbst. Edge AI ist, insbesondere wenn sie mit dezentralem Lernen gekoppelt ist, anfälliger für die Einbindung von Hintertüren als zentralisierte KI. Da Edge AI-Systeme kritische Komponenten in künftigen Infrastrukturen und vernetzten Diensten sein könnten, müssen sie äußerst widerstandsfähig gegen Ausfälle und Angriffe sein.     

Ziel muss es sein, Edge AI-Technologien zu etablieren, die leichtgewichtig im Hinblick auf den Ressourcen- und Energieverbrauch, aber dennoch leicht kontrollierbar, sicher und widerstandsfähig genug sind, um in einem breiten Spektrum von Anwendungsfällen und auch von Nutzenden eingesetzt zu werden, die keine KI-Experten sind.

Um die Komplexität und die Schwierigkeiten bei der Verwirklichung von Edge AI zu verdeutlichen, lohnt sich der genauere Blick auf einige der wichtigsten Teilherausforderungen. Sie zeigen, dass viele Teildisziplinen der Informatik sowie andere Disziplinen ihre Kräfte bündeln müssen, um die großen Herausforderungen von Edge AI zu lösen.

Erstens gibt es in der ML einen Trend zu immer komplexeren Modellen. Bereits relativ kleine neuronale Netzmodelle können eine sechsstellige Anzahl von Parametern haben, und sehr große Modelle können Milliarden von Parametern umfassen. Dementsprechend gibt es auch einen Trend zu immer höheren Anforderungen an die Rechenleistung. Dies kollidiert mit der in der Regel geringeren Rechenleistung der am Rande des Netzes verfügbaren Geräte. Ein Lösungsansatz wäre, weniger komplexe Modelle zu trainieren. Wenn allerdings weniger Parameter in einem ML-Modell berücksichtigt werden können, kann dies zu geringerer Genauigkeit und sogar zu Unbrauchbarkeit führen. Auch wenn einige Kompromisse zwischen Genauigkeit und Ressourcenverbrauch akzeptabel sein mögen, ist es nicht trivial, den goldenen Mittelweg zwischen diesen beiden widersprüchlichen Anforderungen zu finden. Daher sind Forschungsanstrengungen erforderlich, um den Ressourcenverbrauch klassischer ML-Probleme zu optimieren und gleichzeitig eine ausreichende Genauigkeit zu erzielen.

Zweitens können Edge AI-Systemlandschaften sehr komplex werden, vor allem wenn ein dezentraler Ansatz für ML wie Federated Learning (FL) angewandt wird. Bei FL werden kritische Rohdaten nicht an eine zentrale Einheit gesendet, sondern nur ein erlerntes lokales Modell wird mit dem Aggregator geteilt. Dies führt zwar zu Vorteilen hinsichtlich des Kommunikationsaufwands und des Datenschutzes, aber die resultierenden Systeme können Tausende von teilnehmenden Clients enthalten, die alle ihre eigenen lokalen Modelle liefern, und Millionen von Datenquellen. Um zu vermeiden, dass dies zu einem Overhead führt, der die Vorteile von Edge AI zunichtemacht, ist es notwendig, neue Ansätze zu finden, die helfen, FL-Systemlandschaften im Hinblick auf verschiedene Ziele zu optimieren, zum Beispiel Latenz, Energieverbrauch oder Genauigkeit. Teilweise werden die entsprechenden Fragestellungen direkt aus dem allgemeineren Bereich des Edge-Computings übernommen, wo der Aufbau von effizienten Systemlandschaften ebenfalls von großer Bedeutung ist. Edge AI bringt jedoch spezifische Kommunikationsmuster und Anforderungen hinsichtlich der Einrichtung von Knotenkohorten mit sich, die über generische Edge-Computing-Systemlandschaften hinausgehen.

Drittens müssen die Mobilfunknetze der nächsten Generation berücksichtigt werden, da die mobile Nutzung von Edge AI erfordert, dass der Netzwerkrand zum Konvergenzpunkt für die Datenverarbeitung wird. Network Functions Virtualization (NFV) muss mit grundlegenden Microservice-Prinzipien kombiniert werden, um sicherzustellen, dass einzelne Edge AI-Dienste bis hin zu kompletten Edge AI-Systemlandschaften sowohl leistungsstark als auch widerstandsfähig sind. Um Edge AI auf breiter Ebene für die mobile Nutzung zu realisieren, ist es notwendig, die Idee der (5G-)Edge-Server zu erweitern, da diese heute nur in begrenztem Umfang verfügbar sind. Es ist notwendig, die Möglichkeit zu schaffen, jede (mobile) Edge-Ressource zu virtualisieren. Dies erfordert Virtualisierungsmechanismen, die über die heute gängigen Microservice-Technologien hinausgehen, da diese für den Einsatz auf vielen Edge-Geräten zu schwergewichtig sind.

Viertens verlangen viele Nutzende von ML eine erklärbare KI: Nutzende wollen verstehen, wie die Ergebnisse zustande gekommen sind, anstatt auf den Black-Box-Ansatz zu vertrauen, den ML normalerweise verfolgt. Bei der Anwendung von FL wird beispielsweise eine weitere Abstraktionsebene bei der Erstellung eines globalen ML-Modells hinzugefügt, da lokale Modelle aggregiert werden müssen. Dies macht es noch komplexer, erklärbare KI zu gewährleisten, da gängige Ansätze wie die schichtweise Relevanzübertragung oder die kontrafaktische Methode erweitert werden müssen, um die lokalen und globalen Modelle und die Tatsache zu berücksichtigen, dass möglicherweise nur ein Teil der Rohdaten verfügbar ist. Erweiterte und neuartige Ansätze für erklärbare KI werden auch bei der Optimierung von ML-Systemen und Trainingsverfahren hilfreich sein.

Fünftens führt Edge AI zu neuen Forschungsfragen im Bereich der Sicherheit und Belastbarkeit. Der Datenschutz könnte durch die Lokalisierung von Daten verbessert werden. Allerdings treten auch neue Angriffsvektoren auf. So kann ein Angreifer beispielsweise die Qualität eines Modells durch Data Poisoning beeinträchtigen. Bei zentralisiertem ML kann Data Poisoning leichter erkannt werden, zum Beispiel wenn die Daten eindeutig nicht dem entsprechen, was realistischerweise erwartet werden kann. Bei Edge AI ist die lokale Datenmenge möglicherweise zu gering, um dies zu erkennen. Bei dezentralem ML tauchen neue Angriffsvektoren wie Model Poisoning auf, bei dem Clients falsche lokale Modelle an einen Aggregator liefern. Dies zeigt, dass neuartige Sicherheits- und Ausfallsicherheitsmechanismen erforderlich sind, die Angriffe frühzeitig erkennen können, sodass schädliche Folgen minimiert werden können.

Nicht zuletzt sollte Edge AI leicht anwendbar sein. Selbst Nutzende mit wenig ML-Kenntnissen sollten in der Lage sein, Datenquellen zu integrieren und Modelle zu trainieren und anzuwenden. Im Idealfall ist die Nutzungserfahrung ähnlich wie bei modernen ML-Anwendungen wie ChatGPT oder Stable Diffusion. Es werden neuartige Ansätze benötigt, die es ermöglichen, Edge AI-Systeme nach dem Plug-and-Play-Prinzip einzurichten und so die Planungs- und Optimierungsaufgaben für Systementwickelnde und -betreibende zu minimieren.

Zwar gibt es bereits erste Lösungen für Edge AI-Probleme, doch stehen sowohl die Forschung als auch die Übernahme durch die Industrie noch ganz am Anfang. Trotz der raschen Verbreitung von ML in Gesellschaft und Industrie werden noch mindestens fünf Jahre vergehen, bis Edge AI auf breiter Front eingesetzt werden kann. Sicherlich werden nicht alle Forschungsfragen in diesem Bereich bis 2028 oder 2029 beantwortet sein. Edge AI wird in den nächsten fünf Jahren dennoch einige große Sprünge machen.