Dank immer leistungsfähigerer Hardware können Edge Geräte heutzutage KI-Applikationen durchführen. Damit müssen Daten nicht mehr in die Cloud übertragen werden, was KI-Applikationen in Echtzeit ermöglicht. Außerdem reduziert es die Kosten reduziert und bietet Vorteile bei der Datensicherheit.
Schon heute ist Künstliche Intelligenz eine Technologie, die in vielen verschiedenen Anwendungen eingesetzt wird und neue Möglichkeiten der Wertschöpfung schafft. Mittels KI wird das Verhalten von Nutzern sozialer Netzwerke analysiert und so Werbung eingeblendet, die den Bedarf trifft. Auch die Gesichts- und Spracherkennung in Smartphones funktioniert nicht ohne Künstliche Intelligenz. In der Industrie helfen KI-Anwendungen die Wartung effektiver zu gestalten. Sie sagen einen Ausfall von Maschinen voraus, bevor er überhaupt erst eintritt. Noch im Jahr 2017 wurden laut einem Whitepaper der Investmentbank Bryan, Garnier & Co 99 Prozent der KI-bezogenen Halbleiterhardware in der Cloud zentralisiert.
Unterschied zwischen Training und Inferenz
Eine der wichtigsten Funktionen Künstlicher Intelligenz ist das Machine Learning. Mit dem IT-Systeme auf Basis vorhandener Datenbestände Algorithmen, Muster und Gesetzmäßigkeiten erkennen und Lösungen entwickeln können.
Dieses maschinelle Lernen ist ein zweistufiger Prozess. Zunächst wird in der Trainingsphase dem System „beigebracht“, Muster in einem großen Datensatz zu finden. Die Trainingsphase ist eine Langzeitaufgabe, die eine hohe Rechenleistung erfordert. Nach dieser Phase kann das Machine Learning-System das endgültige, trainierte Modell anwenden. Um dadurch neue Daten zu analysieren, zu kategorisieren und ein Ergebnis abzuleiten. Dieser Schritt, der als Inferenz bekannt ist, benötigt viel weniger Rechenleistung.
Cloud-Infrastruktur bewältigt KI-Anforderungen nicht alleine
Die meisten der Inferenz- und Trainingsschritte werden heute in der Cloud durchgeführt. Im Falle eines Sprachassistenten wird beispielsweise der Befehl des Benutzers an ein Rechenzentrum gesendet. Anschließend dort mit den entsprechenden Algorithmen analysiert und mit der entsprechenden Antwort an das Gerät zurückgesendet. Bislang war die Cloud der effizienteste Weg, um die Vorteile leistungsfähiger und aktueller Hard- und Software zu nutzen. Doch die steigende Zahl von KI-Anwendungen droht die heutige Cloud-Infrastruktur zu sprengen.
Wenn zum Beispiel jedes Android-Gerät der Welt jeden Tag drei Minuten Spracherkennung durchführen würde, müsste Google doppelt so viel Rechenleistung zur Verfügung stellen wie heute. „Die größte Computerinfrastruktur der Welt müsste also doppelt so groß sein“, so Jem Davies, Vize-Präsident, Fellow und Leiter der ARM-Gruppe für maschinelles Lernen. „Darüber hinaus bedeutet die Forderung nach nahtlosen Benutzererfahrungen, dass die Menschen die Latenzzeit, die mit der Durchführung von Machine Learning in der Cloud verbunden ist, nicht akzeptieren werden.“
Anzahl von KI-Edge Geräten wird explodieren
Daher werden Inferenzaufgaben zunehmend in die Edge verlagert. Die Daten können so direkt vor Ort verarbeitet werden, ohne dass sie erst übertragen werden müssen. „In geschäftskritischen Anwendungsfällen, wo Latenz und Genauigkeit im Vordergrund steht und ständige Konnektivität nicht garantiert ist, sind Anwendungen nicht durchführbar. Durch die KI-Inferenzverarbeitung in der Edge müssen Unternehmen zudem keine privaten oder sensiblen Daten mit Cloud-Anbietern teilen. Was zum Beispiel im Gesundheits- und Konsumsektor problematisch wäre“, erklärt Jack Vernon, Industrie Analyst bei ABI Research.
Laut den Marktforschern von Tractica steigen so die Auslieferungen von Edge Geräten mit integrierter KI von jährlich 161,4 Millionen in 2018 auf 2,6 Milliarden in 2025. Die größte Stückzahl erreichen dabei Smartphones, gefolgt von smarten Lautsprechern und Laptops.
Smartphone geht voran
Smartphones sind ein gutes Beispiel, um die Bandbreite möglicher Anwendungen für KI bei Edge Geräten zu zeigen. So erkennt die Kamera des Huawei P smart 2019 mit Hilfe der KI in Echtzeit 22 verschiedene Motive und 500 Szenarien. Dadurch lassen sich Aufnahmen optimieren, um das perfekte Foto zu schießen. Im Samsung Galaxy S10 5G passt KI dagegen auf der Grundlage des Nutzerverhaltens automatisch Akku, Prozessorleistung, Speichernutzung und Gerätetemperatur an.
Gartner nennt noch weitere mögliche Applikationen. Darunter zum Beispiel die Authentifizierung des Nutzers. Smartphones könnten in Zukunft das Verhalten eines Benutzers erfassen und erlernen. Wie zum Beispiel Muster beim Gehen oder beim Scrollen und Tippen auf dem Touchscreen. Und all das, ohne dass Passwörter oder aktive Authentifizierungen erforderlich sind.
Emotionssensorik und affektives Computing ermöglichen Smartphones, emotionale Zustände und Stimmungen der Menschen zu erkennen, analysieren, verarbeiten und darauf zu reagieren.
Automobilhersteller könnten beispielsweise die Frontkamera eines Smartphones verwenden, um die physische Verfassung eines Fahrers zu verstehen oder Ermüdungserscheinungen zu messen. Dadurch wird die Sicherheit des Fahrers erhöht. Sprachsteuerung oder Augmented Reality sind weitere mögliche Applikationen für KI in Smartphones.
CK Lu, Senior Director Analyst bei Gartner, ist sich sicher: „Zukünftige KI-Funktionen werden es Smartphones ermöglichen, Probleme für die Nutzer zu lernen, zu planen und zu lösen. Dabei geht es nicht nur darum, das Smartphone intelligenter zu machen, sondern auch darum, die Menschen durch die Reduzierung ihrer kognitiven Belastung zu stärken. Die KI-Fähigkeiten auf Smartphones befinden sich jedoch noch in einem sehr frühen Stadium.“