Foto: talitha_it | shutterstock.com
Wenn Ihre Generative-AI-Systeme regelmäßig durch mangelnde Performance auffallen: Damit sind Sie nicht allein. Denn der Leistungsaspekt fällt bei all dem Hype um den Einsatz generativer künstlicher Intelligenz leider viel zu oft unter den Tisch. Die vier häufigsten Probleme im Bereich GenAI-Performance stehen in Zusammenhang mit:
Komplexen Deployment-Landschaften: GenAI-Systeme bestehen oft aus diversen, unterschiedlichen Komponenten. Deren Architektur so zu gestalten, dass sie synergetisch zusammenarbeiten, resultiert des Öfteren in einer Überkomplexität. Die kann wiederum dazu führen, dass sich Performance-Probleme, die vermeintlich von leistungsschwachen Komponenten verursacht werden, isoliert betrachtet völlig anders darstellen. Schlecht funktionierende Netzwerke und überlastete Datenbanken hängen zum Beispiel nicht direkt mit GenAI zusammen, können aber dennoch für mangelhafte Performance ursächlich sein.
KI-Modell-Tuning: Performance ist nicht nur eine Sache der Infrastruktur - auch KI-Modelle sollten feinabgestimmt und optimiert werden. Dafür ist allerdings technisches Knowhow gefragt, über das nur wenige verfügen. Entsprechend viel kann dabei schieflaufen - mit unabsehbaren Folgen für die Anwender.
Security und Datenschutz: Es versteht sich von selbst, dass KI-Modelle und ihre Daten vor unbefugtem Zugriff geschützt werden müssen - insbesondere in Multitenacy-Cloud-Umgebungen. In vielen Fällen führen Sicherheitsmechanismen, beispielsweise Verschlüsselung, zu Leistungsproblemen. Wenn die nicht behoben werden, verschlimmern sie sich mit wachsendem Datenvolumen weiter.
Compliance: Data-Governance- und Compliance-Standards einzuhalten, kann es noch komplexer machen, die Performance von GenAI-Systemen zu managen.
5 Best Practices für performante generative KI
Um diesen Herausforderungen zu begegnen, haben wir fünf ganzheitliche Best Practices für Sie zusammengestellt. Diese können Ihnen eine erste Orientierung darüber verschaffen, welche Punkte sie mit Ihrem Anbieter für Ihren spezifischen Anwendungsfall diskutieren sollten.
Automatisieren Sie. Implementieren Sie die von den Cloud-Anbietern zur Verfügung gestellten Scaling- und Resource-Optimization-Tools. Das beinhaltet auch MLOps-Techniken und Ansätze für den Betrieb von KI-Modellen.
Nutzen Sie Serverless. So müssen Sie die Ressourcen, die Ihr generatives KI-System benötigt, nicht mehr manuell zuweisen.
Testen Sie regelmäßig. Load Testing und Performance-Bewertungen gewährleisten, dass Ihre generativen KI-Systeme auch mit Spitzenlast umgehen können.
Forcieren Sie Continuous Learning. Der Ansatz des kontinuierlichen Lernens stellt in Zusammenhang mit KI-Modellen sicher, dass regelmäßige Aktualisierungen mit neuen Daten stattfinden, um die Performance und Relevanz des Systems zu erhalten.
Nutzen Sie Support-Angebote. Vergessen Sie neben den Unterstützungsangeboten Ihres Anbieters nicht, auch Online-Communities zu frequentieren. Hier bekommen Sie unter Umständen Antworten, mit denen ein Consultant trotz exorbitanten Stundenlohns nicht dienen kann.
Je früher Sie die Performance Ihrer Generative-AI-Systeme in den Fokus rücken, desto besser. Denn mit zunehmender Reife der Technologie dürfte auch die KI-Leistung deutlich mehr Bedeutung beigemessen werden. Angesichts der Ressourcen, die aktuell in diesen Bereich fließen, ist das auch eine gute Sache. (fm)
- Andreas Schneider, IBM
„KI ist nur so gut wie die Daten, die sie füttert. Unternehmen benötigen daher eine AI- und Data-Plattform, um Modelle möglichst kontextspezifisch und kollaborativ zu trainieren, zu validieren und zu deployen. Gleichzeitig darf dabei nicht aus den Augen verloren werden, alle Beteiligten auch abzuholen. Dass Veränderungen, beispielsweise durch die Automation von Geschäftsprozessen, nicht immer auf Begeisterung stoßen, ist völlig menschlich. Soziale Aspekte und Ängste muss man deshalb genauso berücksichtigen wie Technologie und eine umfangreiche Governance von KI-Modellen.“ - Daniel Hummel, KI Reply
„Es reicht nicht aus, lediglich theoretisch über KI-Lösungen zu diskutieren und sie zu skizzieren. Stattdessen sollten wir diese Lösungen mithilfe von Mockups simulieren, um ihren Nutzen und ihre Machbarkeit besser zu verdeutlichen. Dank der neuesten Fortschritte in der KI können wir sie schnell in Proof-of-Concepts (PoCs) umwandeln. Dies eröffnet uns die Möglichkeit, sofort auf Veränderungen zu reagieren und den nächsten Schritt in Richtung Realisierung zu gehen. Für mich ist es von zentraler Bedeutung, die uns zur Verfügung stehenden Modelle bestmöglich zu nutzen. Damit können wir in Deutschland eigenständige Innovationen vorantreiben, anstatt die Lösungen anderer zu adaptieren.“ - Michael Koch, Lufthansa Industry Solutions
„Die Nutzung von KI bringt bereits heute viele Vorteile, wir müssen den Umgang damit aber noch erlernen. Die Vision: Wir sollten KI wie ein Flugzeug verwenden. Denn auf dem Weg in den Urlaub vertrauen wir der Technik und machen uns keine Gedanken darüber, wie zum Beispiel ein Triebwerk funktioniert. Der Weg ist sicherlich noch weit, aber mit den derzeit verfügbaren Sprachmodellen und KIs können wir schon heute einfach und verlässlich gewinnbringende Lösungen entwickeln, die aktuelle Sicherheits- und Datenschutzvorgaben berücksichtigen. Eine gute Lösung sollte verwendet werden, egal welche KI im Einsatz ist. Voraussetzung dafür ist, dass sie alle ethischen und gesetzlichen Rahmenbedingungen im Sinne einer Trustworthy AI und des EU-AI-Acts einhält." - Christian Eckstein, MVTec Software
„Der Anteil von KI in Bildverarbeitungssystemen ist niedriger, als man vielleicht vermuten würde. Und das hat einen einfachen Grund: Die Modelle, die unsere Kunden selbst trainieren, müssen lokal ausgeführt werden. Die Idee, dass der Anlagenbetrieb von einer Internetverbindung oder einer Cloud abhängt, ist sehr absurd in der Industrie. Auch, dass Bilddaten von Fehlerteilen zum Beispiel nach aussen geschickt werden, ist für die meisten undenkbar. Weil die Modelle lokal ausgeführt werden, braucht es eine entsprechende Hardware. Eine GPU, die in der Fertigung gekühlt werden muss – auch das ist schwierig. Und schließlich ist KI für die meisten Anwendungen der Bildverarbeitung zu langsam. Die Inspektion von Folie zum Beispiel, die mit zig Metern pro Sekunde durch die Anlage läuft – da käme kein Modell hinterher.“ - Björn Ständer, Oracle
„Ein breites Einsatzgebiet für KI gibt es heute schon im Bereich Gesundheitswesen. Die Kombination aus supervised and unsupervised Leaning erschliesst neue Möglichkeiten im Bereich Diagnose und Behandlung. Dabei werden z.B. Messdaten von Smart Devices mit Modellen von Digital Twins kombiniert, um Erkenntnisse für eine Früherkennung oder neue Behandlungsmethoden zu gewinnen. Der Einsatz anonymisierter Bilderkennung unterstützt das Krankenhauspersonal beim Monitoring von Patienten und alarmiert Pflegekräfte über kritische Situationen – durch eine intelligente Automatisierung mit KI kann das Personal von Routinetätigkeiten entlastet werden – in Zeiten von Fachkräftemangel und steigendem Kostendruck dient der Einsatz von KI dem Wohl Patienten als auch der Kostenoptimierung des Providers.“ - Alexander Siebert, Retresco
„Mit ChatGPT haben wir zum ersten Mal eine White Collar Revolution. Vorher waren es die Kuka-Roboter, welche die Blue Collar Worker in den Fabriken bedroht haben. Nun sind plötzlich die Kreativprozesse betroffen, was Unternehmen vor große Herausforderungen stellt. Sowohl intern, weil die Marketing-Abteilungen um ihre Jobs fürchten, andererseits aber damit arbeiten müssen, um effizient zu bleiben. Aber auch von außen, weil plötzlich eine ganz andere Wettbewerbssituation gegeben ist. Mit KI-Sprachmodellen können kleine 1-Personen-Betriebe viel leichter Geschäftsmodelle aufbauen, welche sehr schnell herkömmliche Angebote bedrohen können.“ - Johannes Bohnet, Seerene
„Selbst vergleichsweise einfache Softwareprojekte entziehen sich durch ihre im wahrsten Sinne des Wortes übermenschliche Komplexität einem holistischen menschlichen Verständnis und damit der strategischen Steuerung durch menschliche Akteure. Seerene nutzt KI einerseits, um aus den Daten, die in den Software-Entwicklungsabteilungen bereits vorhanden sind, die Sichtbarkeit von Software-Produktionsprozessen bis hin zur Managementebene zu erreichen. Zum anderen setzen wir AI direkt in der Software-Entwicklung ein, um Vorhersagen treffen zu können, wo aus den Tätigkeiten heraus eine zukünftige Gefahr besteht, dass dort Fehlerquellen in den Code gelangen könnten.“
Dieser Beitrag basiert auf einem Artikel unserer US-Schwesterpublikation Infoworld.