Generative AI

Finetuning ist teuer - aber oft lohnt es sich

18.10.2023 von Kurt Muehmel
Viele Unternehmen tun sich schwer damit, ihr KI-Investitionen zu steuern. Die Kosten für die Implementierung und den Betrieb der Modelle sind hoch. Der Aufwand will gut überlegt sein.
Mit eigenen Daten ein KI-Modell zu bauen, kann teuer werden. Vor allem Storage- und Rechenkapazitäten gehen ins Geld. Deshalb: Lieber genau nachdenken.
Foto: sutadimages - shutterstock.com

Je ausgefuchster die Algorithmen sind und je größer die Datenmengen, anhand derer sie trainiert werden, desto höher sind die Kosten für benötigte Rechen- und Speicherkapazitäten. Das Finetuning ist teuer und nicht immer erforderlich: In vielen Fällen reichen generische KI-Lösungen aus, die nicht mithilfe eigener Daten trainiert wurden. Eingebunden über eine API, lassen sich damit sogar einfache Kundenanfragen beantworten.

Wird die Aufgabe aber anspruchsvoller, ist kostspieliges Finetuning unabdingbar. Die KI soll schließlich die Produktivität der Fachabteilungen steigern und nicht selbst zum Ballast werden.
Finetuning bedeutet, dass die KI-Modelle anhand firmeneigener Datensätze trainiert, die Qualität der Ergebnisse in dieser Trainingsphase durch Fachexperten überprüft und die KI-Modelle ständig optimiert werden.

KI-Finetuning: Kosten im sechsstelligen Bereich

Die Kosten liegen oft im fünf- bis sechsstelligen Bereich. Zu 80 bis 90 Prozent resultieren sie aus den benötigten Rechen- und Speicherkapazitäten. Dagegen macht der Aufwand für die Trainingsphase nur einen Bruchteil der Gesamtkosten aus. Außerdem gilt: Je differenzierter das KI-Modell arbeitet und je mehr Daten es berücksichtigt, desto höher die Kosten.

Ob sich das Training anspruchsvoller KI-Modelle lohnt, steht und fällt mit der Frage, wie groß der zu erwartende Mehrwert ist. Der entsteht etwa, wenn gut ausgebildete Fachkräfte Zeit sparen können, das Unternehmen schneller attraktive Märkte adressieren kann oder ein direkter positiver Einfluss auf die Umsätze wirksam wird. Ein Vorteil ist es, wenn die benötigten Trainingsdaten bereits vorhanden sind und skaliert werden können, ohne dass neue Daten hinzugekauft werden müssen.

Vorhandene KI-Modell über API integrieren

Es gibt auch viele Fälle, in denen sich bereits existierende KI-Modelle über eine API integrieren lassen, ohne dass die Modelle zusätzlich trainiert werden müssen. Solche standardisierten Integrationen stoßen allerdings an ihre Grenzen, wenn für die Arbeit inhaltliches Know-how aufgebaut oder eingekauft werden muss.

Einige typische Fälle, in denen sich das Finetuning von KI-Modellen lohnt, sind

KI-Modelle anhand eigener Daten zu trainieren, lohnt sich nur manchmal

Dies sind nur einige Beispiele, die Liste ließe sich sicher fortsetzen. Andererseits wird es sich in vielen Fällen kaum lohnen, KI-Modelle spezifisch anzupassen und anhand von unternehmenseigenen Daten zu trainieren. Die laufenden Kosten, die auf diesem Wege eingespart werden könnten, sind nicht hoch genug, als dass sich der hohe Aufwand für fortlaufende Rechen- und Speicherkapazitäten rechtfertigen ließe.

Auch können viele einfache Aufgaben von KI-Modellen ohne spezifisches Training übernommen werden. Das gilt etwa für Übersetzungen, das Schreiben einfacher E-Mails, das Beantworten vieler Kundenanfragen, das Zusammenstellen einfacher Daten oder für Rechercheaufgaben.

Je nach Unternehmensgröße und Branche werden Unternehmen KI unterschiedlich priorisieren. Klar ist, dass künstliche Intelligenz eine disruptive Veränderung für die meisten Betriebe bedeutet. Organisationen, die aus Angst vor Fehlentscheidungen zu lange warten, werden Wettbewerbsnachteile erleiden. Entscheider sollten sich deshalb jetzt mit dem Thema beschäftigen und die Frage beantworten: Welchen Mehrwert bringt welche Lösung zu welchen Kosten? (hv)