LLMs für TK-Unternehmen

Telekom will KI-Joint-Venture gründen

26.02.2024
Von 
Jürgen Hill ist Chefreporter Future Technologies bei der COMPUTERWOCHE. Thematisch befasst sich der studierte Diplom-Journalist und Informatiker derzeit mit aktuellen IT-Trendthemen wie KI, Quantencomputing, Digital Twins, IoT, Digitalisierung etc. Zudem verfügt er über einen langjährigen Background im Bereich Communications mit all seinen Facetten (TK, Mobile, LAN, WAN). 
Eine KI, speziell auf die Bedürfnisse der Telcos zugeschnitten? Das soll ein Joint Venture der Deutschen Telekom mit Partnern realisieren.
Gemeinsam mit vier Partnern will die Telekom ein Joint Venture gründen, um ein branchenspezifisches LLM für den Kundenservice zu entwickeln.
Gemeinsam mit vier Partnern will die Telekom ein Joint Venture gründen, um ein branchenspezifisches LLM für den Kundenservice zu entwickeln.
Foto: Poca Wander Stock - shutterstock.com

Die Telekom und vier weitere Unternehmen planen, ein KI-Joint-Venture zu gründen. Der Start ist noch in diesem Jahr geplant. Mit an Bord sind neben der Telekom die e& Group, Singtel, SoftBank Corp. und SK Telecom (SKT). Das neue Unternehmen soll ein Large Language Model (LLM) entwickeln, das speziell auf die digitalen Assistenten im Kundenservice der Telcos zugeschnitten ist.

Branchenspezifisches LLM

Die fünf Partner halten diesen Schritt für erforderlich, da in ihren Augen allgemeine Sprachmodelle, die auf Generativer KI beruhen, nicht auf die Anforderungen im TK-Bereich passen. So könnten branchenspezifische LLMs besser die Absicht von Kundinnen und Kunden verstehen. Damit werde es für die Unternehmen einfacher, Generative KI-Modelle effizient und schnell einzusetzen.

So seien etwa Tarif- und Vertragsmodelle oder Informationen zu spezieller Hardware wie den eingesetzten Routern in den allgemeinen Trainingsdaten der großen Modelle eher selten zu finden. Genau diese Inhalte benötige ein Telco-Bot jedoch, um die spezifischen Anliegen der Kunden zu verstehen, zusammenzufassen und zu beantworten.

Gezieltes KI-Training

Mit gezieltem Training wollen die fünf Partner sicherstellen, dass das Modell des Joint Venture die Sprache und die Bedürfnisse der TK-Betreiber versteht. Das Modell wird dabei zunächst für die Sprachen Englisch, Deutsch, Koreanisch, Japanisch und Arabisch trainiert.

Darüber hinaus soll das neue Unternehmen zudem KI-Anwendungen bereitstellen, die auf die Bedürfnisse der Mitglieder der 2023 gegründeten Global Telco AI Alliance (GTAA) in ihren jeweiligen Märkten zugeschnitten sind.

Personalisierte Chatbots dank KI

Telekom und SK Telecom haben bereits mit dem Training eines entsprechenden LLMs begonnen. Dafür wurden Daten aus Chats des Kundenservice aufbereitet und für den datenschutzkonformen Gebrauch pseudonymisiert.

Claudia Nemat, Vorstand für Technologie und Innovation bei der Telekom, hofft, dass der hauseigene Chatbot "Frag Magenta" durch die Integration von großen branchenspezifischen Sprachmodellen menschenzentrierter wird. "KI personalisiert die Dialoge zwischen Kundinnen und Kunden und Chatbots", so die Technik-Chefin. Schon heute beantworte Generative KI in Deutschland monatlich mehr als 100.000 Kundenanfragen.