OCI Generative AI Service

Oracle tunt seine Cloud mit GenAI-Services

25.01.2024
Von 
Martin Bayer ist Chefredakteur von COMPUTERWOCHE, CIO und CSO. Spezialgebiet Business-Software: Business Intelligence, Big Data, CRM, ECM und ERP.
Funktionen für Generative AI sollen alle Layer von Oracles Cloud-Stack durchdringen. Der Managed Service basiert auf Partner-LLMs von Meta und Cohere.
Oracles Cloud-Strategie führt geradewegs in Richtung KI und Generative AI.
Oracles Cloud-Strategie führt geradewegs in Richtung KI und Generative AI.
Foto: Pincasso - shutterstock.com

Oracle integriert vorkonfigurierte GenAI-Services in seinen Cloud-Stack. Der Oracle Cloud Infrastructure (OCI) Generative AI Service sei ab sofort verfügbar, teilte der Anbieter mit. Die Oracle-Verantwortlichen sprechen von einem vollständig verwalteten Service, der Large Language Models (LLMs) von Cohere und Meta Llama 2 in die eigene Cloud integriert. Anwender könnten den GenAI Managed Service über API-Anfragen nutzen.

Unternehmen könnten damit eine Vielzahl von Anwendungsfällen bewältigen, verspricht der Anbieter. Als Beispiele nennt Oracle Workloads in Bereichen wie Texterstellung, Zusammenfassungen und semantischen Vergleichen. Die Modelle ließen sich darüber hinaus durch Retrieval-Augmented-Generation- (RAG-)Techniken mit eigenen Daten verfeinern.

Mehr Generative AI aus der Cloud: Oracle entdeckt den Kunden

Beispielsweise nutze der OCI Generative AI Agents Service, aktuell als Beta-Version verfügbar, einen RAG-Agenten, um die Fähigkeiten von LLMs mit einer auf OCI Open Search basierenden Unternehmenssuche zu verbinden, hieß es von Seiten Oracles. Dadurch könne der GenAI-Service kontextbezogene und mit Unternehmensdaten angereicherte Ergebnisse liefern. User seien in der Lage, über den Agenten verschiedene Unternehmensdatenquellen in natürlicher Sprache abzufragen.

Vorkonfigurierte KI-Agenten für Business Software

Die erste Beta-Version des RAG-Agenten arbeitet Oracle zufolge mit OCI Open Search. Zukünftige Versionen würden eine breitere Palette von Datensuch- und Aggregationswerkzeugen unterstützen und den Zugang auf Oracle Database 23c mit AI Vector Search und MySQL HeatWave mit Vector Store ermöglichen. Oracle will zudem vorgefertigte Agenten für seine SaaS-Anwendungen anbieten, darunter die Oracle Fusion Cloud Applications Suite, NetSuite sowie Branchenanwendungen wie Oracle Health.

OCI Generative AI unterstützt laut Oracle über 100 Sprachen und bietet ein verbessertes GPU-Cluster-Management sowie flexible Optionen, um die KI anzupassen. Der Service könne sowohl in der Oracle Cloud wie auch On-premises über OCI Dedicated Region genutzt werden.

Lesen Sie mehr über Oracles Cloud-Strategie:

Die Oracle-Verantwortlichen versprechen ihren Kunden, dass ihre Daten beim GenAI-Einsatze sicher seien und auch die entsprechende Governance gewährleistet sei. Meta und Cohere als LLM-Anbieter hätten keinen Zugriff auf Kundendaten. Außerdem würden Daten verschiedener Unternehmenskunden nicht miteinander vermischt, um die Modelle weiter zu trainieren.

KI-Suite statt Einzelteile

"Oracle konzentriert sich bei KI auf die Lösung realer Geschäftsfälle, um eine breite Akzeptanz im Unternehmen zu ermöglichen", sagt Greg Pavlik, Senior Vice President AI and Data Management für die Oracle Cloud Infrastructure. Dafür werde KI in alle Schichten des Technologie-Stacks eingebettet sowie GenAI-Funktionen in Anwendungen und Datenbanken integriert. "Anstatt ein Toolkit mit einzelnen Bestandteilen bereitzustellen, bieten wir eine leistungsstarke Suite vorgefertigter generativer KI-Services und -Funktionen an", so der Oracle-Manager.

Darüber hinaus plant Oracle, GenAI-Funktionen in seine Datenbankprodukte einzubauen, damit Kunden ihre eigenen KI-basierten Anwendungen entwickeln könnten. Mit Hilfe von Autonomous Database Select AI, das Unternehmensdaten mit GenAI verbindet, ließen sich Anwendungen und neue Geschäftslösungen schneller entwickeln, verspricht der Anbieter.

Um Unternehmen dabei zu unterstützen, LLMs mit Open-Source-Bibliotheken wie Hugging Face's Transformers oder PyTorch zu erstellen, zu schulen, bereitzustellen und zu verwalten, will Oracle außerdem die Fähigkeiten von OCI Data Science ausbauen. Die neue OCI-Data-Science-AI-Quick-Actions-Funktion, die im Februar 2024 in die Beta-Phase gehen soll, ermögliche dem Hersteller zufolge einen codefreien Zugriff auf eine Vielzahl von Open-Source-LLMs - darunter Anbieter wie Meta oder Mistral AI.

KI dort nutzbar machen, wo die Daten liegen

"Oracle integriert generative KI direkt in die Arbeitsumgebungen und Datenbestände der Kunden, anstatt zu verlangen, dass diese ihre Daten in eine spezielle Vektordatenbank auslagern", beschreibt Ritu Jyoti, Group Vice President bei IDC, den Oracle-Ansatz. Durch die Einbettung von GenAI in die gesamte Bandbreite des Oracle-Ökosystems mache der Anbieter KI-Technik dort nutzbar, wo sich schon jetzt enorme Mengen an Kundendaten befinden, sowohl in der Cloud als auch in lokalen Systemen. "Dies vereinfacht für Unternehmen deutlich den Einsatz generativer KI in ihren bestehenden Geschäftsprozessen", lautet das Fazit des Analysten.

Abgerechnet werden Oracles GenAI-Services nach Transaktionen in der Dedicated Cloud, beziehungsweise nach Nutzungsdauer je AI-Unit für diePublic Cloud. Die Preise richten sich nach der Größe des Modells. Oracle kommuniziert sein Pricing in verschiedenen Währungen vergleichsweise transparent im Web. Dort findet sich auch ein Kostenrechner, mit dessen Hilfe Anwenderunternehmen ihre Cloud-Ausgaben kalkulieren könnten.