Speichernetze geschickt unterteilen

SAN-Segmentierung verbessert Skalierbarkeit

30.07.2004

Viele vor allem größere Firmen betreiben seit Jahren Storage Area Networks SAN) auf Basis des Fibre-Channel-(FC-)Protokolls. Durch das anhaltend starke Datenwachstum wurden diese Speichernetze kontinuierlich ausgebaut und stoßen inzwischen an ihre Skalierungsgrenzen. Nicht wenige IT-Abteilungen kämpfen mit dem Problem, dass unterschiedliche SAN-Fabrics nur schwer miteinander kommunizieren können. Eine gemeinsame Nutzung der teuren SAN-Ressourcen ist meist nicht möglich.

Höchste Zeit also, dass die Hersteller von SAN-Switches flexiblere Lösungen entwickeln. Die neuen FC- und Multiprotokoll-Routing-Techniken erlauben es nun endlich, ein Speichernetz in mehrere voneinander unabhängige SANs aufzuteilen. Damit lassen sich auch die negativen Auswirkungen von Konfigurationsänderungen eingrenzen. Wird zum Beispiel ein neuer FC-Switch zum SAN hinzugefügt, findet ein so genannter Fabric Merge statt, um das Gerät zu integrieren. In größeren Speichernetzen entsteht dadurch bisher jedesmal eine hohe Netzwerkbelastung, weil alle angeschlossenen Devices mit RSCN-Meldungen über die neue Konfiguration informiert werden.

Auch die Techniken für die Verbindung von entfernten SAN-Standorten waren bislang meist so gestaltet, dass beide Seiten zu einem großen Speichernetz zusammengeschlossen wurden - mit allen damit verbundenen Problemen. Die neuen SAN-Routing-Funktionen ermöglichen jetzt eine klare Trennung der einzelnen Standorte. Mit der iFCP-Technik von McData ist dies schon länger möglich.

Die verschiedenen Techniken

Die SAN-Switch-Hersteller Brocade, Cisco und McData haben für die Segmentierung unterschiedliche technische Ansätze gewählt, die im Folgenden näher betrachtet werden. Lösungen für die Kopplung von entfernten Speichernetzen sind auch von anderen Anbietern erhältlich, zum Beispiel die Ultranet Edge Storage Router von CNT/Inrange.

Die Grundlage des SAN-Routings von McData bildet die ursprünglich von Nishan Systems entwickelte iFCP-Technologie. Nach der Übernahme durch McData firmieren die iFCP-Gateways inzwischen unter der Bezeichnung "Internetworking Switches". Sie unterstützen iFCP und iSCSI, wobei der Administrator die Multiprotokoll-Ports für eines der beiden Protokolle konfigurieren kann.

Das Gateway übersetzt an jedem Port die Source- und Destination-FC-Adressen des angeschlossenen SANs oder Gerätes in Source-Destination-IP-Adressen. Mit Hilfe der integrierten IP-Routing-Engine lassen sich SAN-zu-SAN-Verbindungen flexibel aufbauen, wobei traditionelles Layer-3-Routing zum Einsatz kommt. Der Systemverwalter kann dabei den Zugriff wahlweise auf komplette Speichernetze, bestimmte Geräte oder auch nur einzelne Festplatten freischalten. Die Speichernetze auf beiden Seiten der iFCP-Verbindung bleiben dabei vollkommen eigenständig, so dass sich Änderungen auf einer Seite nicht auf das andere Netz auswirken.

SAN-Routing auf IP-Ebene

Die Anbindung der SANs beziehungsweise FC-Geräte erfolgt über Standard-E-Ports. Dadurch lassen sich FC-Switches beliebiger Hersteller anschließen. Wegen der hohen Flexibilität eignet sich das SAN-Routing von McData nicht nur für die Verbindung von entfernten, sondern auch für die Kopplung mehrerer lokaler Speichernetze an einem Standort. Unternehmen können damit SAN-Inseln unterschiedlicher Hersteller verbinden und Ressourcen gemeinsam nutzen. Zudem ist ein Zugriff aus verschiedenen SANs heraus auf einen gemeinsamen Datenbereich möglich.

Einen Nachteil haben die Multiprotokoll-Appliances von McData: Sie müssen bislang innerhalb des angeschlossenen SAN die Rolle des "Principal Switch" übernehmen, der bei Änderungen in der Konfiguration eine zentrale Rolle spielt. Christian Dornacher, Sales Manager bei McData, stellt jedoch Abhilfe in Aussicht. Mit dem nächsten, noch für diesen Sommer erwarteten Firmware-Release sollen die Multiprotokoll-Geräte von McData die Principal-Switch-Rolle nicht mehr einnehmen müssen.

Als Einstiegslösung für Multiprotokoll-Routing hat McData den "Eclipse 1620" im Programm. Er verfügt über zwei Multiprotokoll-Ports für iFCP oder iSCSI und über zwei FC-Ports (1 Gbit/s). In größeren Umgebungen kommen die Switches "IPS 3300" oder "4300" zum Einsatz, die mit acht beziehungsweise 16 Ports ausgerüstet sind. Das kleinere Modell verfügt über zwei Multiprotokoll-Ports, das größere über vier. Die Nachfolgeversionen mit den schnelleren 1/2-Gbit/s-FC-Schnittstellen sollen in der zweiten Jahreshälfte auf den Markt kommen. FCIP ist laut Dornacher für McData kein Thema, da mit iFCP bereits ein leistungsfähigeres Protokoll vorhanden sei, das wie FCIP zur Standardisierung vorliege.

Für die "Intrepid"-Direktoren will McData im Frühjahr 2005 ein iFCP-Modul herausbringen. Eine entsprechende Lösung für die neuen "Sanera"-Direktoren soll im nächsten Jahr folgen. Das Sanera-System, das gegen Jahresende unter dem Namen "Intrepid N-Scale Director" vorgestellt werden soll, wird auf jedem der über 1000 Ports die Protokolle FC, Ficon, iFCP und iSCSI unterstützen. McData hat zudem Virtualisierungs-Blades für die beiden Direktoren sowie einen V-Switch auf Basis des "Sphereon 4500" in der Pipeline.

Brocade hat mit dem "Multiprotokoll-Router" eine Appliance auf den Markt gebracht, die nicht nur ein SAN-Routing ermöglicht, sondern darüber hinaus auch die Integration von Storage-Anwendungen direkt in das Speichernetz. Der durch die Übernahme von Rhapsody Networks zugekaufte und von Brocade weiterentwickelte Router ist auch unter dem Namen "Fabric Application Platform" bekannt. Er verfügt über 16 Ports, die sich unabhängig voneinander für 1/2 Gbit/s FC, FCIP oder iSCSI konfigurieren lassen.

Zu den von der Brocade-Appliance bereitgestellten SAN-Routing-Services zählen FC-to-FC-Routing, FCIP-Extension und iSCSI-Bridging. Mit dem FC-to-FC-Routing lassen sich Logical Private SANs (LSANs) aufbauen, zum Beispiel um ein Backup- oder Datenbank-SAN als eigenständiges logisches Speichernetz zu betreiben.

Der Hersteller hat das hierfür entwickelte "Fibre Channel Router Protocol" (FCRP) zur Standardisierung eingereicht. Es ist laut Joachim Meurer, Brocade System Engineer, konform zum FC-Standard. FCRP setzt das Routing über Phantomadressen im Router um. Sobald zwischen zwei FC-Switches eine ISL-Verbindung hergestellt wird, erzeugt der Router spezielle Front-Domain-Adressen auf E-Port-Ebene. Diese werden für das Routing per FSPF genutzt. Die Phantom-Adressen erzeugt der Router, sobald die Mitglieder eines LSAN zusammengemappt werden. Die gesamte Domain erhält dabei eine Xlate-ID (Xlate steht für Translate Domain), die für das Routing zwischen Domains genutzt wird.

Keine Probleme mit Logical Private SANs

Der Multiprotokoll-Router benötigt für den Aufbau eines LSAN lediglich die Port-WWNs für die Source- und Target-Devices. Bei LSANs handelt es sich um eine Erweiterung des Soft-Zonings mit WWNs, die für Zoning-erfahrene Administratoren nach Einschätzung von Meurer schnell zu erlernen sein dürfte.

Durch die Kombination des FC-to-FC-Routing mit der LSAN-Technik ist es relativ einfach möglich, in größeren Speicherumgebungen mehrere kleine SANs aufzubauen. Damit lassen sich Risiken verringern und gleichzeitig die Ressourcen von verschiedenen Speichernetzen gemeinsam nutzen. Ab der zweiten Jahreshälfte soll es nach Angaben von Meurer auch möglich sein, McData-SANs mit Brocade-LSANs zu verbinden. Eine Zertifizierung für CNT/Inrange sei ebenfalls geplant, die für Cisco dagegen noch offen.

Für die Weitverkehrsanbindung eröffnet das Routing ebenfalls neue Möglichkeiten. Eine saubere Trennung der SANs auf beiden Seiten erreicht Brocade nun, indem FCIP gemeinsam mit FC-to-FC-Routing zum Einsatz kommt. Dabei lassen sich mit Hilfe der LSAN-Technik Ressourcen teilen - sogar über WAN-Verbindungen hinweg. Wird eine Backbone-Fabric aus mehreren Routern aufgebaut, können diese ihre Adresstabellen über den Backbone austauschen, wenn sie über einen speziellen Port verbunden sind.

Brocade entwickelt auch eine Blade-Variante des Multiprotocol-Routers, die in den "Silkworm-24000"-Direktoren einsetzbar sein wird. Sie soll ebenfalls 16 Ports haben und mit derselben Prozessorleistung bestückt sein wie die Appliance. Jeder Port ist mit drei Risc-CPUs und zwei Asics ausgerüstet, um Storage-Funktionen zu verarbeiten. Die Speicheranwender können dabei über die von Brocade zur Standardisierung eingereichte "Xpath"-Architektur jeden Port individuell programmieren. Ein Port kann wahlweise als FCIP- oder iSCSI-Port und auch als Standard-FC-Port (1/2 Gbit/s) arbeiten.

Bislang sind noch keine Anwendungen für den Multiprotokoll-Router erhältlich. Brocade will zusammen mit Softwarepartnern noch in diesem Jahr die ersten Lösungen auf den Markt bringen.

Vor knapp zwei Jahren startete Cisco Systems mit der "MDS-9000"-Familie als Newcomer im Speichermarkt. Die Multilayer Director Switches unterstützten von Beginn an so genannte Virtual SANs (VSAN). Cisco hat diese Technik weiter entwickelt und bietet inzwischen mit dem Inter-VSAN-Routing eine Möglichkeit, VSANs auch über WAN-Strecken hinweg flexibel miteinander zu verbinden.

Die MDS-9000-Systeme sprechen neben FC und Ficon auch die Protokolle FCIP und iSCSI. Alle Modelle sind modular aufgebaut, und die Port-Karten lassen sich in jedem Produkt einsetzen. Für FC bietet Cisco ein 16- und ein 32-Port-Blade an. Das IP-Modul ist bislang mit vier oder acht Ports erhältlich, von denen sich jeder individuell für iSCSI oder FCIP konfigurieren lässt. In Kürze wird Cisco laut Jan Nordh, Business Manager Storage Networking, zudem eine Hybridkarte mit 14 FC-Ports und zwei FCIP/iSCSI-Ports auf den Markt bringen.

VSAN mit Routing-Support

Die VSAN-Technik von Cisco unterteilt eine physische SAN-Fabric in mehrere voneinander unabhängige virtuelle Speichernetze. Diese VSANs lassen sich nicht nur auf einem einzelnen Director-Switch einrichten, sondern auch über mehrere Geräte hinweg verteilen. Dies ist möglich, weil die mit VSAN-Tags versehenen FC-Frames über ISL-Verbindungen hinweg übertragen werden können. Jedes VSAN verfügt über eigene Fabric Services und agiert unabhängig von der restlichen SAN-Umgebung. Zu den bereitgestellten Diensten zählen Name Server, Zone Server, Domain Controller, Alias Server und Login Server. Pro SAN-Fabric sollen laut Cisco bis zu 1000 VSANs möglich sein. Auch das FSPF-Routing lässt sich pro VSAN konfigurieren, ebenso die Sicherheits-Policies. Die MDS-Switches sind mit leistungsfähigen Prozessoren ausgerüstet, um genügend Rechenleistung für die verschiedenen Funktionen parat zu haben.

Manager Nordh weist darauf hin, dass alle Cisco-Kunden die VSAN-Funktionen nutzen können, da sie bereits in der Basissoftware der Direktoren enthalten sind. Gleiches gilt für iSCSI und für die grundlegenden Management-Funktionen. Extra Lizenzen sind erforderlich für FCIP, Ficon, den Fabric Management Server und Enterprise-Funktionen wie Inter-VSAN-Routing und Quality of Service.

VSANs ergänzen das klassische Zoning. Sobald ein VSAN eingerichtet und die gewünschten Ports ausgewählt wurden, kann der Systemverwalter wie bisher auch die Zonen konfigurieren. Dabei lassen sich SAN-Ports im laufenden Betrieb sowohl zu VSANs als auch zu einzelnen Zonen hinzufügen oder entfernen. Ein großer Vorteil von VSANs besteht darin, dass sich Zoning-Änderungen nicht mehr wie bisher auf das gesamte Netz auswirken, sondern nur noch auf das jeweilige VSAN. Denn jedes VSAN führt seinen eigenen Zoning-Service aus.

Die VSANs bildet Cisco mit Hilfe des von VLANs bekannten Frame-Taggings: Jeder hereinkommende Frame erhält beim Eintritt über einen VSAN-Port einen Tag, der die VSAN-Zugehörigkeit kennzeichnet. Verlässt ein Frame ein VSAN wieder, entfernt der Switch den Tag. Dadurch lassen sich auch FC-Switches von anderen Herstellern in VSANs einbinden.

Cisco hat die VSAN-Technik inzwischen um das so genannte Inter-VSAN-Routing erweitert. Damit lassen sich VSANs über unterschiedliche WAN-Verbindungen wie FCIP, iSCSI, DWDM oder CWDM transportieren. Dabei ist es möglich, den Datenverkehr von verschiedenen VSANs über denselben WAN-Link zu multiplexen. Eine Besonderheit des FCIP/iSCSI-Moduls ist die Integration des "Virtual Router Redundancy Protocol" (VRRP): Beim Ausfall eines Routing-Ports findet automatisch ein Failover zu einem anderen Port statt. (kk)

*Christoph Lange ist als freiberuflicher Journalist und IT-Consultant in München tätig. Seine Spezialgebiete sind Speicher- und Netztechnologien (clange@ltec-consult.de).

McDatas SAN-Routing

+ Ermöglicht IP-Routing auf Layer 3.

+ Anschluss über Standard-E-Port.

+ Sehr flexible Lösung, die für SAN-Routing und zur Koppelung von SANs geeignet ist.

- Nachteil ist die Rolle als "Principal Switch".

Brocades LSAN

+ Offenes und einfach zu verwaltendes Konzept.

+ Integriert Storage-Anwendungen direkt ins Speichernetz.

+ Einfache Unterteilung großer SANs.

- Wegen leistungsstarker Hardware eine teure Lösung.

Ciscos VSAN

+ Zusatzfunktionen auf Steckkarten, keine Appliance notwendig.

+ Verbindung von VSANs auch über WAN-Strecken hinweg möglich.

+ VSAN-Funktionalität bereits in Basissoftware enthalten.

- Proprietäres Frame-Tagging.

Fazit: Sorgfältige Evaluierung notwendig

Welche Lösung für ein Unternehmen am besten geeignet ist, hängt in erster Linie von den Anforderungen der jeweiligen Speicherumgebung ab. Die Cisco-Produkte haben den Vorteil, dass keine extra Appliance nötig ist, sondern alle Funktionen über Steckkarten in den SAN-Switches bereitgestellt werden. In diesem Punkt dürften jedoch Brocade und McData mit ihren Direktoren-Blades in einigen Monaten gleichgezogen haben.

Was die Offenheit der Technologien angeht, verwendet die VSAN-Lösung von Cisco zwar ein proprietäres Frame-Tagging. Dieses bleibt aber auf die VSAN-Switches beschränkt und ist für die daran angeschlossenen Geräte transparent. Das LSAN-Konzept von Brocade ist eine Erweiterung des Zoning-Standards und dadurch sowohl offen als auch einfach zu verwalten. Der hierfür nötige Multiprotokoll-Router ist allerdings mit sehr leistungsfähiger Hardware ausgerüstet und dürfte entsprechend teuer sein.

Die Internetworking Switches von McData ermöglichen durch die Umsetzung der FC-Adressen auf IP-Adressen ein klassisches IP-Routing auf Layer 3. Dies ist eine zuverlässige und skalierbare Technik, die seit vielen Jahren erprobt ist. Da die Speichernetze über den Standard-E-Port angeschlossen werden, ist auch diese Lösung transparent für die SAN-Geräte. Mit dem Intrepid Nscale Director, der durch die Übernahme von Sanera hinzugekommen ist, wird McData zudem in einigen Monaten einen sehr leistungsfähigen Multiprotokoll-SAN-Switch anbieten können, der auch eine Hardwarepartitionierung in mehrere voneinander unabhängige SANs erlaubt.

Glossar

Asic - Application Specific Integrated Circuit: hoch spezialisierter Chip, der für eine ganz bestimmte Aufgabe wie zum Beispiel die Protokollkonvertierung entwickelt wurde.

CWDM - Coarse Wave Division Multiplexing: optisches Übertragungsverfahren für Weitverkehrsstrecken mit Reichweiten im Metro-Netze-Bereich.

Director: Hochverfügbarer Storage-Core-Switch.

DWDM - Dense Wave Division Multiplexing: optisches Übertragungsverfahren für Weitverkehrsstrecken mit sehr hohen Reichweiten.

E-Port: Standard-Port-Typ für die Verbindung von zwei FC-Switches.

Fabric Merge: das Verschmelzen von zwei unterschiedlichen SAN-Fabrics zu einem SAN.

FCIP - Fibre Channel over IP: Protokoll für das Tunneling von FC-Daten über IP-Verbindungen hinweg.

FCRP - Fibre Channel Router Protocol: von Brocade entwickeltes und zur Standardisierung eingereichtes Protokoll für das Routing zwischen verschiedenen LSANs.

Ficon - Fiber Channel Connectivity: Protokoll für die SAN-Anbindung von Mainframes per FC.

FSPF - Fabric Shortest Path First: Routing-Protokoll für Fibre-Channel-Netze, das anhand von Kosteninformationen die kürzesten beziehungsweise günstigsten Wege wählt.

iFCP - Internet Fibre Channel Protocol: von McData (beziehungsweise ursprünglich Nishan Systems) entwickeltes und zur Standardisierung eingereichtes Gateway-Protokoll, das FC-Daten über IP-Verbindungen transportiert.

iSCSI - Internet SCSI: Protokoll für den Transport von SCSI-Daten über IP-Verbindungen.

ISL - Inter Switch Link: FC-Verbindung zwischen zwei Switches.

ISL-Trunking: schaltet mehrere ISLs zu einer größeren Verbindung, dem Trunk, zusammen.

LSAN - Logical Private SAN: von Brocade entwickelte Technik für die Segmentierung von SANs, die das Standard-Zoning erweitert

RSCN - Registered State Change Notification: Mechanismus von FC-Switches, der alle im SAN vorhandenen Geräte über Konfigurationsänderungen informiert, zum Beispiel wenn ein neuer FC-Switch oder Host hinzugefügt wurde.

VRRP - Virtual Router Redundancy Protocol: ermöglicht redundante Router-Konfigurationen, in denen beim Ausfall des Master-Routers automatisch ein Ersatzsystem dessen Funktionen übernimmt.

VSAN - Virtual SAN: von Cisco entwickelte Technik für die Segmentierung von SANs.