
あなたならどうやって世界最大の陽子衝突器からデータを収集し、そのデータを世界中の科学者に届けますか?
ジュネーブを拠点とする CERN のテクノロジーグループにとって、2008年に大型ハドロン衝突型加速器(LHC)を支えるネットワークを設計し、稼働させることは難題でした。
全長 27km の大型電子陽電子衝突型加速器と同じトンネルに構築された LHC は、陽子ビームを加速させ、年間 15ペタバイト(1,500万ギガバイト)ものデータを生成すると言われています。巨大な検出器は、何らかの事象が起こったときや、ビームが衝突したとき、グリッドコンピュータへそのデータを送ります。CERN から配信されるデータは、二次処理のために Tier-1 の計算機センターへ送信され、最終的に LHC の実験データは、約500の研究所や大学にいる約7,000名の科学者へ配信されます。
「ネットワークは、全体のインフラの中でも非常に重要なパートです。CERN のコンピューティング・センターや、共同研究している研究者達にデータを配信する仕組みを支えています。」CERN の通信、システム、ネットワークのグループリーダーであるデビット・フォスター氏は語ります。
LHC のコンピューティング・チームのメンバーは、LHC センター・ファーム内にある 6,000台のノードと、ヨーロッパ、北アメリカ、アジアにある Tier-1 計算機センターとの間に 100Gbps アグリゲーションを支えるネットワーク基盤を構築しています。さらに、チームは多岐にわたる LHC 実験をサポートできるネットワークを必要としていたため(1つの実験施設で1,000ポートの 1GbE など)、同チームは研究施設のキャンパス・バックボーンを 600Gbps コアにアップグレードすることを決断したのです。

世界最大規模の科学施設を支えるネットワークのデザインするということは、ネットワーク機器に対して非常に厳しい要求がなされることになります。フォスター氏によると、まず第一に 2.4Tbps アグリゲーション帯域幅の能力があるノンブロッキング・コアルータであること、さらに、高ポート密度、ハイパフォーマンス、ノンブロッキング性能であること、そして標準技術に準拠し、高いレベルの耐障害性についても要求がありました。
「我々にとって耐障害性は重要な要件です」と同氏は続けます。「我々は、それを2つの視点で必要としています。ひとつは製品自体の耐障害性、もうひとつは、システムとしての耐障害性です。」また、技術的な仕様要件に加えて、CERN のネットワークチームはネットワーク製品のライフサイクルを考え、設備・機器などの導入運用管理に必要なコスト(TCO)に関しても考慮しました。そして入札を行い、フォーステンを含む様々なベンダーが入札しました。
「我々の技術要件は、商用レベルの限界を想定しまいます。このため、常にその要求に応えることができる最先端の製品を探しています。」同氏は語ります。「我々は、最先端の技術を追求するベンダーを意識しています。フォーステンです。フォーステンこそ、10GbE 市場におけるリーディングカンパニーです。」
「フォーステンの TeraScale E シリーズスイッチ/ルータは、CERN ネットワークチームの期待をすべて満足しました。フォーステンは、10GbE LAN/WAN インターフェース、ノンブロッキング、高ポート密度、耐障害性、標準技術準拠、TCO 削減といった要件を満足しながら、キャリアクラスの製品をエンタープライズ向け製品の価格で提供します。」と同氏は語ります。

現在、ネットワークチームは、フォーステンの E1200 と E600 を展開しているところです。E1200 と E600 は、実験施設をサポートするために展開されています。また、シャーシ毎に 40ポートの 10GbE インターフェースを実装した8台の E1200 によって、コンピューティング・ファーム向けのコアを構成しています。また、2台の E1200 からなるアグリゲーション・レイヤーへの接続を提供しています。Tier-1 の共同研究センター向けには、2台の 10GbE WAN を実装した E600 を展開し、大西洋を横断するアメリカの研究所との接続を提供しています。これらの E600 は、その他の Tier-1 サイトの E1200 に順次接続されます。
E1200 は、1.68 Tbps のノンブロッキング・スイッチファブリック、1Bpps のフォワーディング能力、そして、最大 672ポートの 1GbE または、56ポートの 10GbE をノンブロッキングで実装できる14枚のラインカードスロットをサポートしています。E600 は、900Gbps のノンブロッキング・スイッチファブリック、500Mpps のフォワーディング能力、そして、最大 336ポートの 1GbE または、28ポートの 10GbE をノンブロッキングで実装できる 7枚のラインカードスロットをサポートしています。
キャリアクラスのスイッチング/ルーティング・デザインでの Eシリーズは、パフォーマンス、冗長性、可用性を高いレベルで実現しています。例えば、ラインカード、スイッチファブリック、バックプレーン、CPU、オペレーティングシステムは、ラインレートのテラビット環境を提供するために、高いレベルで最適化されています。
また、システム・アップタイムを最大化するために、Eシリーズは、スイッチング、ルーティング、マネジメントのプロセスを独立させる 3CPU アーキテクチャの特許を取得しました。このアーキテクチャにより、プロセスを完全に分離します。マルチプロセッサ・デザインは各コントロール・プレーンのプロセスを保護し、1つのコントロール・プレーンの故障が、他のコントロール・プレーンに対して影響を与えない設計になっています。 さらに、Eシリーズは、シャーシを構成するコンポーネントを完全に冗長しています。万一、故障が発生した場合、パケットロスなしでフォワーディングを継続する、ヒットレス・フェイルオーバーを実現します。
「CERN ネットワークチームは、Eシリーズのマネジメント・モジュールやスイッチファブリックを含む冗長機能を十分に活用しています。また、フォーステンは、我々が探し求めていた標準規格準拠の実装を設計思想としていたことも評価に値しました。」とフォスター氏は語ります。
フォーステンは、BGP、IS-IS、OSPF、RIP といったルーティング・プロトコル、RSTP などの冗長プロトコルにおいても非常に優れていましす。仮に1つのリンクがダウンしても、パケットロスなしで瞬時にアクティブリンクに切り替わります。さらに、VRRP の冗長性や、BGP、OSPF のグレースフル・リスタートをサポートすることで可用性を高めています。
CERN は、短期、長期の両面でフォーステンとのパートナーシップがもたらす利点を次のように評価しています。「我々は、現在のインフラの 20倍を超えるパフォーマンスを実現していると判断しています。」とフォスター氏は語ります。同氏は、新しいネットワークによってコストを削減できていることも評価しているのです。
CERN は、フォーステンの 10GbE WAN PHY インターフェイスの展開によって大西洋に展開された SONET ベースのネットワークから脱却することに成功しました。「つまり、我々は出張経費をそのまま貯金してるようなものです。」とフォスター氏は語ります。さらに、LHC 構築後には、オペレーションとサポートをシンプルにできると考えています。
「我々は、キャンパスネットワークからサーバファームまでの広いエリアにかけてフォーステン製品を使用できます。使用する製品を統一することによって、コスト削減を実現できるです。」とフォスター氏は語ります。
また、定量的な評価が困難なメリットのひとつに、フォーステンが提供するテクニカルサポートがあります。「今回のように大規模な製品展開をする場合、常にサポート体制が問題になります。もし、簡易的に機器を使用するのであれば問題ありませんが、我々は機器を限界まで使用します。幸いにも、我々は、導入時にフォーステンの優れたテクニカルサポートを得ることができたました。これには、非常に感謝しています。CERN には、非常に優秀なエンジニアを抱えていますが、彼らがフォーステンの優秀なエンジニアと密に連絡を取り合うことは、本当に幸せなことです。」とフォスター氏は語ります。
「我々がフォーステンと技術的な信頼関係を築くことによって、あらゆる問題を素早く解決できることはもちろん、研究者達に信頼の高いネットワークソリューションを提案してくれるという点で、非常に重要な意味を持っているのです。」同氏は、強調しています。