メインコンテンツにスキップ
The Apache Software Foundation
Apache 20th Anniversary Logo

Apacheミラーシステムの歴史

ASFシステムのダウンロードミラーは、25年以上にわたり、有機的に、そして体系的に進化してきました。ボランティアによる多くの労働時間と、フリーでオープンソースのソフトウェアという概念を支持し、Apacheプロジェクトのソフトウェアを世界中に配布することを可能にした組織による寛大な貢献に依存していました。

2021年、ASFはコンテンツ配信ネットワーク(CDN)に移行し、ダウンロードミラーシステムを廃止しました。ここにその歴史をご紹介します。

ASFミラーシステムが対処した問題

ASFの前身であるApacheグループは、Apacheサーバーの実用的なバージョンを用意するとすぐに、それを広く共有したいと考えました。そのためには、関係者がソフトウェアの最新バージョンを取得できるダウンロードサイトが必要でした。

単一のダウンロードサイトは一度に少数のリクエストを処理できましたが、需要が急速に拡大するにつれて、ダウンロードリクエストの量が単一のサイトで処理できる量を超えました。さらに、リクエスト元の場所が遠ければ遠いほど、ダウンロードにかかる時間が長くなり、接続が途切れて最初からやり直さなければならない可能性が高くなりました。すぐに世界中からリクエストが来るようになったため、これは深刻な課題となりました。Apacheは、負荷を処理するためにダウンロードミラーを必要としていました。

ミラーシステムの成長

ダウンロードミラーサイトは、その名前が示すように、メインのダウンロードサイトのコピーです。ミラーは1日に数回、メインサイトをチェックして、提供物に追加する新しいアーティファクトまたは更新されたアーティファクトがあるかどうかを確認します。ミラーはメインサイトと最大24時間同期していないこともありましたが、ほとんどの場合、メインサイトが提供するすべてのものを提供できました。ミラーがメインサイトよりも物理的に近いリクエスト元は、ローカルミラーからソフトウェアをはるかに迅速にダウンロードできました。

ミラーには、大量のメモリ、インターネット上の可視性、帯域幅、メンテナンス、および電力が必要です。Apacheは、組織がミラーサイトをスポンサーすることでこれらのものを提供してくれることに依存していました。最初のミラーサイトは1995年4月に利用可能になりました。最初のミラープロバイダーの中には、「情報、ソフトウェア、およびその他の公開されているリソースのアーカイブを提供するインターネットサーバーのネットワーク」であるSunSiteがありました。

1997年4月、Brian Behlendorfは、Apacheミラーをホストしていた66人の受信者にメールを送信し、「mirror@」Apacheメーリングリストに招待しました。メールには、「ミラーサイトの品質にはばらつきがあるため、その品質を向上させる方法と、FTPよりも優れたミラーリングプロトコルに期待する方法について話し合うためのフォーラムを開始したいと思いました。」と記されていました。

同年6月、Brianはグループに次のように書きました。「1.2.0(Apacheサーバーの)リリースにより、私たちのサイトのトラフィックは前例のないほど増加しました。 www.apache.orgの帯域幅プロバイダーが不満を言い始めるほどです。これに対処するために、ミラーの有効性を高めるためのいくつかの対策を講じてきました。」変更点の中には、「「ダウンロード」リンクは、リクエスト元のエージェントの国コードに基づいて、ミラーのリストからドメインに最も適切なミラーを選択するCGIスクリプトに変更されました。」というものがあります。Brian、Joshua Slive、およびEric Abeleが主要なシステムメンテナーでした。

2000年に、システムはCGIからMySQLデータベースに移行しました。しかし、数週間以内に多くのものが動作しなくなりました。システムはすぐにCGIに戻されました。

2002年、ミラーリングシステムとApacheの他の多くの側面に大きく貢献することになるHenk P. Penningが初めてメーリングリストに登場しました。その年、ダウンロードミラーはダウンロード可能なすべてのアーティファクトを処理するために10ギガバイトのスペースを割り当てる必要がありました。当時、それは巨大に思えました!

2003年、Henkはミラーネットワークに関する統計の生成を開始し、ミラーホストがシステムの健全性とApacheへの接続を確認する方法を提供しました。その年の12月、バックアップ(フォールバック)サイトがシステムに参加しました。現在インフラストラクチャチームのメンバーであるHenkは、Apacheミラーの監視を公式化しました。

2004年から2015年まで、ミラーシステムは着実に成長し、Apacheプロジェクトのソフトウェアへのアクセスに対する世界的な需要に対応しました。

2007年、Gavin McDonald(gmcdonald)がインフラストラクチャチームに加わりました。彼の最初の焦点は、膨大な未処理チケットの山を処理することであり、その多くはミラープロバイダーが公式ミラーとして参加するためのリクエストでした.

当時、ミラーの管理は手動で行われており、各候補プロバイダーのミラーサイトにアクセスしてチェックを実行すること(最新の状態であるか、1日に少なくとも2回同期しているか、Apache Webサーバーを使用してミラーリングされたソフトウェアを提供しているかなど)が含まれていました。多くの既存の公式ミラーについては、Gavinは定期的なチェックを実行し、ミラーが古くなった場合にミラープロバイダーに義務を思い出させるメールを送信しました。数か月後、GavinはHenkに、古いミラーを検出し、プロバイダーに自動的にメールを送信するnag checkerツールを作成するように依頼しました。それは大きな時間の節約になりました!

Gavinは、他のボランティアが彼を解放するまで、さらに数年ミラーシステムの保守を続けました。最終的に、Infraチームがその役割を引き継ぎました。

Chart of the growth of the Apache mirror system

2015年8月、mod_luaベースのシステムの導入により、応答時間が大幅に改善されました。

2021年までに、ダウンロードミラーはダウンロード可能なすべてのApacheプロジェクトのために少なくとも180ギガバイトのスペースを割り当てる必要がありました.

ミラーシステムからの移行

ダウンロードミラーシステムが開始されたとき、ダウンロードをサポートするための帯域幅は非常に高価でした。ミラーサイトは、近くのユーザーにより高速なダウンロード時間を提供するだけでなく、帯域幅コストの共有にも役立ちました。長年にわたり、1,000を超える組織がASFダウンロードミラーサイトをホストし、中には長期にわたってホストしている組織もありました。この貢献は、ASFの使命、そしてオープンソースソフトウェアの世界全体にとって非常に重要でした.

テクノロジーは進歩し、帯域幅のコストは低下しました。ASFのダウンロード配信を、財団とそのプロジェクトが今日の世界で占めている地位により適した、専門的なサポートを備えたサービスに移行する時が来ました。ASFはオープンソーステクノロジー分野の主要なプレーヤーであり、私たちのダウンロードオプションはその地位をサポートし、反映する必要があります.

2021年第3四半期、新しいCDNに移行するのに適切な時期でした.

新しいCDNが提供するもの

新しいCDNは、業界の主要なプレーヤーの1つによって運営されているグローバルコンテンツ配信ネットワークです。以下を提供します.

プロジェクトとダウンローダーのエクスペリエンス

プロジェクトのワークフローに変更はありません.最終的には、ダウンロードミラーの選択に関するガイダンスをサイトから削除する必要があります.上記のように、誰がソフトウェアをダウンロード(そしておそらく使用)しているかについての洞察を得ることができます.

ユーザーは、より高速で信頼性の高いダウンロードを体験し、ミラーサイトがメインのASFダウンロードサイトに追いつくのを待つことなく、ダウンロード可能なソフトウェアバージョンが利用可能になり次第アクセスできます.

ミラープロバイダーの今後

Apacheダウンロードミラーサイトをホストしていて、独自の目的に役立つと考えている組織は、ミラーサイトのホストを続けることができます.他の組織は、ミラーサイトのサポートに使用していたリソースを、ASFとオープンソースソフトウェアコミュニティを別の方法で支援するために再展開する方法を検討することをお勧めします.

たとえば、Apache Software Foundationは常にCI容量の拡大を目指しています.コンピューティングリソース(仮想マシンまたはベアメタルサーバー)を寄贈したいプロバイダーは、 `builds@apache.org`のビルドチームに連絡して、CI環境の改善にどのように役立つかについて話し合うことができます.