【TECH BLOG】ZOZOMATのマルチテナントEKSクラスタへの移行

はじめに

こんにちは。計測プラットフォーム開発本部SREブロックの西郷です。普段はZOZOSUITやZOZOMAT、ZOZOGLASSなどの計測技術に関わるシステムの開発、運用に携わっています。先日私達のチームでは、シングルクラスタ・マルチテナントを前提として構築したEKSクラスタにZOZOMATシステムを移行しました。本記事では移行ステップや作業時に工夫した点について紹介したいと思います。

移行の概要とそのアプローチ

マルチテナントのEKSクラスタに移行した理由は、EKSクラスタが多く存在することで管理コストの高さが目立ってきたためです。

というのも、EKS導入当初はまだ手探りな部分が多かったため、各サービスごとにEKSクラスタを作成していました。しかしながら当初の想定以上にサービスが増えてしまったため、今回単一のクラスタで複数のサービスを運用するマルチテナントのEKSクラスタへ移行するに至りました。

この辺については先だって公開したこちらの記事で詳しく書かれているので、是非併せてご覧ください。

EKSのマルチテナント化を踏まえたZOZOGLASSのシステム設計 - ZOZO TECH BLOG

こんにちは。計測プラットフォーム本部バックエンド部SREチームの市橋です。 ...

https://techblog.zozo.com/entry/zozoglass-eks-multi-tenancy

まずは今回の前提と要件を整理します。

前提

AWSリソースはCloudFormation（以降CFnと記載します）で管理している

要件

無停止で切り替えること
ロールバックが容易であること
コンピューティングタイプをEC2からFargateに変える

コンピューティングタイプを変える点について少し補足すると、マルチテナント化に伴うマシンリソースの競合および権限の分離や、運用負荷の軽減を目的としたEC2からの脱却が背景にあります。

移行方針

以上を踏まえ、EKSクラスタ間の切り替えについてはマルチテナントのEKSクラスタにZOZOMATリソースを追加した上で、Route 53に設定済みのALBの値を変更しました。図で示すと以下のようになります。

また、ZOZOMATで利用しているAWSリソースについても一部を除いて新しいCFnスタックに新規作成し、管理するCFnスタックを切り替えることにしました。理由は日々の運用作業と干渉せず移行作業をしやすかったことや、リソースの命名則を変更したかったためです。各AWSリソースのスタック間での移行方針はリソースごとに異なるため、わかりやすくまとめると以下のようになります。

EKSクラスタ既存のマルチテナントのEKSクラスタを利用
FargateProfile IAMRole等新規作成
CodePipeline CodeDeploy CodeBuild 新規作成
ECR 新規作成作業時点でCFnのResource Importが未対応だったため。1世代分のイメージのみ移行
Redis 新規作成
DynamoDB Resource Import
RDS Snapshotを元に新規作成＆データ同期
S3 新規作成＆データ同期

そもそものZOZOMATの構成については以前の記事に詳しく書かれているので、興味がある方は是非そちらをご覧ください。

ZOZOMATにおけるEKSやgRPCを用いたシステム構成と課題解決 - ZOZO TECH BLOG

ZOZOテクノロジーズSRE部の市橋です。普段は主にAWSを用いて複数プロダクトのシステム構築、運用に携わっています。今回は2020年2月にリリースされたZOZOMATについて、システム構成と開発時に直面した課題、その課題を解決するために工夫した点について紹介します。 ...

https://techblog.zozo.com/entry/zozomat-system-architecture

まとめると、今回の移行のポイントは以下のようになります。