AWS
PR

EKS のノードロールは全 Pod に効く|IRSA へ移行した手順と Pod Identity を見送った理由

saratogax
記事内に商品プロモーションを含む場合があります

EKS で Pod に AWS の権限を渡すとき、ノードの IAM ロールにまとめて付けたままになっていませんか?

ノードロールの権限はそのノードのすべての Pod から使えるので、S3 に書き込むアプリが 1 つだけでも、隣の Pod から同じバケットを書き換えられます。

私の現場では、AI を使った脆弱性診断でリスクを洗い出す中でこの状態が見つかり、計画を立てて IRSA への移行を進めています。

この記事でまとめるのは、次の 3 つです。

  • Pod Identity ではなく IRSA を選んだ理由
  • ServiceAccount と IAM ロールの分け方
  • サービスを動かしたまま切り替え、最後にノードの権限を落とす手順

なぜノードロールの権限がすべての Pod に効くのか

AWS SDK は、コードで認証情報を指定しないと、決まった順番で認証情報を探しにいきます。

主なものを並べると、次の順番です。

  1. 環境変数に入れたアクセスキー
  2. IRSA や Pod Identity の認証情報
  3. ノードのインスタンスメタデータ(IMDS)が返す、ノードのロール

IRSA を設定していない Pod は、最後の IMDS にたどり着きます。

そこで受け取るのは、ノードに割り当てた IAM ロールの一時的な認証情報です。

つまりノードロールに付けた権限が、そのまま Pod の権限になります。

たとえばノードロールに次の権限が付いていると、どの Pod からでも同じ操作ができます。

  • S3 の権限 → バケットのファイルを読む・書き換える・消す
  • SQS の権限 → キューにメッセージを送る・取り出して消す
  • Secrets Manager の権限 → 保存したパスワードや API キーを読み出す

ノードロールにアプリ用のポリシーが付いているなら、そのクラスタも同じ状態です。

環境変数にアクセスキーを入れている Pod は、IRSA を設定してもアクセスキーが使われ続けます。

移行の前に、アプリの設定やシークレットにアクセスキーが残っていないかを確認しておきましょう。

IMDS がノードのロールを返す仕組みは、GCP との連携でつまずいた例としてこちらの記事でも扱っています。

IRSA と Pod Identity はどちらを選ぶか

新しく用意された仕組みは Pod Identity のほうで、クラスタを増やすたびに IAM ロールの信頼ポリシーを書き換えなくて済みます。

ただし、IRSA よりかなり新しい AWS SDK が必要です。

SDKIRSAPod Identity
Java(Version 2)2.10.11 以降2.21.30 以降
Python(Boto3)1.9.220 以降1.34.41 以降
JavaScript v33.27.0 以降3.458.0 以降
Go v2すべてrelease-2023-11-14 以降
※表は横スクロールできます

私たちのアプリには、利用中のライブラリが内部で古い AWS SDK を使っているものがありました。

この場合、2 つの方法で必要になる作業は次のように変わります。

  • Pod Identity:古い SDK を使っているライブラリの更新から始める
  • IRSA:古い SDK のままで動く。足りないのは STS を入れていない一部のアプリだけ

そこで、STS を足して IRSA にするほうが早いと判断しました。

Java の場合、STS のモジュールがクラスパスにないと IRSA の認証情報を取得できません。

SDK のバージョンが足りていても、STS のモジュールが入っているかは別に確認が必要です。

迷ったときは、次の目安で選べます。

  • すべてのアプリの AWS SDK が上の表より新しい → Pod Identity
  • 古い SDK を内部で使うライブラリがあり、すぐには更新できない → IRSA

IRSA で移行しておいても、SDK が新しくなった段階で Pod Identity へ移ることはできます。

ServiceAccount と IAM ロールはどう分けるか

AWS が勧めているのは、アプリごとに IAM ロールを 1 つ作る形です。

ですがマイクロサービスが多いと、ロールと ServiceAccount がサービスの数だけ増えて、管理しきれなくなります。

ただし数えるのは AWS の API を呼ぶサービスだけで、呼ばない Pod には IAM ロールも専用の ServiceAccount も要りません。

私たちは次の基準で分けています。

  • 同じ権限で足りるサービスは、同じ ServiceAccount と IAM ロールを共有する
  • 書き込み権限や機密データを扱うなど、リスクを減らしたい Pod は専用の ServiceAccount にする

権限がまったく同じサービスどうしなら、共有しても最小権限は崩れません。

どちらも「バケットを読むだけ」なら、片方が乗っ取られても、できることは元から持っていた権限の範囲に収まるからです。

共有で失うのは、主に次の 2 つです。

  • 後から片方だけに権限を足すと、共有しているすべてのサービスに同じ権限が付く
  • CloudTrail にはロール名で記録されるので、どのサービスの呼び出しかを見分けにくくなる

共有ロールに権限を足すときは、共有しているすべてのサービスにその権限が必要かを確かめます。

必要なのが一部だけなら、そのサービスを専用の ServiceAccount に切り出します。

どこまでまとめるかは、権限が漏れたときの影響の大きさで決めると迷いません。

共有するなら ServiceAccount ごと共有する

1 つの IAM ロールを複数の ServiceAccount から使う場合は、IAM ロールの信頼ポリシーに ServiceAccount を並べて書きます。

信頼ポリシーには文字数の上限(既定で 2048 字)があり、ServiceAccount ごとに条件を分けて書くと 4 つほどで埋まります。

sub の値を配列にまとめればもっと入りますが、どの ServiceAccount がどのロールを使えるかを、IAM と Kubernetes の両方で管理することになります。

ServiceAccount ごと共有すれば、信頼ポリシーに書く ServiceAccount は 1 つで済みます。

信頼ポリシーは ServiceAccount の名前まで絞る

IRSA の信頼ポリシーでは、トークンの sub を system:serviceaccount:名前空間:ServiceAccount名 の形で条件に入れます。

名前空間だけで絞ると、同じ名前空間の別の ServiceAccount からもロールを引き受けられてしまいます。

ServiceAccount 側では、使う IAM ロールの ARN を注釈で指定します。

apiVersion: v1
kind: ServiceAccount
metadata:
  name: order-api
  namespace: app
  annotations:
    eks.amazonaws.com/role-arn: arn:aws:iam::111122223333:role/order-api

稼働中のサービスを止めずに切り替えるには

移行のあいだは、ノードロールの権限をそのまま残しておきます。

IRSA の設定に漏れがあっても、Pod はノードの権限で動き続けるので、サービスは止まりません。

裏を返すと、動いているからといって IRSA に切り替わったとは限りません。

1 つのモジュールは、次の順で切り替えています。

  1. アプリの AWS SDK のバージョンと、STS のモジュールが入っているかを確認する
  2. 必要な権限だけを持つ IAM ロールを作り、信頼ポリシーを ServiceAccount に絞る
  3. ServiceAccount に IAM ロールの ARN を注釈で付け、Deployment の serviceAccountName を変える
  4. Pod を作り直し、IRSA の環境変数が入っていることを確認する

ServiceAccount に注釈を足しただけでは、すでに動いている Pod には反映されません。

IRSA の環境変数は、Pod の作成時に差し込まれるからです。

環境変数は、Pod の詳細から確認できます。

kubectl describe pod order-api-6f4dfff6cb-76cv9 | grep AWS_ROLE_ARN:
AWS_ROLE_ARN: arn:aws:iam::111122223333:role/order-api

AWS_ROLE_ARN に作ったロールの ARN が出ていれば、その Pod には IRSA の設定が入っています。

それでも SDK のバージョンや STS のモジュールが足りないと、IRSA の認証情報を取れずにノードの権限で動き続けることがあります。

確実に見るなら、CloudTrail でそのサービスの呼び出しがノードのロール名で記録されなくなったことを確かめます。

ノードの権限は最後にどう落とすか

すべてのモジュールが切り替わったら、ノードロールからアプリ用の権限を外します。

ノードに残すのは、ノード自身が動くための権限だけです。

  • AmazonEKSWorkerNodePolicy(kubelet が EC2 の情報を読むため)
  • AmazonEC2ContainerRegistryPullOnly(ECR からイメージを取得するため)
  • AmazonEKS_CNI_Policy(VPC CNI 用。AWS は aws-node の ServiceAccount 側へ移すことを勧めている)

CNI の権限もノードに付けたままだと、すべての Pod からネットワークインターフェイスを操作できる状態が残ります。

できれば aws-node も IRSA に切り替えておきましょう。

マネージドノードグループは作り直しになる

マネージドノードグループは、作成したあとでノードの IAM ロールを差し替えられません。

そこで、権限を絞った新しいロールでノードグループを作り直し、Pod を移す予定です。

IMDS へのアクセスも止めるか

IMDS の扱いも、このノードグループの作り直しに合わせて検討しています。

私たちのノードは IMDSv2 で動いていますが、それだけでは Pod からの取得は止まりません。

止まるかどうかを決めるのは、ホップ数の上限(hop limit)です。

ノードの設定Pod からノードの権限を取れるか
IMDSv2 必須・ホップ数の上限 2取れる
IMDSv2 必須・ホップ数の上限 1取れない(hostNetwork の Pod は除く)
IMDS を無効化取れない(IMDS に頼るノードの部品も止まる)
※表は横スクロールできます

IRSA を使っていない Pod を止めるなら、IMDS は残したままホップ数の上限を 1 にします。

IMDS を必要とする Pod も一緒に動かなくなるので、先にそうした Pod がないかを確認します。

ノードグループを作り直すなら、起動テンプレートでホップ数を 1 にしておくと、作り直しが 1 回で済みます。

まとめ

  • ノードロールの権限は、IRSA や Pod Identity を設定していないすべての Pod から使える
  • 古い AWS SDK を使うライブラリがあるなら、Pod Identity より IRSA のほうが早く移行できる(Java は STS のモジュールが必要)
  • ServiceAccount はリスクで分け、同じ権限で足りるものは ServiceAccount ごと共有する
  • 移行中はノードの権限を残し、IRSA の環境変数と CloudTrail で切り替わりを確認する
  • 最後にノードグループを作り直してノードの権限を落とし、IMDS はホップ数で止める

動いていることと、切り替わったことは別です。

参考(出典)

ABOUT ME
saratoga
saratoga
フリーランスエンジニア
仕事にも趣味にも IT を駆使するフリーランスエンジニア。技術的な TIPS や日々の生活の中で深堀りしてみたくなったことを備忘録として残していきます。
記事URLをコピーしました