EKS のノードロールは全 Pod に効く|IRSA へ移行した手順と Pod Identity を見送った理由
EKS で Pod に AWS の権限を渡すとき、ノードの IAM ロールにまとめて付けたままになっていませんか?
ノードロールの権限はそのノードのすべての Pod から使えるので、S3 に書き込むアプリが 1 つだけでも、隣の Pod から同じバケットを書き換えられます。
私の現場では、AI を使った脆弱性診断でリスクを洗い出す中でこの状態が見つかり、計画を立てて IRSA への移行を進めています。
この記事でまとめるのは、次の 3 つです。
- Pod Identity ではなく IRSA を選んだ理由
- ServiceAccount と IAM ロールの分け方
- サービスを動かしたまま切り替え、最後にノードの権限を落とす手順
なぜノードロールの権限がすべての Pod に効くのか
AWS SDK は、コードで認証情報を指定しないと、決まった順番で認証情報を探しにいきます。
主なものを並べると、次の順番です。
- 環境変数に入れたアクセスキー
- IRSA や Pod Identity の認証情報
- ノードのインスタンスメタデータ(IMDS)が返す、ノードのロール
IRSA を設定していない Pod は、最後の IMDS にたどり着きます。
そこで受け取るのは、ノードに割り当てた IAM ロールの一時的な認証情報です。
つまりノードロールに付けた権限が、そのまま Pod の権限になります。
たとえばノードロールに次の権限が付いていると、どの Pod からでも同じ操作ができます。
- S3 の権限 → バケットのファイルを読む・書き換える・消す
- SQS の権限 → キューにメッセージを送る・取り出して消す
- Secrets Manager の権限 → 保存したパスワードや API キーを読み出す
ノードロールにアプリ用のポリシーが付いているなら、そのクラスタも同じ状態です。
IMDS がノードのロールを返す仕組みは、GCP との連携でつまずいた例としてこちらの記事でも扱っています。
IRSA と Pod Identity はどちらを選ぶか
新しく用意された仕組みは Pod Identity のほうで、クラスタを増やすたびに IAM ロールの信頼ポリシーを書き換えなくて済みます。
ただし、IRSA よりかなり新しい AWS SDK が必要です。
| SDK | IRSA | Pod Identity |
|---|---|---|
| Java(Version 2) | 2.10.11 以降 | 2.21.30 以降 |
| Python(Boto3) | 1.9.220 以降 | 1.34.41 以降 |
| JavaScript v3 | 3.27.0 以降 | 3.458.0 以降 |
| Go v2 | すべて | release-2023-11-14 以降 |
私たちのアプリには、利用中のライブラリが内部で古い AWS SDK を使っているものがありました。
この場合、2 つの方法で必要になる作業は次のように変わります。
- Pod Identity:古い SDK を使っているライブラリの更新から始める
- IRSA:古い SDK のままで動く。足りないのは STS を入れていない一部のアプリだけ
そこで、STS を足して IRSA にするほうが早いと判断しました。
迷ったときは、次の目安で選べます。
- すべてのアプリの AWS SDK が上の表より新しい → Pod Identity
- 古い SDK を内部で使うライブラリがあり、すぐには更新できない → IRSA
IRSA で移行しておいても、SDK が新しくなった段階で Pod Identity へ移ることはできます。
ServiceAccount と IAM ロールはどう分けるか
AWS が勧めているのは、アプリごとに IAM ロールを 1 つ作る形です。
ですがマイクロサービスが多いと、ロールと ServiceAccount がサービスの数だけ増えて、管理しきれなくなります。
ただし数えるのは AWS の API を呼ぶサービスだけで、呼ばない Pod には IAM ロールも専用の ServiceAccount も要りません。
私たちは次の基準で分けています。
- 同じ権限で足りるサービスは、同じ ServiceAccount と IAM ロールを共有する
- 書き込み権限や機密データを扱うなど、リスクを減らしたい Pod は専用の ServiceAccount にする
権限がまったく同じサービスどうしなら、共有しても最小権限は崩れません。
どちらも「バケットを読むだけ」なら、片方が乗っ取られても、できることは元から持っていた権限の範囲に収まるからです。
共有で失うのは、主に次の 2 つです。
- 後から片方だけに権限を足すと、共有しているすべてのサービスに同じ権限が付く
- CloudTrail にはロール名で記録されるので、どのサービスの呼び出しかを見分けにくくなる
どこまでまとめるかは、権限が漏れたときの影響の大きさで決めると迷いません。
共有するなら ServiceAccount ごと共有する
1 つの IAM ロールを複数の ServiceAccount から使う場合は、IAM ロールの信頼ポリシーに ServiceAccount を並べて書きます。
信頼ポリシーには文字数の上限(既定で 2048 字)があり、ServiceAccount ごとに条件を分けて書くと 4 つほどで埋まります。
sub の値を配列にまとめればもっと入りますが、どの ServiceAccount がどのロールを使えるかを、IAM と Kubernetes の両方で管理することになります。
ServiceAccount ごと共有すれば、信頼ポリシーに書く ServiceAccount は 1 つで済みます。
信頼ポリシーは ServiceAccount の名前まで絞る
IRSA の信頼ポリシーでは、トークンの sub を system:serviceaccount:名前空間:ServiceAccount名 の形で条件に入れます。
名前空間だけで絞ると、同じ名前空間の別の ServiceAccount からもロールを引き受けられてしまいます。
ServiceAccount 側では、使う IAM ロールの ARN を注釈で指定します。
apiVersion: v1
kind: ServiceAccount
metadata:
name: order-api
namespace: app
annotations:
eks.amazonaws.com/role-arn: arn:aws:iam::111122223333:role/order-api稼働中のサービスを止めずに切り替えるには
移行のあいだは、ノードロールの権限をそのまま残しておきます。
IRSA の設定に漏れがあっても、Pod はノードの権限で動き続けるので、サービスは止まりません。
裏を返すと、動いているからといって IRSA に切り替わったとは限りません。
1 つのモジュールは、次の順で切り替えています。
- アプリの AWS SDK のバージョンと、STS のモジュールが入っているかを確認する
- 必要な権限だけを持つ IAM ロールを作り、信頼ポリシーを ServiceAccount に絞る
- ServiceAccount に IAM ロールの ARN を注釈で付け、Deployment の
serviceAccountNameを変える - Pod を作り直し、IRSA の環境変数が入っていることを確認する
環境変数は、Pod の詳細から確認できます。
kubectl describe pod order-api-6f4dfff6cb-76cv9 | grep AWS_ROLE_ARN:
AWS_ROLE_ARN: arn:aws:iam::111122223333:role/order-apiAWS_ROLE_ARN に作ったロールの ARN が出ていれば、その Pod には IRSA の設定が入っています。
それでも SDK のバージョンや STS のモジュールが足りないと、IRSA の認証情報を取れずにノードの権限で動き続けることがあります。
確実に見るなら、CloudTrail でそのサービスの呼び出しがノードのロール名で記録されなくなったことを確かめます。
ノードの権限は最後にどう落とすか
すべてのモジュールが切り替わったら、ノードロールからアプリ用の権限を外します。
ノードに残すのは、ノード自身が動くための権限だけです。
AmazonEKSWorkerNodePolicy(kubelet が EC2 の情報を読むため)AmazonEC2ContainerRegistryPullOnly(ECR からイメージを取得するため)AmazonEKS_CNI_Policy(VPC CNI 用。AWS は aws-node の ServiceAccount 側へ移すことを勧めている)
CNI の権限もノードに付けたままだと、すべての Pod からネットワークインターフェイスを操作できる状態が残ります。
できれば aws-node も IRSA に切り替えておきましょう。
マネージドノードグループは作り直しになる
マネージドノードグループは、作成したあとでノードの IAM ロールを差し替えられません。
そこで、権限を絞った新しいロールでノードグループを作り直し、Pod を移す予定です。
IMDS へのアクセスも止めるか
IMDS の扱いも、このノードグループの作り直しに合わせて検討しています。
私たちのノードは IMDSv2 で動いていますが、それだけでは Pod からの取得は止まりません。
止まるかどうかを決めるのは、ホップ数の上限(hop limit)です。
| ノードの設定 | Pod からノードの権限を取れるか |
|---|---|
| IMDSv2 必須・ホップ数の上限 2 | 取れる |
| IMDSv2 必須・ホップ数の上限 1 | 取れない(hostNetwork の Pod は除く) |
| IMDS を無効化 | 取れない(IMDS に頼るノードの部品も止まる) |
IRSA を使っていない Pod を止めるなら、IMDS は残したままホップ数の上限を 1 にします。
ノードグループを作り直すなら、起動テンプレートでホップ数を 1 にしておくと、作り直しが 1 回で済みます。
まとめ
- ノードロールの権限は、IRSA や Pod Identity を設定していないすべての Pod から使える
- 古い AWS SDK を使うライブラリがあるなら、Pod Identity より IRSA のほうが早く移行できる(Java は STS のモジュールが必要)
- ServiceAccount はリスクで分け、同じ権限で足りるものは ServiceAccount ごと共有する
- 移行中はノードの権限を残し、IRSA の環境変数と CloudTrail で切り替わりを確認する
- 最後にノードグループを作り直してノードの権限を落とし、IMDS はホップ数で止める
動いていることと、切り替わったことは別です。
参考(出典)
- Use IRSA with the AWS SDK(AWS 公式)
- Use pod identity with the AWS SDK(AWS 公式)
- Grant Kubernetes workloads access to AWS using Kubernetes Service Accounts(AWS 公式)
- Amazon EKS node IAM role(AWS 公式)
- Identity and Access Management|EKS Best Practices(AWS 公式)
- UpdateNodegroupConfig|Amazon EKS API Reference(AWS 公式)
