ある保険会社は、社内の契約書レビュー支援アプリを運用している。Amazon SageMaker AI で自社データを使ってファインチューニングしたカスタム Amazon Nova モデルを Amazon Bedrock にインポート済みであり、これをアプリから利用したい。アプリは AWS Lambda 関数から Amazon Bedrock の Converse API を呼び出す構成である。呼び出し方式(Amazon Bedrock の Converse API を使うこと)は変えたくないが、modelId に指定する値の差し替えは許容する。利用は平日の営業時間内に数時間ごとに短時間集中するだけで、夜間や休日はほぼリクエストがない。運用チームは、リクエストがない時間帯に事前確保したコンピュートリソースの費用が発生しない構成を求めている。どの方法が最も適切か。
単一選択:正しいものを1つ選択
正解・解説を見る
この問題の要件は、(1) Converse API による呼び出し方式を変えず、modelId の値の差し替えだけで済ませること、(2) リクエストの少ない時間帯に事前確保のコンピュートの費用を出さないこと、の2点である。どちらか一方だけなら満たす選択肢があるため、各選択肢を2つの要件の両方に同時に照らす必要がある。B は、カスタム Amazon Nova モデルのカスタムモデルデプロイを作成してオンデマンド推論にする。オンデマンド推論は使った分だけの支払いで、プロビジョンドのコンピュートを設定する必要がない。modelId にはデプロイの ARN を指定するので、(1)(2) を両方満たす。A のプロビジョンドスループットは、modelId の差し替えで呼び出せる点では (1) を満たす。しかし推論用のコンピュートを事前に確保する方式であり、問題文が費用を出したくないとする事前確保のコンピュートそのものなので (2) に合わない。C は事前確保をしない点では (2) の方向に合うように見えるが、デプロイを作成しない点が誤りである。オンデマンド推論はカスタムモデルデプロイによって設定され、modelId に使うのはデプロイ作成時に返されるデプロイの ARN である。D は呼び出し先が SageMaker AI のエンドポイントに変わり (1) を満たさず、リアルタイムエンドポイントはリクエストがない時間もインスタンスの稼働分が課金されるため (2) にも合わない。
A:不正解。プロビジョンドスループットを購入することは、推論に使うコンピュートリソースを事前に確保することにあたる。これは、問題文が「リクエストがない時間帯に費用を発生させたくない」とする『事前確保したコンピュートリソース』そのものである。一方、カスタムモデルをオンデマンド推論で使えば、使った分だけの支払いで、プロビジョンドのコンピュートリソースを設定する必要がない。A は modelId の差し替えだけで呼び出せるため呼び出し方式の要件には収まるが、推論用のコンピュートを事前に確保する方式であるため費用要件を満たさない。
B:正解。SageMaker AI でトレーニングしたカスタム Amazon Nova モデルは、Bedrock にインポートした場合、カスタムモデルデプロイを作成するとオンデマンド推論で使える。オンデマンド推論は使った分だけの支払いで、プロビジョンドのコンピュートリソースを設定する必要がないため、リクエストのない時間帯に事前確保の費用が出ない。推論リクエストの modelId にはデプロイの ARN を指定する。呼び出しは Bedrock の API のままで、差し替えるのは modelId の値だけなので、問題文で許容された範囲に収まる。
C:不正解。カスタムモデルのオンデマンド推論は、カスタムモデルデプロイでモデルをデプロイすることによって設定する。カスタムモデル自体の ARN は、デプロイを作成するときに入力として渡す値であり、デプロイを作成すると応答としてデプロイの ARN が返される。推論リクエストの modelId に指定するのはこのデプロイの ARN である。この方法ではデプロイを作成しないため、オンデマンド推論が設定されず、modelId に指定すべきデプロイの ARN も発行されない。そのため、要件を満たす呼び出しにならない。
D:不正解。この構成は、呼び出し先が Bedrock ではなく SageMaker AI のエンドポイントになり、Converse API による呼び出し方式を変えない条件を満たさない。さらに、この選択肢が指すリアルタイムエンドポイントはリクエストがない時間もインスタンスが稼働し続けてその稼働分が課金されるため、事前確保したコンピュートリソースの費用を出さない要件にも合わない。
学習のポイント:SageMaker AI でトレーニングしたカスタム Amazon Nova モデルは、Bedrock のカスタムモデルデプロイでオンデマンド推論にできる。事前確保のコンピュートが不要で、modelId にはモデルの ARN ではなくデプロイの ARN を指定して呼び出す。
公式ドキュメント