AWS、新「AgentCoreランタイム」を発表。メモリ効率と起動の一貫性を改善

AWSは、Amazon Bedrock AgentCoreの新しいランタイムを発表した。AgentCoreランタイムは、開発者がインフラを構築・維持することなくエージェントをデプロイ・実行できるフルマネージドの計算基盤で、提供開始以来、多数のチームが本番のエージェント運用に使ってきた。新ランタイムは、エージェントが求める速度・柔軟性・コスト効率のために設計し直されたものだという。

エージェントの姿は変わりつつある。かつては数秒で終わるチャットボットが中心だったが、その後、数分から数時間にわたり文脈を保持して動くコーディングエージェントが登場し、いまではイベントで起動し、無人で常時稼働し、判断が必要なときだけ人前に現れる「アンビエント」なエージェントが増えている。しかも、その数は製品や機能の裏側に組み込まれる形で急増している。この幅広いスペクトラムに対して、従来のランタイムはサーバーレス、セッション分離、ゼロへのスケール、従量課金という土台を築いてきたが、常時稼働の用途では二つの課題に直面していた。

一つはメモリだ。従来はセッションが確保したメモリを終了まで保持し続けるため、たまにしか負荷が上がらず大半は待機しているエージェントでも、ピーク時の使用量を稼働中ずっと支払うことになっていた。もう一つは起動時間だ。初期化済みの環境に当たれば100ミリ秒未満で起動できるが、それを保証するには計算資源を余分に確保しておく必要があり、多くのセッションはイメージの取得や初期化を伴うコールドスタートから始まる。この遅延はイメージが大きいほど、また同時実行が多いほど大きくなり、バースト的なトラフィックの下で最も悪化する。

新ランタイムはこの両方に対処する。各セッションを小さく効率的なメモリプロファイルから開始し、必要に応じて追加のメモリを割り当て、使われなくなり再アクセスの見込みが低いメモリは回収する。数十億セッションの割り当てパターンの分析に基づいて調整したという。さらに、コンテナサイズや同時実行数によらず一貫した起動時間を実現する。その結果、対話型エージェントには速く一貫した応答を、長時間・自律型のエージェントには耐久性と低コストを提供し、請求はエージェントが実際に行った作業に追従する。