第30回キオクの宮殿－　AIをその奥で支える、メモリーという存在

キーワード

#エンジニアリング
#AI活用
#Plus one

いつも当社ブログならびに当コラムを読んでいただきありがとうございます。

最近、メモリー半導体需要拡大を巡り、ベンダーの株価上昇や総資産の増加、供給不足による半導体価格の高止まりといったニュースを目にする機会が増えています。
その背景には、ご存知の通りAIによるメモリー消費の拡大があり、私たちが日常的に利用している推論AIの普及も、その一因と言えるでしょう。本日のテーマはAIとメモリーについてです。

RAGが支える生成AIの裏側

みなさんの中でも、普段、生成AIやAIエージェントなどを活用している方は多いのではないでしょうか。

生成AIモデルをカスタムにチューニングする方法の一つに拡張検索技術（Retrieval-Augmented Generation、以下RAG）というものがあります。
この技術により、生成AIが社内資料などを情報源として検索を行い、必要とされる回答を推論して出すことができます。
RAGについては先月公開した下記のブログにも詳しく説明があります。

■今回のピックアップ・ブログ　その1

■今回のピックアップ・ブログ　その12

ドキュメントチェックの話ですが、こちらもRAG技術を使っています。またAIを使ったセマンティック検索とキーワード検索を組み合わせた独自のスコア算出方式の採用などドキュメントチェックの工夫についても書かれています。
こうしたRAGの活用が広がるほど、AIはより多くの情報を“記憶”として扱う必要が出てきます。

推論AI時代のメモリー需要

AI産業がモデル学習から大規模推論へと移行する中、リアルタイムな応答性や効率的なデータアクセスへの要求が高まっており、大容量かつ高帯域幅のDRAMメモリーを搭載したサーバーへの需要は持続的に拡大しています。
GPUサーバーで使われる広帯域幅メモリ（HBM）の市場規模は、2034年までに200億ドル規模へ到達する予測があります。^*1
またメモリー消費には並列演算を行う処理用途だけでなく、AIエージェントとやり取りするための情報を保持する目的でも必要となります。

メモリー不足が示すもの

メモリーベンダーが、高収益なHBMやDDR5などのメモリーの生産にリソースを集中させている影響で、一般で使うPCやスマホ向けのメモリー(DDR4/DDR5)は供給が抑制され、価格も高止まりする傾向にあります。
一方、コスト的な観点や、RAG活用の普及により、データ格納ストレージとしてのSSDの需要も増えており、3次元化の積層技術で大容量化したエンタープライズ用SSDの活用が増えています。
大容量SSDは生産に高度な技術と設備投資が必要となるため、生産能力の拡大ペースは限定されて供給面に制約が出ているとも言われています。
これは私たちがAIを使う“裏側”で起きている現実です。

AIを支える「記憶の宮殿」

タイトルの「記憶の宮殿（memory palace）」とは、古代ギリシャ時代に生まれた記憶術の一つで、馴染みのある空間環境を視覚的に思い描くことで、情報の想起効率を高め記憶力を向上させる方法です。

AI基盤モデルを「記憶の宮殿」に例えたら、たくさんの「記憶の部屋」というメモリー空間と情報に支えられているイメージが思い浮かび、タイトルに使いました。この先、フィジカルAIなどが発展する中、AI基盤モデルも拡大しつづけ、きっと「記憶の宮殿」もデータセンターインフラも巨大化していくことでしょう。

おわりに

ところで、私はゴールデンウィーク休暇中に、「サンキュー・チャック(原題The Life of Chuck)」という印象的な映画を観ました。人生を、記憶という断片の集合として描いた「サンキュー・チャック」は、観終えたあとに心地よい静かな余韻が残る映画でした。

さて一方で、私たちは膨大なデータをAIと処理するために、かつてない規模の「記憶」の世界を求めているように思います。けれども、その「キオク」が何を残すのかはまだわかりません。

*1: 出典：Fortune Business Insights「高帯域幅メモリ(HBM)市場レポート」（https://www.fortunebusinessinsights.com/jp/B4-110857）

2026年6月
株式会社日立情報通信エンジニアリング
経営戦略本部ブランド・コミュニケーション部
阿部哲也