메모리(기억)Memory

AI 에이전트에서 — 대화·작업의 기억

Memory는 에이전트가 '이전에 뭘 했는지' 기억하게 하는 장치예요. 두 종류로 나뉘어요.

• 단기 기억: 컨텍스트 윈도우 안의 현재 대화·작업. 세션이 끝나면 사라져요.
• 장기 기억: 외부 저장소(DB·벡터DB)에 저장해 나중에 다시 불러오는 정보. '이 고객은 지난번에 이걸 물어봤다'를 기억하려면 필요해요.

긴 작업이나 반복되는 고객 응대에선 장기 기억이 품질을 크게 좌우해요.

하드웨어에서 — 데이터를 담는 반도체

AI 인프라 기사의 '메모리'는 RAM·HBM(고대역폭 메모리) 같은 반도체 부품이에요. GPU 옆에서 데이터를 빠르게 공급하는 HBM이 AI 칩 성능의 병목이라, AI 수요가 몰리며 품귀·가격 급등(램마겟돈)의 진원지가 됐죠. '에이전트 메모리'와 '메모리 반도체'는 완전히 다른 층위의 이야기예요.