[예결신문=김용대 칼럼니스트] 인공지능(AI)의 패러다임이 근본적으로 변하고 있다. 그동안 우리가 접했던 AI는 질문을 던지면 답을 해주는 '대화형 챗봇' 수준이었다. 이메일 요약이나 자료 검색은 가능했지만 사람이 직접 자료를 입력하고 순서를 지정해야 하는 단순 보조자 역할이었다.
하지만 OpenAI의 GPT-6 Astra와 Anthropic의 Claude Cowork 등 차세대 모델의 등장은 AI의 정체성을 '질의응답 보조원'에서 '스스로 생각하고 상시 가동되는 AI 직원(Agent)'으로 탈바꿈시키고 있다.
일하는 AI인 AI Agent는 사람이 업무 목표를 던져주면 스스로 과업을 분할하고 웹 브라우저, 스프레드시트, ERP 등 사내외 프로그램을 자유자재로 넘나들며 프로세스를 완성한다. 영수증을 읽어 카드 내역과 대조한 뒤 결재 문서까지 작성하고 제출하는 식이다.
비동기 도구 호출, 장기 컨텍스트(Context) 관리, 다중 에이전트(Multi-Agent) 시스템을 바탕으로 복잡한 프로젝트를 동시 다발적으로 완수해 낸다. AI가 사람이 자리를 비운 사이에도 백그라운드에서 끊임없이 일하는 시대로 진입한 것이다.
이러한 '대화'에서 '업무'로의 변화는 IT 인프라, 특히 반도체 시장에 가늠하기 힘든 파급효과를 불러오고 있다. 지금까지 생성형 AI의 메모리 수요를 결정짓는 핵심 변수는 '사용자 수'와 '질문 횟수'였다. 질문이 끝나면 연산이 종료되고 사용된 임시 기억장치(KV Cache)는 즉시 삭제됐다.
하지만 Agent 시대의 법칙은 완전히 다르다. 하나의 업무를 마치기 위해 AI는 수초에서 수시간 동안 계획과 실행, 오류 수정을 반복한다. 이 과정에서 이전 지시사항과 수많은 자료, 중간 산출물을 계속 기억하고 참조해야 한다.
작업이 길어질수록, 참조하는 컨텍스트가 늘어날수록, 그리고 동시에 가동되는 하위 에이전트 수가 많아질수록 필요한 메모리 용량과 대역폭은 비약적으로 급증한다. Anthropic 분석에 따르면 Multi-Agent 시스템은 일반 채팅 대비 무려 15배에 달하는 토큰(Token)을 소비하는 것으로 나타났다.
결국 메모리 수요를 결정하는 방정식에 '사용자당 Agent 수', '컨텍스트의 길이', '업무 지속시간'이라는 새로운 변수들이 곱해지게 됐다. 이에 메모리 수요의 성장 속도가 AI 단순 사용자 수 증가율을 훨씬 뛰어넘는 기하급수적 곡선을 그릴 거라는 전망이 나온다.
이 거대한 전환점의 최대 수혜는 단연 삼성전자나 SK하이닉스 같은 메모리 반도체 업체를 비롯한 생태계 전반으로 확산하게 된다. 당장 AI가 계산 중인 모델과 KV Cache를 실시간으로 올려둬야 하는 HBM(고대역폭메모리)의 탑재량 증가와 고성능화가 더욱 가속화된다.
여기에 HBM의 부담을 덜어주기 위해 곧 다시 사용할 데이터를 대기시키는 서버용 DRAM, 그리고 수많은 업무 기록과 장기 문서를 저장하는 초고용량 엔터프라이즈 SSD(eSSD)까지 연쇄적인 수요 폭발이 이어질 수밖에 없다.
AI 패러다임 전환은 단순한 소프트웨어 발전으로 설명되지 않는다. 상시 가동되는 AI 직원이 늘어날수록 이를 뒷받침할 반도체 인프라의 가동 시간과 용량은 수직 상승한다. HBM에서 시작된 AI 반도체 열풍이 서버 DRAM과 eSSD 등 메모리 전 영역으로 확산되며 반도체 산업에 유례없는 거대한 빅사이클을 가져오고 있다.
예결신문 / 김용대 칼럼니스트 yong660128@naver.com
[ⓒ 예결신문. 무단전재-재배포 금지]
