AI 대전환, 속도가 성패 가른다⸱⸱⸱‘같은 시계’의 정치경제학

백도현 기자 / 2025-09-28 19:34:39
예산·GPU·모델 성능, 동시간 비교해야
올해 정부는 과학기술정보통신부 예산 총 19조원(R&D 9.7조원), 국가 R&D 총량 24.8조원 규모로 제시했다. ‘추격형에서 선도형’으로의 체질 전환을 공언했다. (사진=픽사베이)

[예결신문=김지수 기자] 올해 정부는 과학기술정보통신부 예산 총 19조원(R&D 9.7조원), 국가 R&D 총량 24.8조원 규모로 제시했다. ‘추격형에서 선도형’으로의 체질 전환을 공언한 셈이다. 

관건은 ‘예산 총량’이 아닌 '속도'와 '흡수력'이다. GPU·대규모언어모델(LLM)·인재 생태계를 하나의 사슬로 묶어 집행과 성과를 같은 시계(時刻)에 공개하는 방식이 마련되지 않으면 예산은 다시 보고서 속 지표로만 남을 수 있다.

28일 KAIST 기계공학과  김진환 교수 진단에 따르면 정부는 부족한 컴퓨팅 자원, 특히 GPU를 먼저 보강하고 있다. 지난달 14일 공고된 ‘AI 컴퓨팅 자원 활용기반 강화(추경)’는 H100 GPU 200~600장을 1~9개월 단위로 임차해 기업·대학·출연연에 푼다. 공모-협약-투입의 리드타임을 줄여 학습→평가→고도화의 반복주기가 끊기지 않도록 하겠다는 취지다.

업계가 '학습 연속성'을 위해 사실상 현금처럼 쓰는 컴퓨팅 크레딧을 정부가 일정 기간 보강하는 그림이다. 관건은 선정부터 인도까지 걸리는 실제 TAT(turnaround time)과 가동률이다. 공고문은 분명히 H100 200~600장과 최장 9개월을 명시했다.

다음 고리는 '모델(LLM)'이다. 5월 추경을 통해 ‘월드 베스트 LLM(WBL)’ 2136억원이 확정되면서 국내 5개 정예팀을 2~3년 집중 육성하는 트랙이 열렸다. GPU·데이터·인재를 패키지로 묶어 ‘세계 톱티어’ 성능을 노린다. 하지만 파라미터를 늘리는 것보다 학습 시스템의 안정성과 평가 결과의 일관성이 더 큰 힘을 발휘한다.

정부가 민간 GPU 임차·데이터 사용료 지원까지 포함해 병행투입을 밝힌 만큼, 이제는 '분기별 벤치마크(예: HELM·MMLU·코리안 벤치)'와 '비용 대비 성능 개선율(score/원)'을 공개 KPI로 못 박아야 한다. 그래야 예산이 속도로 전환된다.

세 번째 고리는 인재와 경쟁 문화다. 과기정통부는 6월 ‘AI 챔피언’ 경연을 열고, 8월에는 'AI 챌린지(Season2)'를 공고해 현장의 팀과 문제를 빠르게 연결하고 있다. 중요한 건 사후 루프다. 입상팀이 곧바로 컴퓨팅·데이터·실증과제로 이어지고 다음 분기에는 해외 벤치·고객 파일럿으로 넘어가는 연결형 트랙을 설계해야 한다. 대회-사업화-조달까지 이어지는 원스톱 고속차선이 마련되지 않으면, 경연은 그저 축제에서 끝난다.

정책의 방향성은 대체로 타당하다. 문제는 집행 설계다. GPU 사업의 KPI는 ‘몇 장 배분’이 아니라 '가동률×연속학습 주기×성능 개선폭'이어야 한다.

예를 들어 선정 30일 내 자원 인도, 자원 사용률 85% 이상, 에포크당 비용(원/토큰) 절감률, 학습-평가-재학습 사이클 시간을 공개 지표로 삼을 수 있다. LLM 사업은 모델 릴리즈 노트와 학습 레시피(optimizer·LR·스케줄러·데이터 조합) 공개 비율, 오류 보고·재현 이슈 해결 시간을 계량화해 누구나 동일 시점에 비교 가능하게 해야 한다. 대회·인재 트랙은 입상→과제 매칭→조달·상용 전환까지 걸린 일수, 민간 매출 파이프라인 금액으로 성과를 측정하자. 이들 지표가 분기마다 통합 대시보드로 공개되면, 예산 심사와 결산의 언어가 처음으로 ‘같은 시계’를 갖게 된다.

리스크 관리도 필요하다. 첫째, 공급망이다. H100 중심의 단일 종속은 조달 변동성에 취약하다. A100·H100 혼합, 국산 NPU 실증 슬롯, 클라우드-온프렘 하이브리드로 구성해 ‘성능당 비용’을 상시 비교해야 한다.

둘째, 데이터 권리다. 공공 코퍼스는 추적 가능한 라이선스와 개인정보 안전장치를 의무화하고 민간 코퍼스는 페어 유즈 범위·2차 저작권 리스크를 사전 심사로 관리해야 한다. 셋째, 기술 편향이다. 한국어·다문화 데이터로의 균형 커버리지를 KPI에 내장하지 않으면 산업 현장에서 ‘잘 안 통하는 AI’가 양산될 수 있다.

김 교수는 "'GPU-LLM-인재'의 세 요소가 성공하려면 '속도·품질·비용' 3지표를 동일 시점으로 증명해야 한다"며 "선정 속도는 빨라졌는가, 모델은 분기마다 얼마나 좋아졌는가, 같은 성능을 더 싼 비용으로 달성했는가. 이 세 질문에 ‘그렇다’고 답할 수 있을 비로소 진정한 국가 경쟁력이 된다"고 강조했다. 

[ⓒ 예결신문. 무단전재-재배포 금지]

백도현 기자

기업, 지자체 소식과 예산 결산 등 재무상태 분석

뉴스댓글 >

SNS