남자레플리카사이트 게임용 GPU로 AI 연구하는 카이스트 박사들···“‘깐부 이후’를 고민할 시점” > 자유게시판

남자레플리카사이트 게임용 GPU로 AI 연구하는 카이스트 박사들···“‘깐부 이후’를 고민할 시점”

페이지 정보

작성자 또또링2
댓글 0건 조회 128회 작성일 25-11-18 07:46

본문

남자레플리카사이트 [주간경향] 지난 11월 7일 대전 한국과학기술원(카이스트) 전산학과의 한 연구실. 석·박사 과정 연구원 서너명이 각자 컴퓨터 모니터를 응시하고 있었는데, 연구실 랩장이자 박사과정 A씨(30)는 이들이 차세대 인공지능(AI) 모델을 연구 중이라고 소개했다.
전산학과 건물 1층 서버실에는 이 연구실이 연구 펀딩을 받아 마련한 GPU 40여장이 설치돼 있다. 엔비디아는 ‘H100’, ‘A100’ 같은, 1장에 수천만원짜리 GPU를 AI 훈련과 추론을 위한 용도로 내놓았지만, 정작 이 연구원들이 쓰는 GPU는 200만원대 게임용 GPU인 ‘RTX-4090’이다.
게임용 GPU로는 한계···연구 포기하기도
연구실에서는 40여장의 GPU를 과제별로 나눠 사용한다. 한 과제당 4장, 또는 8장의 GPU를 사용하는데, 논문 발표 시점이 다가오면 저마다 GPU를 돌리다 보니 40여장이 부족한 실정이다. A씨가 말했다. “AI 분야에서 탑3 학회가 NeurIPS(신경정보처리시스템학회), ICML(국제머신러닝학회), ICLR(국제표현학습학회)이에요. 다들 이 3개 학회 일정에 맞춰 논문을 쓰다 보니 남는 GPU가 없는거죠. 당장 GPU가 급한 연구원들은 학회에 논문을 제출하지 않는 연구원을 찾아가 GPU를 좀 양보해달라고 부탁하기도 하죠.”
사실 이들이 쓰는 RTX-4090 GPU는 AI 연구를 하는 데 한계가 있다. GPU에는 그래픽용 D램(GDDR D램)이나 고대역폭메모리(HBM)가 결합돼 있는데, 연구원들에게는 어떤 메모리냐보다 메모리 용량이 얼마나 되느냐가 중요하다. 학부생으로 이 연구실에서 인턴으로 일하는 B씨(25)는 이렇게 설명했다. “메모리는 일종의 작업대예요. AI 모델을 그 작업대에 올려놓고 연구를 하는 거죠. 그런데 요즘 AI 모델은 아무리 연구용으로 만든 것이라고 해도 크기가 상당하거든요. 메모리 용량이 작으면 ‘메모리가 초과됐습니다’ 하고 그냥 꺼져버려요.”
이 때문에 연구실에서는 미국의 뉴욕대나 스위스 로잔공대 연구팀 등과 협업하는 경우가 많다. 이들 대학은 많은 수의 H100 GPU를 자체 관리하거나, 데이터센터가 보유한 H100 GPU를 클라우드 방식으로 사용한다. A씨는 뉴욕대 연구원과 ‘JEPA’라는 AI 모델을 연구하다 지난 6월 마무리했다. 연구는 A씨가 카이스트 연구실에서 RTX-4090으로 AI 모델을 만들면, 뉴욕대에서는 H100을 활용해 해당 모델이 더 큰 규모에서 무리 없이 작동하는지를 확인하는 방식으로 진행됐다.
“연구 교류 자체는 저에게 큰 경험이었어요. 다만 뉴욕대의 결과를 기다리는 데 수일이 걸려요. 또 모델을 여러 번 테스트해 보면서 최적의 파라미터를 찾고 아키텍처를 찾아야 하는데, 여기서는 별문제 없던 제 모델이 뉴욕대에서는 문제가 생기는 거죠. 거기서 느꼈던 패닉이 상당히 컸어요. 우리 연구실에서 주도한 연구인데 정작 모델의 문제를 개선하려면 H100 자원을 갖고 있는 뉴욕대에서만 가능했거든요. 마침 뉴욕대 연구원도 메타에 인턴십을 가게 되면서 연구를 중도에 마무리하게 됐죠.”
A씨는 현재 연구실이 보유한 GPU로 최대한 효과를 낼 수 있는 연구를 진행하고 있다. “대형언어모델(LLM) 연구를 하고 싶었지만, 우리가 보유한 GPU로는 LLM 연구를 하지 못해요. 대신 삼성몬트리올연구소(삼성종합기술원 몬트리올 AI 랩)에서 개발한 ‘TRM’에 대한 연구를 시작했어요. TRM은 아주 작은 규모의 모델로도 LLM이 못 푸는 문제들을 풀 수 있거든요. 이게 다음 세대의 AI 모델이라고 생각했을 때 여기에 기여하고 제 연구 폭도 넓어질 수 있겠다는 기대가 있어요.”
‘깐부 회동’ 이후의 과제들
최근 이 연구실은 정부의 ‘AI 컴퓨팅 자원 활용 기반 강화(GPU 임차지원) 사업’ 대상으로 선정돼 H100 4장을 지원받게 됐다. 정부 지원으로 외부 데이터센터가 보유한 H100 자원을 클라우드를 통해 사용할 수 있게 되면서 숨통이 조금 트이게 됐다. 연구실을 이끄는 안성진 교수는 “지금은 급하니까 일단은 GPU부터 확보하고 나눠주는 일이 우선시되고 있지만, 앞으로는 그 GPU를 어떻게 효과적으로 사용할지에 대한 정책적 고민이 필요하다”며 이렇게 말했다.
“똑같은 100장의 GPU를 가지고 정부 사업을 하더라도 이걸 어떻게 운영하느냐에 따라 100장을 200장처럼 쓸 수도 있고, 50장처럼 쓸 수도 있어요. GPU 100장을 연구실 10곳에 10장씩 나눠줬다고 생각해보세요. 한 연구실에서 실험을 하루종일 하는 게 아니거든요. 한 번 실험 돌리고 결과 분석하는 동안에 하루 이틀 쉴 수도 있고요. 그럴 때 이 GPU 자원을 다른 곳에서 활용할 수 있도록 하는 시스템이 뒷단에 있어야 하는데, 지금은 그런 것이 전무한 상황이거든요.”
지난 10월 말 한국을 방문한 젠슨 황 엔비디아 최고경영자는 이재용 삼성전자 회장, 정의선 현대차그룹 회장과의 이른바 ‘깐부 회동’ 직후 한국에 2030년까지 최신 GPU 26만장을 우선 공급하겠다고 밝혔다. 이 가운데 21만장은 삼성, 현대차, SK·네이버 등이 쓰고 나머지 5만장은 정부 몫이다. 정부가 구매하는 5만장의 일부가 대학, 스타트업 등에 공급될 것으로 전망된다. A씨는 “그 숫자가 너무 어마어마해서 와닿지 않았다”며 “(우리 같은 연구원들은) 기존에 없었던 아이디어를 가지고 개념 검증을 하는 게 우선이니까 많은 양이 배정되지는 않을 테지만, 지원하는 만큼 연구 선택의 폭이 넓어질 것으로 보인다”고 말했다.
GPU를 보유한다고 해도 이를 사용할 인재들이 없으면 무용지물이다. 국내의 AI 고급인력들은 해외 취업을 선호한다. B씨는 “국내 대학에서 교수가 되는 것도 좋고, 그게 안 되면 미국 기업에 취업하는 것도 좋을 것 같다. 원하는 연구를 할 수 있고 연봉도 높다”고 말했다. A씨는 “연봉도 중요한 고려대상이지만 다들 미국을 선호하는 건 이유가 있다”며 이렇게 말했다.
“손흥민이 왜 유럽에 갔겠어요? 세계 최고의 리그가 거기에 있고 경험을 쌓아야 성장할 수 있거든요. 그곳에서 저도 충분히 경험을 쌓고 돌아올 생각이에요. 다만 계속 해외에 있고 싶진 않아요. 가족이 다 한국에 있으니까요. 마찬가지로 한국으로 돌아오고 싶어하는 인재들이 분명 있을 거예요. 그들이 갈 만한 AI 기업들이 국내에 있어야겠죠. AI로 돈을 버는 기업들이요. 국내에 그런 기업이 많지 않은데 이제야 조금씩 생겨나는 것 같아요. 특히 로봇과 AI를 접목한 분야에서요.”
피지컬 AI 개발···“관건은 데이터”
장병탁 서울대 컴퓨터공학부 교수가 창업한 ‘투모로 로보틱스’는 A씨가 말한 로봇과 AI를 접목한 분야에서 활약하는 스타트업 중 하나다. 지난 5월에는 서울대 AI연구원과 함께 인간의 언어로 로봇에게 명령을 내리고, 동작을 학습시킬 수 있는 모델(CLIP-RT)을 선보였다. 이른바 ‘로봇 파운데이션 모델(RFM)’이다.
이 분야 기업으로 국내에는 마음AI, 리얼월드 같은 곳이 있고, 해외에는 구글 딥마인드, 피지컬 인텔리전스 등이 있다. AI 로봇, 자율주행차 등은 현실(물리적) 세계에서 복잡한 행동을 인식·이해하고 수행할 수 있어 ‘피지컬 AI’라고도 불린다. 엔비디아가 한국에 우선공급하겠다고 밝힌 최신 GPU 26만장 중 삼성, SK, 현대차 등 제조업체에 가는 물량의 상당수는 피지컬 AI 개발을 위한 GPU이기도 하다.
RFM을 개발하기 위해서는 우선 로봇 팔 등의 운동 궤적이 담긴 데이터세트를 AI에 학습시켜야 한다. 좋은 RFM을 만들려면 많은 양의 사전학습 데이터세트가 필요하다. 투모로 로보틱스와 서울대 AI연구원은 오픈소스로 공개되는 ‘오픈X 임바디먼트’ 데이터세트를 활용한다. 미국, 중국, 유럽 등 전 세계 연구실로부터 수집한 데이터세트로, 국내에서는 카이스트가 참여했다. 중국의 ‘애지봇’이란 기업은 로봇 데이터 수집 공장을 상하이에 세워, 이곳에서 대량의 데이터를 확보한다.
RFM 업체들은 오픈소스 데이터세트에, 자체 로봇 데이터 등을 추가로 학습시켜 파운데이션 모델을 만든다. 학습에는 GPU가 사용된다. 장 교수는 모델을 학습시키기 위해 “활용할 수 있는 H100들을 박박 긁어 모았다”고 말했다. 중국의 전기차 제조업체 샤오펑이 지난 11월 5일 공개한 차세대 휴머노이드 로봇 ‘아이언’은 인간과 같은 동작을 선보여 화제가 됐는데, 이에 대해 장 교수는 “중국이 휴머노이드 하드웨어 제작에는 강점을 보이지만, 그 위에 올릴 RFM 등의 핵심 기술은 아직 초기 단계”라고 말했다.
사실 엔비디아도 로봇과 RFM에 대해 연구한다. 로봇의 학습을 돕는 AI 플랫폼도 제공한다. 전문가들은 제조공장에 AI 로봇 등을 도입하려는 국내 업체들이 엔비디아의 플랫폼에 의존할 가능성이 있다고 지적한다. 일부 제조 데이터가 엔비디아 플랫폼 개발에 활용될 가능성도 있다.
이원태 국민대 특임교수(국가AI전략위원회 사회분과)는 “당장은 엔비디아의 GPU와 플랫폼을 활용할 수밖에 없지만, 그 위에서 돌아가는 알고리즘과 모델은 국내 기업이 직접 개발하는 방식이 돼야 한다”며 이렇게 말했다.
“젠슨 황이 한국과의 협력에 적극적인 건 ‘제조 데이터’ 때문입니다. 우리로서는 엔비디아를 적극 활용하되, 국내 기업을 육성하고 데이터 주권을 지키려는 노력이 중요합니다. 원본 제조 데이터는 국내 서버에 고정하고, 외국 기업은 그 데이터에 직접 접근하지 못하게 해야 합니다. 또 표준 벤치마크 데이터는 국제협력을 위해 전략적으로 공개하면서도, 핵심 제조 데이터는 비공개하는 방식이 필요합니다. 결국은 우리의 AI를 어떻게 주권적으로 설계하느냐가 관건이죠. 플랫폼은 활용하되 종속되지 않고, 데이터는 공유하되 유출되지 않고, 오픈소스는 열되 전략적으로 연다는 원칙이 중요합니다.”
한·미가 14일 주한미군의 지속적인 한반도 주둔과 미국의 확장억제 공약을 재확인했다. 또 한국이 국방비를 인상하고 전시작전통제권(전작권) 전환을 위한 협력을 이어가기로 했다. 주한미군의 전략적 유연성 확대를 두고는 과거 합의를 재확인했다.
한·미가 이날 발표한 ‘조인트 팩트시트’(공동설명자료)에는 그간 두 차례 정상회담 등을 통해 합의한 ‘한·미 동맹 현대화’ 관련 내용이 담겼다. 한·미는 “미국은 지속적인 주한미군 주둔을 통한 대한국 방위공약을 강조했다”고 밝혔다. 또 미국이 핵을 포함한 모든 범주의 능력을 활용해 한국에 확장억제를 제공하는 공약도 재확인했다.
한·미는 “두 정상은 핵협의그룹(NCG)을 포함한 협의 메커니즘을 통해 협력을 강화하기로 했다”고 했다. 2024년 출범한 NCG는 한국이 미국의 핵 기획·운용 등에 관한 의견을 개진할 수 있는 협의체로 확장억제 강화가 목적이다. 대통령실은 이날 “확장억제를 통한 확고한 대한 방위공약 및 한반도 평화를 위한 주한미군의 지속적 역할을 재확인한 것”이라고 했다.
대신 한국은 자체 국방력을 강화하는 내용이 담겼다. 이재명 대통령이 국방비 지출을 국내총생산(GDP)의 3.5%로 증액한다는 계획을 공유했고, 도널드 트럼프 대통령은 이를 환영했다는 것이다. 김정섭 세종연구소 수석연구위원은 “나토처럼 목표 연도를 못 박지 않아, 국방비 증액에 대한 최소한의 자율성은 확보한 것으로 보인다”고 말했다.
한국은 2030년까지 미국산 군사 장비 구매에 250억달러(약 36조원)를 지출키로 했고, 주한미군을 위한 330억달러(약 48조원) 상당의 ‘포괄적 지원’을 제공한다는 계획도 공유했다는 내용도 팩트시트에 포함됐다. 다만 무기 구매는 기존 계획을 수치화한 것이라는 게 대통령실 설명이다. 또 주한미군에 330억달러를 지원하는 것도 향후 한·미 방위비분담특별협정(SMA)을 연장하는 것을 전제로 10년간의 주한미군 방위비분담금을 추산한 것이라고 대통령실은 밝혔다. 위성락 국가안보실장은 이날 브리핑에서 “우리가 추가로 양보한 게 아니고 한국이 어차피 구입하려 한 것을 수치화한 것”이라며 “주한미군 330억달러도 SMA를 통해 주한미군에 지원하는 직접 비용과 토지 공여와 전기·수도 할인 등 간접 비용을 모두 합친 것”이라고 했다. 국방부 관계자도 이날 기존 SMA 이외에 한국이 추가로 부담하는 금액은 없다고 밝혔다.
한·미는 전작권 전환을 두고 “동맹 차원의 협력을 지속해 나가기로 했다”라며 “미국의 지원 하에, 한국은 대북 연합 재래식 방위를 주도하기 위한 필수적인 군사적 역량 강화 노력을 가속화하기로 약속했다”고 밝혔다. 이어 “여기에는 미국의 첨단 무기 체계 획득과 첨단 무기 체계를 포함한 양자 방산 협력 확대가 포함된다”고 했다. 위 실장은 전작권 전환 문제를 놓고 “여러 가지 여건을 체크하고 있고 순조롭게 진행이 되고 있다”라며 “서로 간에 같은 의견을 가지고 있다. (이 대통령의) 임기 내에 추진하고 가능하리라고 보고 있다”고 했다.
한·미는 “북한을 포함해 동맹에 대한 모든 역내의 위협에 대한 미국의 재래식 억제 태세를 강화할 것”이라며 주한미군의 전략적 유연성 확대에 여지를 뒀다. 미국은 대중 견제 등을 위해 주한미군의 유연성 확대를 요구해왔다. 다만 양측은 “2006년 이래의 관련 양해를 확인한다. 양측은 긴밀한 협의를 지속하고, 이행 진전 상황을 각 측 지도부에 보고할 것”이라고 했다. 한·미가 2006년에 합의한 공동성명에는 “한국은 주한미군의 전략적 유연성의 필요성을 존중한다”면서도 “미국은 한국이 한국민의 의지와 관계없이 동북아 지역분쟁에 개입되는 일은 없을 것이라는 한국의 입장을 존중한다”는 내용이 담겼다.
한국이 주한미군의 발진기지로 활용되는 등 미·중 간 충돌에 연루될 위험은 일단 차단한 것으로 평가된다. 두진호 한국국가전략연구원 유라시아센터장은 “양측 입장 차이가 2006년 합의를 기준으로 봉합된 것으로, 당시 합의를 기준으로 향후 논의해 나가자는 취지로 보인다”라고 말했다.
위성락 실장은 “동맹 현대화를 우리 안보 여건에 맞도록 조정하도록 합의를 한 것”이라며 “주한미군 규모와 역할에 대해 원만한 타결이 이뤄졌다”고 밝혔다.

댓글목록

등록된 댓글이 없습니다.

제휴문의

페이지 정보

본문

댓글목록