As I've always been

AI 기술의 흐름이 단순히 텍스트를 읽는 단계에서 무언가를 '보는' 단계로 급격히 이동하고 있습니다. 최근 Llama 3.2나 Molmo 같은 멀티모달 모델들이 공개되면서, 이러한 모델들이 내부적으로 어떻게 작동하는지 이해하는 것이 그 어느 때보다 중요해졌습니다.대규모 언어 모델(LLM)이 어떻게 "고양이"라는 단어뿐만 아니라 고양이 사진을 보고도 똑같이 이해할 수 있는지 궁금했다면, 그 비밀은 바로 영리한 엔지니어링과 아키텍처의 결합에 있습니다. 여기 멀티모달 LLM(MLLM)의 핵심 작동 원리를 정리해 드립니다.핵심 재료: 3가지 구성 요소거대한 멀티모달 LLM을 만드는 것은 처음부터 새로운 두뇌를 창조하는 것이 아닙니다. 오히려 각 분야의 전문가들로 팀을 꾸리는 것에 가깝습니다. 대부분의 현대적 M..

한 언어에서 다른 언어로 텍스트를 번역하는 언어 번역 모델을 만든다고 가정해보자.소스 언어와 타깃 언어의 문법 구조가 다르기 때문에 텍스트를 한 단어씩 번역하는 것은 불가능하다. 이 문제를 해결하기 위해 심층 신경망에서는 인코더(encoder)와 디코더(decoder)라는 2개의 서브모듈을 사용한다.인코더가 먼저 전체 텍스트를 읽고 처리한 후 디코더가 번역된 텍스트를 생성한다. 트랜스포머가 개발되기 전에는 순환 신경망(recurrent neural network, RNN)이 언어 번역에서 가장 인기 있는 인코더-디코더 구조였다.RNN은 이전 스텝의 출력이 현재 스텝의 입력으로 사용되는 신경망으로, 텍스트와 같은 순차 데이터에 잘 맞는다. 인코더-디코더 RNN에서는 인코더가 입력 텍스트를 받아 순차적으로 ..

LLM을 포함해 심층 신경망 모델은 원시 텍스트를 바로 처리할 수 없다.텍스트는 범주형 데이터(categorical data)이므로 신경망을 구현하고 훈련하는 데 사용되는 수학 연산과 호환되지 않는다.따라서 단어를 실수 벡터의 형태로 표현할 방법이 필요하다. 데이터를 벡터 형태로 변환하는 개념을 흔히 임베딩(embedding)이라고 부른다.특정 신경망 층 또는 그 밖의 사전 훈련된 신경망 모델을 사용해 여러 종류의 데이터 (예를 들면 비디오, 오디오, 텍스트)를 임베딩할 수 있다.하지만 데이터 포맷마다 고유한 임베딩 모델이 필요하다.예를 들어, 텍스트 임베딩 모델은 오디오나 비디오 데이터를 임베딩하는데 바로 사용하는 것은 적합하지 않다. 임베딩은 단어, 이미지, 심지어 문서 전체와 같이 이산적인 객체를 ..

대규모 언어 모델(LLM)의 컴퓨팅 및 메모리 사용량이 점점 더 증가함에 따라 매개변수 효율적 미세 조정(PEFT) 방법은 이제 LLM을 미세 조정하는 일반적인 전략이 되었다. 가장 널리 사용되는 PEFT 방법 중 하나이자 다른 많은 PEFT 방법의 기반이 되는 방법은 로우랭크 적응(LoRA) 방법이다. LoRA는 원래의 사전 학습된 모델 파라미터를 수정하고 미세 조정을 위해 학습 가능한 낮은 순위의 '어댑터'를 선택한 레이어에 추가하는 방식으로 작동한다. 원래 LoRA 작업의 중요한 발견 중 하나는 매우 낮은 어댑터 랭크(예: 4~32)로 미세 조정해도 성능이 좋으며, 이 성능은 랭크가 높아져도 더 이상 향상되지 않는다는 것이었다. 그러나 매우 낮은 랭크에서 이러한 성능 포화는 주로 학습 매니폴드의 내..

LIMO: Less is More for Reasoning연구 개요LIMO 모델은 대규모 언어 모델에서 복잡한 추론 능력이 어떻게 나타나는지를 새롭게 이해하게 하는 발견을 제시함.기존의 생각과 달리, 복잡한 수학적 추론은 적은 수의 예제로도 효과적으로 유도될 수 있음.LIMO는 817개의 훈련 샘플만으로 AIME에서 57.1%, MATH에서 94.8%의 정확도를 달성함.이는 이전 SFT 기반 모델의 6.5%와 59.2%에 비해 크게 향상된 결과이며, 이전 접근법의 1% 훈련 데이터만 사용함.LIMO의 성능LIMO는 10개의 다양한 벤치마크에서 40.5%의 절대적인 성능 향상을 보이며, 100배 더 많은 데이터로 훈련된 모델들을 능가함.이는 SFT가 암기보다는 일반화로 이어진다는 기존의 생각에 도전함.LI..

LLM의 강화학습을 하다보면 보상을 높게 받는 데에만 집중하는 보상 해킹 (reward hacking)이 발생할 수 있다. 평가 모델의 높은 점수를 받는 과정에서 다른 능력이 감소하거나 평가 점수만 높게 받을 수 있는 우회로를 찾는 현상이 바로 보상 해킹이다. OpenAI는 이 보상 해킹을 피하기 위해 근접 정책 최적화(Proximal Preference Optimization; PPO)라는 학습 방법을 사용했다.PPO의 Proximal은 '몸 쪽의, 가까운'이라는 뜻이다.지도학습을 통해 학습된 미세조정 모델을 기준으로 학습하는 모델이 너무 멀지 않게 가까운 범위에서 리워드 모델의 높은 점수를 찾도록 한다는 의미이다.이때 지도 미세조정 모델을 기준으로 거리를 측정하기 때문에 해당 모델을 참고 모델 (Re..

최근 OpenAI나 DeepSeek등의 빅테크에서 공개하는 모델이나 논문들이 모두 '강화학습'을 통해 성능을 크게 올렸다는 내용을 심심치 않게 담고 있다. 전통적인 지도학습 기반 방법론들은 라벨링된 데이터를 통해 학습을 한다.Self-supervised 방식의 경우에는 문장의 일부가 주어졌을 때, 그 다음 부분을 예측하는 방식으로 별도의 라벨 없이 데이터 자체로부터 학습을 하게 된다. 이러한 지도학습은 정해진 정답이 있기 때문에 그 값으로부터의 차이를 통해 loss를 계산할 수 있고, 계산된 loss를 역전파시켜서 모델을 학습시킨다.그에 비해 정해진 정답이 없는 강화학습은 데이터로부터 'loss'를 계산할 수 없게 된다.따라서 강화학습에서는 모델의 '현재 행동'이 정답이라는 가정을 가지고 loss 계산을..

최근 ChatGPT와 같은 LLM(Large Language Model) 기반 서비스가 IT업계를 뒤흔들고 있다.이 현상이 마치 디지털 카메라가 처음 나오던 시기에 고전적인 필름 카메라를 고집하던 당시의 공룡 기업인 "코닥"의 몰락을 가져왔던 것과 같이 현재의 공룡 기업들을 순식간에 파괴하는 기하급수적 변화를 이룩할 수 있을까? 구글은 바드를 성급하게 공개했다가 생성되는 답변의 퀄리티가 너무 낮은 모습에 주가가 순식간에 폭락했고, 네이버는 오랜 기간을 들여서 하이퍼클로바를 완성시키고 공개했으나 챗지피티 대비 오랜시간이 지난 것에 비해 특별히 더 뛰어난 모습을 보이지 못해서 사용자들에게 실망감을 안겼다. 1. 운영의 관점에서최근 IT 업계에서 DevOps나 MLOps와 같이 "개발 및 연구"와 "운영"이 ..

GPT-4o는 이미지를 어떻게 인코딩할까? GPT-4o는 고해상도 모드에서 사용되는 각 512x512 타일을 처리하는 데 170 토큰을 부과함. 약 0.75 토큰/단어의 비율로 보면 이는 그림 한 장이 약 227 단어와 같다는 것"그림 한 장이 천 마디 말보다 낫다"는 말과 비교했을 때 약 4배 차이임170이라는 숫자는 기괴할 정도로 특이한 숫자임. OpenAI는 가격 책정에서 "20달러" 또는 "0.50달러"와 같은 반올림된 숫자나 내부 차원에 2와 3의 거듭제곱을 사용함170과 같은 숫자를 선택한 이유는 무엇일까? 프로그래밍에서 코드베이스에 설명 없이 그냥 던져진 숫자를 "매직 넘버"라고 하는데, 170은 상당히 눈에 띄는 매직 넘버임이미지 비용을 토큰 수로 변환하는 이유는 무엇일까? 단순히 청구 목..

효율적인 Inference 요약, 질의응답(Q&A), 검색 증강 생성 등 언어 작업에 효과적인 기술로 Transformer 아키텍처에 기반한 대규모 언어 모델(LLM)이 부상했다. 하지만 이러한 모델을 사용하려면 계산 비용이 매우 많이 들며, 주로 NVIDIA GPU와 같은 컴퓨팅 가속기를 통해 실행된다. LLM에 대한 입력과 출력은 토큰 시퀀스(예: 단어)로 표현됩니다. 긴 시퀀스(즉, 컨텍스트 창이 긴)를 처리할 수 있는 LLM을 훈련하거나 미세 조정하는 것은 활발히 발전하고 있는 분야이다. 대부분의 OSS LLM 기본 모델은 2K 컨텍스트 창으로 사전 학습된다. 문서 요약이나 컨텍스트 기반 질문 답변과 같이 점점 더 많은 사용 사례에서 LLM이 처리하는 시퀀스 길이는 수천에서 수만 개의 토큰으로 상..