대규모 언어 모델의 작동 원리와 트랜스포머 구조의 기초

핵심

• LLM은 주어진 텍스트 다음에 올 단어의 확률을 계산해 가장 알맞은 단어를 순차적으로 예측한다.
• 확률이 가장 높은 단어만 고르지 않고 무작위성을 일부 반영해야 자연스러운 답변이 나온다.
• GPT-3 훈련 데이터는 사람이 24시간 쉬지 않고 읽어도 2,600년 이상 걸리는 분량이다.
• 초기 무작위로 설정된 파라미터는 역전파(Backpropagation) 알고리즘으로 오차를 줄여가며 조정된다.
• 사전 훈련(Pretraining) 이후 인간 피드백 강화학습(RLHF)을 거쳐 사용자가 선호하는 답변 방식으로 보정한다.
• 2017년 구글 연구팀이 발표한 트랜스포머는 단어를 순차 처리하던 이전 방식과 달리 문장 전체를 병렬 처리한다.
• 트랜스포머의 어텐션 메커니즘은 문맥에 따라 단어 벡터의 의미를 동적으로 변화시킨다.

챕터

1. 0:00LLM의 본질과 다음 단어 예측 (새 탭에서 열림)
2. 1:29방대한 학습 데이터와 파라미터 (새 탭에서 열림)
3. 2:35역전파를 활용한 모델 훈련 (새 탭에서 열림)
4. 3:47사전 훈련과 RLHF (새 탭에서 열림)
5. 4:18GPU 연산과 트랜스포머의 등장 (새 탭에서 열림)
6. 5:11임베딩 벡터와 어텐션 메커니즘 (새 탭에서 열림)
7. 5:39피드포워드 계층과 다음 단어 확률 출력 (새 탭에서 열림)