퍼셉트론부터 AI 에이전트까지 70년 인공지능 발전사 정리

핵심

• 1958년 프랭크 로젠블랫이 제안한 퍼셉트론은 스스로 가중치를 조정했으나 배타적 논리합(XOR) 문제를 해결하지 못해 첫 번째 인공지능 겨울을 불렀다.
• 1986년 럼멜하트, 힌튼, 윌리엄스가 네이처에 발표한 논문으로 역전파가 널리 알려지며 다층 신경망 학습의 길이 열렸다.
• 2012년 이미지넷 대회에서 토론토 대학의 AlexNet이 오류율 15.3%를 기록하며 2위와 10%p 넘는 격차로 우승해 딥러닝 도약의 분기점이 됐다.
• 2017년 구글 연구진이 발표한 트랜스포머는 순환 신경망을 배제하고 셀프 어텐션을 적용해 GPU 병렬 연산 효율을 극대화했다.
• 2020년 오픈AI의 재러드 캐플런 연구진은 모델 크기, 데이터양, 연산량을 늘리면 성능이 규칙적으로 오른다는 스케일링 법칙을 정립했다.
• ChatGPT는 사람 피드백 강화학습(RLHF)을 통해 거대 모델을 대화 형식의 실용 서비스로 안착시켰다.
• 2024년 오픈AI의 o1은 답변 직전 추론 과정에 연산을 추가 투입하는 방식으로 복잡한 수학과 코딩 성능을 대폭 개선했다.

챕터

1. 0:00AI 역사를 굴린 세 개의 바퀴 (새 탭에서 열림)
2. 2:40인공 뉴런의 출발과 퍼셉트론 (새 탭에서 열림)
3. 6:04역전파의 등장과 두 번째 겨울 (새 탭에서 열림)
4. 9:18얀 르쿤과 합성곱 신경망(CNN) (새 탭에서 열림)
5. 12:28문맥을 기억하는 신경망 LSTM (새 탭에서 열림)
6. 19:232012년 AlexNet과 딥러닝 도약 (새 탭에서 열림)
7. 26:01이미지 생성의 시작 GAN (새 탭에서 열림)
8. 29:02깊은 망의 한계를 깬 ResNet (새 탭에서 열림)
9. 32:24알파고와 강화학습 (새 탭에서 열림)
10. 35:502017년 트랜스포머의 탄생 (새 탭에서 열림)
11. 39:30이해의 BERT와 생성의 GPT (새 탭에서 열림)
12. 43:00스케일링 법칙과 GPT-3 (새 탭에서 열림)