개발자로 후회없는 삶 살기
네이버 부스트캠프 AI Tech 1주차 회고 본문
서론
눈 깜짝할 사이에 빠르게 한 주가 지나갔습니다. 새롭게 시작하는 다양한 활동과 지식의 바다 속에서 부스트캠프 1주 차 생활을 돌이켜봅니다.
본론
- 함께 성장하기
첫 주는 OT 주로 진행 방식과 여러 정책들에 적응해 나갔습니다. 이중 가장 크게 와닿은 것은 동료와 함께 성장할 수 있도록 짜여진 커리큘럼입니다. 부스트캠프는 결코 떠먹여 주는 교육을 하지 않습니다. 최고의 컨텐츠를 제공하지만 그것을 소화하는 것은 본인의 몫입니다.
양질의 컨텐츠를 듣기만 하면 끝날까요? 🚨
결코 그렇지 않습니다. 이를 본인의 것으로 체화하고 강화하는 과정이 필요합니다. 하지만 온라인 과정에서 5개월 동안 컴퓨터과 대화하는 것은 쉽지 않습니다.
동료들과 나아가기✅
그래서 부스트캠프가 선택한 방식은 동료기반 교육입니다. 매일 동료들과 하루 일과를 시작하고 학습 종료시간에 토의하고 멘토님께 우리들의 고민거리를 질문하는 것이 부스트캠프의 방식입니다.
수업 시작 전에는 '5개월 동안 온라인으로 어떻게 공부하지'라고 고민했지만 1주를 살고 보니 저도 모르게 '이거 재밌잖아?'라고 즐기고 있는 모습을 보았습니다. 모두 함께 성장이라는 하나의 방향을 바라보고 달려가는 모습이 상당히 매력적이었습니다.
- AI 베이스 탄탄히 하기
AI를 공부하는데 가장 중요한 게 뭐냐고 물으신다면 물론 수학적 지식이 첫번째입니다. 하지만 두 번째부터는 최신 동향? 논문? 이 아닌 기반이 되는 AI 기초 방법론이라고 말하고 싶습니다.
-> 기초 방법론에는 어떤 게 있는데?
1. 경사하강법
모델 최적화 알고리즘인 경사하강법입니다. 선형 회귀부터 시작해서 딥러닝 학습에 반드시 사용되는 방법론이라고 할 수 있습니다. 저는 AI를 시작한 시점부터 경사하강법을 정확히 이해하기 위해 노력했습니다. 하지만 그동안 여러 기관과 연구원분들께 질문을 해도 제 얕은 지식 속에서 완벽히 이해할 수 없었습니다.
그런데 이걸 가능하게 하는 것이 부스트캠프라는 것! 부스트캠프에서 진행한 강의를 들으면서 모델 학습에 필요한 키워드를 학습했습니다. 손실함수, 오차, 미분 등등,,
-> 과거의 저 ✅
1) U자 그래프가 데이터의 분포 그래프인지?
2) 어떻게 U자 그래프를 그리게 되는 것인지?
위 문제들을 이해하지 못해 헤메고 있었습니다. 이번 과정에서 U자 그래프는 손실 그래프라는 것, x축이 w로 w를 실수값으로 입력하게 되면 이상적으로는 U자 그래프가 나올 수 있고 U자 그래프는 이상적인 것으로 굴곡이 나타날 수 있다는 것을 완벽히 이해하였습니다.
-> 편미분🚨
다중 변수에서 w가 여러개일 경우는 어떻게 학습이 일어나는 걸까요? 그 정답에는 편미분이 있었습니다. 경사하강 알고리즘에 편미분을 적용해 그레디언트 벡터를 구할 수만 있다면 그 후는 동일하였습니다.
지금까지 경험으로 경사하강법만 제대로 이해하고 그 연장선에 대한 꾸준한 지식욕과 수학 지식만 있으면 '완벽하진 않지만 이거겠지..? 나는 이해했는데 조금 애매하네..?'식으로 모든 모델을 이해할 수 있었는데 이번 기회로 정확한 정의를 배우고 방법론을 머리로 그릴 수 있는 정도가 되어서 너무 좋습니다.
2. 손실함수
이 그래프를 보고 손실함수와 연결해서 답할 수 있다면 손실함수를 제대로 이해한 것일 겁니다. 오차와 손실함수, 현재의 오차에서 눈을 가리고 산을 내려가는 것이 알고리즘의 학습이었습니다. 저 오차들이 모여 손실함수를 이룬다는 것을 이해해야 합니다.
3. 역전파
지금까지 들었던 AI 강의 중에 가장 흥미롭지만 가장 어려웠던 강의가 CS231n의 역전파 강의였습니다. 딥러닝에 대한 전반적인 경험이 적고 선형회귀에 대한 최적화 알고리즘도 정확히 모를 때 만났던 역전파는 정말 좌절 그 자체였습니다.
1) 역전파에서 최적화 알고리즘이 어디에 쓰이는 가?
2) 체인룰은 어떻게 적용되는 가?
3) 한 에폭마다 어떤 일이 일어나는가?
4) 가중치 갱신은 얼마나 일어나는가?
하지만, 지금은 다릅니다. 위 4가지를 이해한다면 역전파를 이해할 수 있었습니다.
직접 수식을 손으로 풀고 흐름을 따라가니 이해할 수 있었고 이렇게 역전파까지 이해하니 딥러닝에 대한 두려움이 많이 사라졌습니다.
- 임성빈 교수님의 마스터 클래스
AI 커리어는 미지의 영역입니다. 개발자 커리어는 백엔드라면 개발, DevOps, 운영 경험, 최적화라는 틀이 잡혀있는데 반해 AI는 연구자라면 어떤 대학원에서 어떤 새로운 분야를 공부할지 정해야 하고 AI 엔지니어와 AI 서비스 개발자는 어떻게 커리어를 쌓아야 할지 아직 기업들이 모집한 지 얼마 안 된 분야라 신입에게는 도무지 감을 잡기 어렸습니다.
-> AI 서비스 개발자는 커리어를 어떻게 쌍아햐 하나요?✅
이에 대한 현실적인 조언을 들을 수 있고 방향을 잡을 수 있는 세션이 이번주 진행한 마스터 클래스였습니다.
1. 대학원은 필수인가요?
2. 논문은 어떻게 읽죠?
3. AI 커리어는 어떻게 쌓아야 하나요?
4. GPT로 인한 일자리 감소가 걱정입니다.
캠퍼분들의 다양한 고민을 하나하나 진심으로 답변해 주셔서 정말 감사했습니다.
-> AI & Math
저는 AI 커리어 관련된 질문과 요구되는 수학 베이스에 대해 질문했습니다. 수학은 어느 분야든 신입의 문제 해결 능력과 알고리즘 구현 능력에 발휘되는 것이었고 딥러닝은 아는 데 선형대수/확률/통계는 모른다면 새로운 환경에서 살아남기 힘들 수 있다고 하셨습니다.
저의 꿈은 AI 서비스 개발자로 이 경우에는 개발 능력이 훨씬 중요하다고 하십니다. 제가 지금까지 지원한 공고를 보면 ML이 필수고 개발이 우대사항인 ML 엔지니어를 지원한 것 같았습니다. 이번 교육을 받으면서 AI와 개발 중 무엇을 필수로 무엇을 우대사항으로 할지 잡아야 할 것 같습니다. 일단은 주어진 강의를 탄탄히 제 것으로 만드는 데 집중할 것입니다.
'[AI] > [네이버 BoostCamp 회고]' 카테고리의 다른 글
| 네이버 부스트캠프 AI Tech 6주차 회고 (0) | 2023.12.11 |
|---|---|
| 네이버 부스트캠프 AI Tech 5주차 회고 (0) | 2023.12.06 |
| 네이버 부스트캠프 AI Tech 4주차 회고 (0) | 2023.11.28 |
| 네이버 부스트캠프 AI Tech 3주차 회고 (0) | 2023.11.22 |
| 네이버 부스트캠프 AI Tech 2주차 회고 (0) | 2023.11.14 |
