네이버 부스트캠프 AI Tech 2주차 회고

서론

2주차에서 배우고 느낀 점을 회고합니다.

 

본론

- 모수가 뭐예요? 왜 알아야 해요? 어떻게 구해요?

[https://www.datadata.link/qa105/]

그동안 모수가 항상 제 이론적 접근을 막았습니다. 간혹 딥러닝 논문을 읽다 보면 Likelihood라는 단어가 나올 때가 있는데 논문에서 만나면 전혀 감을 잡을 수 없고, 이해해야 하는 이유도 몰랐습니다.

 

제가 부제목으로 사용한 3가지 질문에 대해 답 할 수 있으면 Likelihood를 만나더라도 겁먹지 않고 더 나아갈 수 있습니다. 저는 실제 현장에서 불확실성을 줄이기 위해 사용하는 것이 통계라는 것에 큰 감명을 받을 수 있었습니다.

 

- MLE

가능도 함수를 구하는 방법론 중 최대값으로 모수를 추정하는 방법입니다. 이를 처음 예제로 접했을 땐 유레카를 외쳤습니다. 전혀 생각지도 못한 부분에서 정답이 도출되고 그러한 방법론이 모수를 추정하는 MLE 였다니 놀라웠습니다.

 

-> 딥러닝에서 MLE 활용 

[https://angeloyeo.github.io/2020/07/17/MLE.html]

MLE는 데이터가 존재하는 어디든 활용될 수 있고 딥러닝의 학습에도 사용할 수 있습니다. 정답 레이블의 소프트맥스 벡터의 로그 가능도를 최적화하는 방법으로 가중치 (모수)를 학습하는 방법을 이해해야 합니다.

 

- 점점 개선되는 피어세션

[https://www.donga.com/news/Opinion/article/all/20220117/111273332/1]

부스트캠프에서 하루하루 공부에 열중하게 하는 것은 매주, 매일 진행되는 다양한 프로그램 활동입니다. 그 중 하루의 시작과 끝을 책임지는 피어세션이 당연 가장 큰 의지를 불어넣어 주었는데요. 처음 하는 세션이다 보니 시행착오가 많았고 1주 차, 2주 차 점점 나아지는 모습을 보며 저도 느낀 게 많습니다.

 

-> 피어세션에는 어떤 것을 하면 좋을까?

강의 관련한 궁금점 공유 및 토의하기
과제 수행 리뷰
10분동안 발표 세션
토이 플젝논문 리뷰로 영어 가까워지기
자바 책 스터디

제가 생각해왔던 것은 이 정도로 하루 1시간이지만 매일 보이면 한 달에 30시간 인만큼 실속 있는 시간이 되었으면 좋겠었습니다.

 

-> 하지만,,,

[https://keyword77.tistory.com/15656596]

팀원 모두에게 맞는 선택과 난이도, 강의 및 과제 리뷰를 했더니 질의응답 채널에서 조교님들 께서 너무 완벽하게 해결해 주시고, 엄청 많은 다양한 의견들이 다시 나오기 시작했습니다.

 

-> 피어세션하면서 느낀점

하루하루 다 한 번씩 해보고 그 중 가장 좋은 것을 골라보는 건 어떨까요?

 

팀원 한분이 위와 같은 의견을 내주셨습니다. 솔직히 걱정이 앞섰습니다. 한 가지 명확하게 정해서 끝까지 가져가는 게 좋은데 이 선택이 맞을까 싶었습니다.

 

하지만 해당 의견은 정답이었습니다. 저는 아직 해보지 않은 것에 대한 두려움이 너무 큰 것 같습니다.

 

내가 정답이라고 생각하지 말하라 정답은 없다.

 

변성윤 마스터님께서 해주신 말씀처럼 내가 해보지 않은 것이라고 해도 의심을 가지지 말고 받아들이는 자세를 가져보니 해보지 않았던 것을 할 수 있게 되었고 그것은 정답이었습니다. 다양한 사람을 만나며 헤쳐나가는 것이 부스트캠프의 최고의 장점이라고 생각합니다.

 

- 파이썬 코드컨벤션

[https://nophotoplease.tistory.com/95]

파이썬 고급 강의를 들으면서 상당히 감명받았던 것은 파이썬의 변수 수명 범위입니다. 파이썬은 함수와 루프가 끝나도 변수가 유지되어 메모리를 잡아먹고 복사를 주의해야 하는 것이었습니다.

 

이를 해결하는 습관! 바로 반환 시 카피해서 반환입니다. 

 

[https://hsb422.tistory.com/entry/%EC%9E%90%EB%B0%94-PART%EC%9E%90%EB%B0%94%EC%9D%98-immutable]

자바에 익숙한 저는 Immutable 객체 반환이라고 받아들일 수 있었는데 파이썬에서는 이런 방식으로 반환하는구나를 배웠습니다.

 

그리고 또 하나는 파이토치 메모리 기법인 item과 del의 생활화입니다. OOM이 발생할 경우 첫 번째로 생각할 수 있는 아주 유용한 습관이 될 것 같습니다.

 

- 최고의 질문 답변 시스템

저는 이번 주 수요일 또 제가 부스트캠프에 들어온 것에 칭찬을 아낄 수가 없었습니다. 부스트캠프는 양질의 강의와 최고의 교수님들도 Special Benefit이지만 뛰어난 캠퍼님들과 공동체에 속할 수 있는 것이 최고의 학습 공간을 만들어 줍니다. 이번에 과제를 수행하며 3시간 이상 투자한 주제에 대해 정확한 답변을 해주신 캠퍼님들께 다시 한 번 감사드립니다.

 

 

참고

[자바의 immute]