개발자로 후회없는 삶 살기

서론 교재에 등장하는 tf의 유용한 기능을 정리합니다. 본론 - 콜백 => 정의 : 훈련 중에 동작을 확장하거나 수정하고자 모델로 전달하는 객체 1. model checkpoint : 정기적으로 모델의 체크 포인트를 저장하고 문제가 발생할 때 복구하는 데 사용 from tensorflow.keras.callbacks import EarlyStopping, ModelCheckpoint model_checkpoint = ModelCheckpoint(filepath="./{epoch}-{val_loss:.2f}-{val_accuracy:.2f}.h5", monitor="val_loss", save_best_only=True, verbose=1) # 데이터 전처리, 모델링, compile 생략 model.fit..

서론 교과목 1, 2주차 퍼셉트론에 관한 내용을 정리합니다. 목적 : 김인철 교수님의 강의는 무조건 남겨야 하는 값진 교육이다. 본론 1주차 - 퍼셉트론이란? N차원의 입력을 받아서 0, 1의 출력을 내는 하나의 뉴런입니다. 깨끗한 선형 분류는 가능하나 비선형 분류는 못합니다. ∴ 딥러닝의 최종 학습은 퍼센트론의 파라미터를 갱신하는 퍼센트론 러닝입니다. => MLP(multi layer perceptron) 퍼셉트론을 여러 개 연결하여 선형을 비선형으로 꺾는 퍼셉트론이다. 안에서 복잡한 일을 해야 곡선의 일(비선형)을 할 수 있습니다. => 퍼셉트론의 한계 1. 경계에서 확 뛴다 > 안정적인 수렴이 어렵습니다. 2. 그래프 중간이 연속적이지 않아서 > 안정적인 수렴이 어렵습니다. => 퍼셉트론의 활성화 ..

서론 GAN 스터디 그룹에서 별도로 공부 및 발제한 내용입니다. 본론 - 신경망에서의 학습 1. 학습 시 Gradient 기반의 방법들은 파라미터 값의 작은 변화가 신경망 출력에 얼마나 영향을 미칠 것인가를 기반으로 파라미터 값을 학습합니다. 2. 변화가 신경망 결과에 매우 작은 변화를 미치게 될 경우 효과적인 학습 불가합니다. 3. Gradient라는 것은 변화량으로 변화량이 매우 작아지거나(Vanishing) 커진다면(Exploding) 신경망 학습이 불가합니다. - 안정적인 학습을 위한 간접적인 방법 1. Sigmoid, tanh : 매우 비선형적인 방식으로 입력 값을 매우 작은 출력값의 범위로 squash e.g. sigmoid는 실수 범위의 수를 [0, 1]로 맵핑 2. 위의 문제점 : 1) 출..

서론 동아리에서 진행한 딥러닝 스터디의 발제 내용입니다. ※ 이 포스트는 다음 교재의 학습이 목적임을 밝힙니다. 밑바닥부터 시작하는 딥러닝 3 이 책은 ‘밑바닥부터’ 직접 만들어보며 즐겁게 딥러닝을 익히는 시리즈의 장점을 그대로 따랐습니다. 코드 3줄로 시작해 60단계까지 차근차근 구현해보세요. 어느새 파이토치, 텐서플로와 같은 현대적이지만 미니멀한 딥러닝 프레임워크가 완성돼 있을 것입니다. 딥러닝과 파이썬 지식을 어느 정도 갖췄다면 전편을 읽지 않고도 충분히 따라 할 수 있습니다. 동적 계산 그래프(Define-by-Run) 구조와 딥러닝 프레임워크 기본 설계, 두 마리 토끼를 잡아보세요! 저자 사이토 고키 출판 한빛미디어 출판일 2020.11.10 본론 - 신경망의 예 선형회귀 모델을 하나의 노드로 ..

서론 ※ 이 포스트는 다음 강의의 학습이 목적임을 밝힙니다. http://cs231n.stanford.edu/ Stanford University CS231n: Deep Learning for Computer Vision Course Description Computer Vision has become ubiquitous in our society, with applications in search, image understanding, apps, mapping, medicine, drones, and self-driving cars. Core to many of these applications are visual recognition tasks such as image cs231n.stanford.e..

서론 ※ 이 포스트는 다음 강의의 학습이 목적임을 밝힙니다. http://cs231n.stanford.edu/ Stanford University CS231n: Deep Learning for Computer Vision Course Description Computer Vision has become ubiquitous in our society, with applications in search, image understanding, apps, mapping, medicine, drones, and self-driving cars. Core to many of these applications are visual recognition tasks such as image cs231n.stanford.e..

서론 FastText는 train 데이터에 등장하지 않은 단어들도 표현가능한 단어 표현 모델입니다. 본 포스팅에서는 주요 내용 위주로 논문을 번역/ 요약하였습니다. > 논문에서는 Word2Vec의 문제점을 다루면서 시작합니다. 저자들은 그 문제점의 중요성을 말하고 극복하기 위한 새로운 모델을 제시합니다. 결과적으로 Word2Vec와 동일하게 단어를 표현하는 모델을 제안합니다. 틀린 내용이 있으면 피드백 부탁드립니다. - 논문 제목 : Enriching Word Vectors with Subword Information - 저자 : Piotr Bojanowski, Edouard Grave, Armand Joulin, Tomas Mikolov 본론 - 논문 [논문 1회독] - Abstrack Word2Vec..

서론 ※ 이 포스트는 다음 교재의 학습이 목적임을 밝힙니다. https://wikidocs.net/book/2155 딥 러닝을 이용한 자연어 처리 입문 많은 분들의 피드백으로 수년간 보완된 입문자를 위한 딥 러닝 자연어 처리 교재 E-book입니다. 오프라인 출판물 기준으로 코드 포함 **약 1,000 페이지 이상의 분량*… wikidocs.net -> 전체 코드 https://github.com/SangBeom-Hahn/NLP/blob/main/nlp_book/5_%EB%B2%A1%ED%84%B0%EC%9D%98_%EC%9C%A0%EC%82%AC%EB%8F%84.ipynb GitHub - SangBeom-Hahn/NLP Contribute to SangBeom-Hahn/NLP development by..