오구리의 DevLog

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶4.7 다층 퍼셉트론 퍼셉트론은 선형이라는 한계 - 선형 분리 불가능한 데이터에서는 높은 오류율을 가진다. 4.7.1 특징 공간 변환 퍼셉트론 두 개로 특징 공간을 세 개의 부분 공간으로 나눌 수 있다. 두 퍼셉트론을 병렬로 결합하면 (x1, x2) 공간을 (z1, z2) 공간으로 변환할 수 있다. 새로운 공간 (z1, z2)의 흥미로운 특성 - 선형 분리 불가능하던 네 점이 선형 분리가 가능해진다. - 퍼셉트론을 하나 더 쓰면 XOR 문제를 푸는 신경망이 완성된다. 신경망을 공간 변환기로 볼 수 있다. - 원래 특징 공간을 ..

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶4.4 퍼셉트론 학습 알고리즘 4.4.2 경사 하강법(gradient descent)의 원리 학습 알고리즘은 J의 최저점 w를 찾아야 한다. 학습 규칙 유도 - 경사 하강법은 미분을 이용해 최적해를 찾는 기법이다. - 미분값 ∂J / ∂w1의 반대 방향이 최적해에 접근하는 방향이므로 현재 w1에 -∂J / ∂w1를 더하면 최적해에 가까워진다. - 방향은 알지만 얼마만큼 가야 하는지에 대한 정보가 없기 때문에 학습률 p를 곱하여 조금씩 이동한다. - p는 하이퍼 매개변수로서 보통 0.001이나 0.0001처럼 작은 값을 사용한다..

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶4.1 인공 신경망의 태동 인공 신경망은 생물 신경망에서 영감을 얻었지만 실제 구현은 다르다. - 컴퓨터의 작동 원리가 생물의 작동원리와 근본적으로 다르기 때문이다. 4.1.1 생물 신경망 사람의 뇌와 컴퓨터 - 뉴런은 뇌의 정보처리 단위로서 연산을 수행하는 세포체이다. - 처리한 정보를 다른 뉴런에 전달하는 축삭, 다른 뉴런으로부터 정보를 받는 수상돌기로 구성되어 있다. - 사람 뇌는 10^11개가량의 뉴런, 뉴런마다 1000개가량의 연결이 있다. -> 고도의 병렬 처리기 - 반면에 폰 노이만 컴퓨터는 아주 빠른 순차 명령어..

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶3.5 필기 숫자 인식 sklearn이 제공하는 fit 함수로 모델링(학습)한다. predict 함수로 예측한다. 3.5.1 화소 값을 특징으로 사용 화소 각각을 특징으로 간주한다. - sklearn의 필기 숫자는 8*8 맵으로 표현되므로 64차원 특징 벡터이다. - 2차원 구조를 1차원 구조로 변환한다. from sklearn import datasets from sklearn import svm digit = datasets.load_digits() # svm의 분류기 모델 SC를 학습 s = svm.SVC(gamma=0...

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶3.1 기계학습 기초 기계학습에서 데이터의 중요성 - 에너지를 만드는 연료에 해당한다. - 데이터가 없으면 기계학습 적용이 불가능하다 가장 단순한 iris 데이터로 시작한다. 데이터 셋 읽기 - 사이킷런(scikit-learn) 라이브러리 설치한다. - pip install scikit-learn 명령어로 라이브러리 설치한다. 3.1.1 iris 데이터셋 읽기 from sklearn import datasets # iris 데이터셋 불러오기 d = datasets.load_iris() # 내용을 출력 (객체 d의 DESCR 변..