728x90

ReLU 4

[인공지능] 6장. 컨볼루션 신경망과 컴퓨터 비전2

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶6.3 컨볼루션 신경망의 학습 컨볼루션 신경망은 커널을 학습한다. 6.3.1 손실 함수와 옵티마이저 손실 함수 - 다층 퍼셉트론과 컨볼루션 신경망은 중간층이 다르지만 입력과 출력은 동일하므로 같은 손실함수를 사용한다. 옵티마이저 - 다층 퍼셉트론은 엣지 가중치, 컨볼루션 신경망은 커널의 화소 값을 최적화한다는 점만 다르다. - 학습 원리는 동일하므로 같은 옵티마이저를 사용한다. 6.3.2 통째 학습 (End-to-End) 고전적인 컴퓨터 비전은 수작업 특징을 사용한다. - 사람의 직관으로 설계하기 때문에 어느 정도 성능 달성 ..

[인공지능] 5장. 딥러닝과 텐서플로2

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶5.5 깊은 다층 퍼셉트론 다층 퍼셉트론에 은닉층을 더 많이 추가하면 깊은 다층 퍼셉트론이다. - 깊은 다층 퍼셉트론은 가장 쉽게 생각할 수 있는 딥러닝 모델이다. - 그리고 은닉층 1개만 있어도 다층 퍼셉트론이다. 5.5.1 구조와 동작 깊은 다층 퍼셉트론(DMLP - deep MLP)의 구조 - L - 1개의 은닉층이 있는 L층 신경망이다. - 입력층에 d + 1개의 노드, 출력층에 c개의 노드가 있다. - i번째 은닉층에 ni개의 노드가 있다. (ni는 하이퍼 매개변수) - 인접한 층은 완전 연결, 즉 FC(fully-c..

[인공지능] 4장. 신경망 기초3

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶4.7 다층 퍼셉트론 퍼셉트론은 선형이라는 한계 - 선형 분리 불가능한 데이터에서는 높은 오류율을 가진다. 4.7.1 특징 공간 변환 퍼셉트론 두 개로 특징 공간을 세 개의 부분 공간으로 나눌 수 있다. 두 퍼셉트론을 병렬로 결합하면 (x1, x2) 공간을 (z1, z2) 공간으로 변환할 수 있다. 새로운 공간 (z1, z2)의 흥미로운 특성 - 선형 분리 불가능하던 네 점이 선형 분리가 가능해진다. - 퍼셉트론을 하나 더 쓰면 XOR 문제를 푸는 신경망이 완성된다. 신경망을 공간 변환기로 볼 수 있다. - 원래 특징 공간을 ..

[데이터과학기초] 인공신경망

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. 인공신경망 : ANN (Artificial Neural Network) 사람의 뇌가 동작하는 방식을 그대로 흉내 내어 만든 수학적 모델 뉴런과 시냅스 : neuron and synapse - 사람의 뇌는 뉴런(신경세포)들이 서로 연결되어 다른 뉴런들과 상호작용 - 입력으로 받은 전기 신호를 적당히 처리하여 다른 뉴런에 전달한다. - 신호를 전달하려면 입력으로 받은 전기 신호의 합이 일정 수준을 넘어야 한다. 퍼셉트론 : Perceptron 뉴런의 동작 방식을 모방하여 만든 수학적 모델 입력값 : x1, x2, ⋯ , xn 가중치..

728x90