728x90

컴퓨터공학 142

[인공지능] 4장. 신경망 기초3

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶4.7 다층 퍼셉트론 퍼셉트론은 선형이라는 한계 - 선형 분리 불가능한 데이터에서는 높은 오류율을 가진다. 4.7.1 특징 공간 변환 퍼셉트론 두 개로 특징 공간을 세 개의 부분 공간으로 나눌 수 있다. 두 퍼셉트론을 병렬로 결합하면 (x1, x2) 공간을 (z1, z2) 공간으로 변환할 수 있다. 새로운 공간 (z1, z2)의 흥미로운 특성 - 선형 분리 불가능하던 네 점이 선형 분리가 가능해진다. - 퍼셉트론을 하나 더 쓰면 XOR 문제를 푸는 신경망이 완성된다. 신경망을 공간 변환기로 볼 수 있다. - 원래 특징 공간을 ..

[인공지능] 4장. 신경망 기초2

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶4.4 퍼셉트론 학습 알고리즘 4.4.2 경사 하강법(gradient descent)의 원리 학습 알고리즘은 J의 최저점 w를 찾아야 한다. 학습 규칙 유도 - 경사 하강법은 미분을 이용해 최적해를 찾는 기법이다. - 미분값 ∂J / ∂w1의 반대 방향이 최적해에 접근하는 방향이므로 현재 w1에 -∂J / ∂w1를 더하면 최적해에 가까워진다. - 방향은 알지만 얼마만큼 가야 하는지에 대한 정보가 없기 때문에 학습률 p를 곱하여 조금씩 이동한다. - p는 하이퍼 매개변수로서 보통 0.001이나 0.0001처럼 작은 값을 사용한다..

[인공지능] 4장. 신경망 기초1

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶4.1 인공 신경망의 태동 인공 신경망은 생물 신경망에서 영감을 얻었지만 실제 구현은 다르다. - 컴퓨터의 작동 원리가 생물의 작동원리와 근본적으로 다르기 때문이다. 4.1.1 생물 신경망 사람의 뇌와 컴퓨터 - 뉴런은 뇌의 정보처리 단위로서 연산을 수행하는 세포체이다. - 처리한 정보를 다른 뉴런에 전달하는 축삭, 다른 뉴런으로부터 정보를 받는 수상돌기로 구성되어 있다. - 사람 뇌는 10^11개가량의 뉴런, 뉴런마다 1000개가량의 연결이 있다. -> 고도의 병렬 처리기 - 반면에 폰 노이만 컴퓨터는 아주 빠른 순차 명령어..

[인공지능] 3장. 기계 학습과 인식2

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶3.5 필기 숫자 인식 sklearn이 제공하는 fit 함수로 모델링(학습)한다. predict 함수로 예측한다. 3.5.1 화소 값을 특징으로 사용 화소 각각을 특징으로 간주한다. - sklearn의 필기 숫자는 8*8 맵으로 표현되므로 64차원 특징 벡터이다. - 2차원 구조를 1차원 구조로 변환한다. from sklearn import datasets from sklearn import svm digit = datasets.load_digits() # svm의 분류기 모델 SC를 학습 s = svm.SVC(gamma=0...

[인공지능] 3장. 기계 학습과 인식1

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶3.1 기계학습 기초 기계학습에서 데이터의 중요성 - 에너지를 만드는 연료에 해당한다. - 데이터가 없으면 기계학습 적용이 불가능하다 가장 단순한 iris 데이터로 시작한다. 데이터 셋 읽기 - 사이킷런(scikit-learn) 라이브러리 설치한다. - pip install scikit-learn 명령어로 라이브러리 설치한다. 3.1.1 iris 데이터셋 읽기 from sklearn import datasets # iris 데이터셋 불러오기 d = datasets.load_iris() # 내용을 출력 (객체 d의 DESCR 변..

[데이터과학기초] 네트워크 분석

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. 그래프 이론 : Graph Theory 정점의 집합과 간선의 집합으로 구성된 그래프를 연구하는 수학의 한 분야 그래프 : 𝐺 = (𝑉, 𝐸) - 𝑉 : 정점의 집합, 𝐸 : 간선의 집합 네트워크 과학: Network Science 다양한 학문 분야에 펼쳐져 있던 복잡계의 연구 대상들이 - '네트워크'라는 하나의 주제로 통일되면서 발생한 학제 간 연구 분야 복잡계 네트워크 : Complex Network - 사회 현상의 탐구 : 소셜 네트워크 - 사람과 사람 사이의 관계 분석 - 생명 현상의 탐구 : 단백질 네트워크 - 분자와 분..

[데이터과학기초] 텍스트 분석

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. 비정형 데이터 : Unstructured Data 미리 정의된 데이터 모델이 없거나, 미리 정의된 방식으로 정리되지 않은 정보 - 이미지, 텍스트, 사운드, 동영상, 기타 등등 비정형 데이터의 처리 : Embedding - 비정형 데이터의 특징을 추출하여 정형 데이터로 바꾸기 - 이미지 임베딩 : ImageNet - 텍스트 임베딩 : Bag of Words, Word2Vec 자연어 처리 : NLP (Natural Language Processing) 자연어 : 사람이 일상생활에서 사용하는 언어 자연어 처리 : 번역, 요약, 분류..

[데이터과학기초] 인공신경망

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. 인공신경망 : ANN (Artificial Neural Network) 사람의 뇌가 동작하는 방식을 그대로 흉내 내어 만든 수학적 모델 뉴런과 시냅스 : neuron and synapse - 사람의 뇌는 뉴런(신경세포)들이 서로 연결되어 다른 뉴런들과 상호작용 - 입력으로 받은 전기 신호를 적당히 처리하여 다른 뉴런에 전달한다. - 신호를 전달하려면 입력으로 받은 전기 신호의 합이 일정 수준을 넘어야 한다. 퍼셉트론 : Perceptron 뉴런의 동작 방식을 모방하여 만든 수학적 모델 입력값 : x1, x2, ⋯ , xn 가중치..

[데이터과학기초] 군집 분석 (Clustering)

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. 군집화 : Clustering 데이터를 서로 비슷하거나, 서로 가까운 것들끼리 묶어서 나누는 것 비지도 학습 : 정답(라벨)이 없음. 유사도와 거리로 판단 - 유사도(similarity) : 두 데이터가 얼마나 가까운가를 나타내는 척도 - 거리(distance ): 두 데이터 사이의 거리 - s = 1 – d, s = similarity, d = distance 유클리드 거리 : Euclidean Distance - 두 점 사이의 거리를 계산하는 가장 일반적인 방법 - 유클리드 공간에서 두 점 사이의 거리 맨해튼 거리 : Man..

[데이터과학기초] 로지스틱 회귀와 분류

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. 선형모델의 일반화 선형회귀분석을 위한 조건 - 결과변수가 연속형 변수이면서 정규분포를 따라야 한다. 선형회귀분석을 위한 조건에 맞지 않는 경우 - 결과변수가 범주형 변수일 때 : 로지스틱 회귀분석 - 결과변수가 어떤 사건이 발생하는 횟수일 때 : 포아송 회귀분석 일반화 선형모델 : generalized linear model 선형회귀모델을 확장 : 정규분포를 따르지 않는 결과변수에 대한 회귀모델 생성 - 표준 선형회귀모델 : μy = b0 + b1x1 + b2x2 +... + bmxm - μy : 결과변수의 조건부 평균, xm ..

[데이터과학기초] 선형 회귀와 예측

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. 회귀 : regression '회귀'의 사전적 의미 : 되돌아감 회귀라는 용어의 유래 - 프랜시스 골턴의 유전학 연구에서 유래 - 회귀의 법칙 : the law of regression 회귀분석과 선형회귀 회귀분석 : regression analysis - 독립변수와 종속변수의 관계를 잘 설명하는 회귀식을 찾는 과정 선형회귀 : linear regression - 독립변수와 종속변수의 관계가 선형일 때 - 선형 회귀식(직선의 방정식) : y = b + ax - 선형 회귀식의 절편(intercept)과 기울기(slope)를 알면 ..

[데이터과학기초] 탐색적 데이터 분석

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. 데이터에 대한 두 가지 접근법 : CDA vs EDA 확증적 데이터 분석 : CDA (confirmatory data analysis) - 가설을 수립하고 데이터를 통해 통계적 유의성을 검정하는 전통적 분석 기법 - Ronald Fisher : 가설검정, 신뢰구간, 유의 수준, 유의확률(p-value) 탐색적 데이터 분석 : EDA (exploratory data analysis) - 정해진 가설과 모형 없이 데이터의 구조와 특성을 통해 통찰을 얻는 분석 기법 - John Tukey : EDA는 우리가 존재한다고 믿는 것들은 물..

[데이터과학기초] 데이터 과학2

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶데이터 과학 프로세스 (Data Science Process) 문제 정의 (problem definition) 데이터 과학의 시작은 문제를 명확히 정의하는 것으로부터 시작 - 부모의 키가 크면 자녀의 키도 클까? - 집값에 영향을 미치는 요인은 무엇일까? 데이터 수집 (data collection) 데이터화 : datafication - a process of taking all aspects of life and turning them into data. 데이터화의 사례 - 트위터/페이스북 : 생각의 조각을 데이터화 - 구글..

[데이터과학기초] 데이터 과학

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶데이터 과학 (Data Science) 수학, 통계학, 컴퓨터과학 등 여러 학문 간의 학제 간 융합적 학문 분야 (an interdisciplinary field of study) 데이터로부터 실행 가능한 지식과 통찰을 발견하기 위해 (to extract actionable knowledge and insights from data) 데이터를 과학적 방법으로 연구하는 학문의 한 분야 (using scientific methods) ▶데이터 과학의 목적 1. 과거를 분석하여 2. 현재를 이해하고 3. 미래를 예측한다 ▶과학적 방..

[데이터 통신] Mobile IP

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶Contents Services Packet Switching Performance Internet Protocol Version 4 Next Generation (IPV6) Transition from IPV4 To IPV6 ▶Addressing - Stationary Hosts IP를 이용한 이동통신을 제공함에 있어 해결해야 할 주요 문제는 주소 지정이다. 원래 IP addressing은 호스트가 특정 네트워크에 연결된 고정 상태라는 가정을 기반으로 했다. 라우터는 prefix를 사용하여 호스트가 연결된 네트워크에 패킷을 ..

[데이터 통신] ICMPv4

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶Contents Services Packet Switching Performance Internet Protocol Version 4 Next Generation (IPV6) Transition from IPV4 To IPV6 ▶ICMPv4 IPv4에 오류 보고 또는 오류 수정 메커니즘이 없다. IP 프로토콜에는 호스트 및 관리 쿼리를 위한 메커니즘도 없다. ICMPv4(Internet Control Message Protocol version 4)는 위의 두 가지 결함을 보완하도록 설계되었다. ▶Messages ICMP 메시..

[데이터 통신] Main and Auxiliary Protocols - IPv4

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶Contents Services Packet Switching Performance Internet Protocol Version 4 Next Generation (IPV6) Transition from IPV4 To IPV6 ▶Main and Auxiliary Protocols 버전 4의 네트워크 계층은 하나의 메인 프로토콜과 세 개의 보조 프로토콜이 있다. 메인 프로토콜 IPv4는 패킷의 packetizing, forwarding, delivery를 담당한다. ICMPv4는 IPv4가 전달 중에 발생할 수 있는 오류를 처리..

[데이터 통신] IPv4 Addressing Example

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. 2022.12.15 - [컴퓨터공학/데이터통신] - [데이터 통신] IPv4 Addressing - Internet Protocol Version 4 [데이터 통신] IPv4 Addressing - Internet Protocol Version 4 복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶Content dhalsdl12.tistory.com ▶Contents Services Packet Sw..

[데이터 통신] IPv4 Addressing - Internet Protocol Version 4

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. ▶Contents Services Packet Switching Performance Internet Protocol Version 4 Next Generation (IPV6) Transition from IPV4 To IPV6 ▶Internet Protocol Version 4 인터넷의 네트워크 계층은 몇 가지의 버전들을 거쳤지만, 오직 두 가지의 버전만 살아남았다. (IPv4, IPv6) IPv4가 거의 고갈되었지만 version 4를 사용하는 일부 영역이 있고 IPv6의 기반이기 때문에 여전히 유효하다. ▶IPv4 Addr..

[수치해석] Ch14. Grandient Methods - Multidimensional

복습하기 위해 학부 수업 내용을 필기한 내용입니다. 이해를 제대로 하지 못하고 정리한 경우 틀린 내용이 있을 수 있습니다. 그러한 부분에 대해서는 알려주시면 정말 감사하겠습니다. 2022.12.10 - [컴퓨터공학/수치해석] - [수치해석] Ch14. Directed Methods - Multidimensional Gradient method은 최적을 찾기 위한 효율적인 algorithm을 생성하기 위해 derivative 정보를 명시적으로 사용한다. ▶Gradients and Hessians 첫 번째 도함수가 0이 되면 최적의 값에 도달한 것이다. 두 번째 도함수의 부호는 양수면 최소, 음수면 최대에 도달한 것이다. 즉, 갈 수 있는 공간 360도 전체 중에서, 가장 경사가 급한 쪽으로 간다. (특히 ..

728x90