본문 바로가기

ML5

Entropy 는 무엇인가? Entropy : 정보를 표현하는데 필요한 최소 평균 자원량 (코딩을 잘한것) 하트와 뻐큐중에 뭐가 더 엔트로피가 높을까? 하트가 높다 Cross Entropy : 동일하게 정보를 표현한다.비효율적인 것 (코딩을 못한것) KL 다이버전스 : Entropy - Cross entorpy + 양수가 되는것 2024. 3. 6.
(머신러닝) Soft Max 기법 사실 이미 wx 만보고도 답은 정해져있다. 일반적으로 선형분류 모형의 경우 '일대다' 방식 위 예제처럼 선형경계선 찾고 -> 확률적 예측한다 -> 일단 양수로 변환 후 0~1 사이 확률값으로 변환 오차가 1이나 1이넘는 경우가 있기 때문에 실제 값은 1,0,0 0,1,0 0,0,1이 되어야한다 2022. 11. 9.
(머신러닝) 로지스틱 리그레션 정리 2022. 11. 9.
머신러닝의 정의 와 개념 및 원리 성능 향상 11.8 머신러닝 강의 머신러닝의 정의? 기계가 데이터의 상관관계를 학습한다. (X,Y의 상관관계의 폼) -> hypothesis 를 학습 시키는 것 -> Weight를 학습시키는것 -> Cost가 가장낮을 때의 Weights를 찾는것 컴퓨터는 사람이 할 수 있는 직관력이 없기 때문에, 여러가지의 경우의 수 의 답이 나올 수 있다. -> 그래서 우리가 그 답을 찾아주어야 한다. [기계가 하는 것은 (Weight) 찾기!] ❗️오차를 종합하는 것은 Cost ↓낮으면 좋고, ↑높으면 좋지 않은데 머신러닝은 낮은 코스트를 찾기 위함이다. min A. A: cost B: Weight B 0️⃣단계 hypo 폼 결정 y = W(1)x + W(2) 1️⃣단계 Weight 초기값 설정 y = ax + 3 2️⃣단계 .. 2022. 11. 9.