본문 바로가기

L2 distance2

[cs231n] 과제1. KNN classifiers KNN classifiers two_loops , one_loops , no_loops distances 정답코드는 많은데, X_train과 X_test 간의 distance를 구할 때 각각의 행렬의 배열이 어떻게 변하는지 초보인 나로서는 이해가 잘 가지 않았다. 쉬운 배열을 임의로 만들어서 정답코드의 distance를 구하는공식이 X_train과 X_test간의 원소들간의 계산에 어떻게 적용되는지 눈으로 확인해보았다. two_loops distances >>실제코드 >>쉽게 이해해보자 1. 먼저 가상의 train, test 샘플을 만든다. 실제 CIFAR10의 train 샘플은 (50000, 32, 32, 3) 차원으로 [50000장의 사진x (32x32 픽셀) x3개의 RGB채널] 로 이루어져있고, .. 2020. 10. 29.
[CS231n] 2강. L1 & L2 distance 2강 내용 중 Nearest Neighbor와 K-Nearest Neighbor 모델에서 L1, L2 distance 에 대한 내용이 나온다. 테스트데이터와 학습데이터 사이의 오차를 구하는 함수인데, 상황에 따라서 서로 다른 distance공식을 사용한다고 했다. 이에 대해 이해가 잘 되지 않아서 추가로 공부해보았다. 1. 적합한 알고리즘을 위한 손실함수 정규화 위의 그래프를 보면 학습을 반복할 때, training data에 대한 loss는 감소하지만, 오히려 과적합되어 validation data에서는 loss가 증가하는 모습을 보인다. 이 경우 단 하나의 목표는 손실을 최소하는 것이기 때문에, 모델이 얼마나 복잡해지는가는 상관하지 않는다. 아래의 식은 이를 나타내는 경험적위험최소화 의 식이다. 데이.. 2020. 10. 18.