전체 글

PCA는 Principal Component Analysis의 약자로 주성분 분석, 차원 축소를 진행하는 기법이다. PCA의 목적은 고차원의 정보들을 저차원의 정보로 변환하면서 최대한 손실 없이 변환하는 것이다. 이는 실제로 설명변수가 너무 많으면 머신러닝 알고리즘을 적용할 때 어려움(학습속도, 과적합 등)을 겪기 때문에 이 문제점을 해결하면서 정보손실은 없어야 한다. 우선 고차원의 데이터를 저차원으로 바꾸려면 정사영, Projection을 진행해야 하는데 중요한 점은 어느 벡터에 정사영을 시켜야 기존의 정보를 많이 잃지 않느냐는 것이다. 이를 이해하기 위해 공분산행렬에 대해 알아보자. - 공돌이의 수학 노트- 공분산행렬의 기하학적인 형태에 대해 간단하게 설명해 보면 왼쪽과 같이 원의 형태로 주어져있는 ..
1. Transformer in Computer Vision 이전에 Transformer 글에서 설명했듯이, Computer vision에서도 NLP에서 겪는 문제점과 유사하게 기존의 CNN구조의 모델들은 모두 Long-range dependency의 문제점을 겪고 있었고, attention의 중요성도 알게 되었다. 이러한 것은 기존 CNN구조에서 단순히 receptive field를 늘린다고 해결될 문제가 아니었다. 그래서 아주 단순하게 NLP에서 사용하던 Trasnformer이랑 똑같이, Image의 픽셀을 Token 처럼 사용하고자 했었는데, 기존 attention score을 만들 때 아래 이미지와 같이 토큰*토큰 사이즈의 attention score이 만들어지는데 이미지의 경우 256이라고 하면..
· 알쓸신잡
1. Openvpn, Termius 설치 openvpn을 경유하여 서버가 구성되어 있는 경우(아마 서버와 로컬 ip를 같은 위치에 두는) 해당 openvpn 프로그램을 설치(나는 이미 pc에서 해당방법으로 사용하고 있었음) 2. Openvpn config, key, 인증서 이동 데스크톱에서는 호스트에서 제공해 준 exe파일을 설치하니 기본적으로 해당파일들이 설치되고, 계정명만 입력하면 연결됐었는데 폰에서 하려니 해당 호스트에서 준 파일들을 넣고, 계정명을 입력해야 했다. 우선 itunes나 써드파티 프로그램으로 아이폰을 연결하고, itunes에서 Openvpn 앱 폴더에 위의 README를 제외한 3개 파일을 drop 하면 vpn을 구성할 수 있음 -> host로부터 전달받은 이메일, pw를 입력하여 정..
이전에 자연어처리 카테고리에서 Transformer 모델에 대하여 한번 설명했었는데, CV 강의를 들으면서 한번 더 나와서 다시 정리해보도록 하겠다. 0. 배경 Transformer:NLP에서 생기는 문제점을 해결하기 위해 고안된 모델로, 기존 모델들이 sequence data를 처리할 때 데이터를 순차적으로 처리하면서 발생하는 정보손실 즉 `Long-term dependency`를 해결하기 위함. 또한 Next token을 예측할 때 sequence 내의 다른 위치에 있는 정보들과의 상관관계도 매우 중요하고 이를 반영하는 것은 `attention`이다. 즉, Transformer은 Long-term dependency를 해결하고 attention을 도입한 모델이다. CNN의 한계점 Computer Vi..
1. Image Classification 1-1. Confusion Matrix 이전에 분류지표에서도 많이 설명했던 Confusion Matrix에 대하여 다시 짚고 넘어가자. `TP`: 실제 positive인 것을 positive라고 예측 =정답 `FP`: 실제 negative인 것을 positive로 예측= 오답 `FN`: 실제 positive인 것을 negative로 예측 = 오답 `TN`: 실제 negative인 것을 negative로 예측 = 정답 1-2. 평가지표 즉 앞에 T/F는 맞혔는지 틀렸는지를 의미, 뒤에 P/N은 무엇으로 예측하였는지를 의미 `Accuracy`: 전체 데이터에 대하여 올바르게 예측된 데이터의 비율 $$ \text{Accuracy} = \frac{TP + TN}{TP ..
· 알쓸신잡
이전 글에서 이제 서버를 putty를 이용해서 접속하게 됨으로써 putty를 자주 쓰게 될 것 같아 간단한 설정 및 커스텀을 진행하였다. 단순히 이쁘기 위해서 커스텀한게 아니라 눈이 너무 아파서 필수적인 커스텀이다.. 그리고 이렇게 설정한걸 매번하고싶지않다면 꼭 마지막에 있는 설정 저장을 해야 합니다!!!!!!! 1. 폰트 우선 아래와 같이 들어가서 폰트를 설정할 수 있고, Font quality를 Clear Type으로 설정하면 조금 더 선명하게 볼 수 있고 아래의 창과 글씨의 간격을 3 정도로 설정해 주면 좀 편하게 볼 수 있다. 2. 복사 붙여 넣기 다음으로 putty 내에서 기존 윈도에서 익숙한 우클릭 하면 메뉴가 뜨거나, 복붙을 할 때 클립보드에 있는 것을 복사하도록 설정하려면 아래와 같이 설정..
· 알쓸신잡
오늘은 서버 ssh 연결이 끊겨도 파일을 실행시키는 방법에 대하여 작성할 예정이다. 우선 이걸 하게 된 계기는 컴퓨터 비전 프로젝트를 진행하면서 모델을 돌리는 시간이 많았는데, 대회 측에서 제공받은 서버를 이용하여 진행하였는데 이 서버가 있더라도 내 PC에서 SSH연결을 통해서 접속을 해놔야만 해당 코드가 실행되었다. 즉 단순 컴퓨팅 자원을 빌릴 뿐 내 PC가 꺼지면 코드가 실행되지 않아 내 PC를 계속 켜놔야 했다.. 컴퓨터 전기세 얼마나 하겠냐만은 맨날 컴퓨터 하지도 않는데 켜놓기도 뭐 하고, 밤에 잘 때 본체의 레인보우 빛이 너무 많이 나와서 답답해서 방법을 알아보았다. 잡담이 길었는데 이제 시작해보겠다. 우선 하기 전에 검색을 통해서 다양하게 찾아봤는데 `py` 파일을 실행시키는 것은 매우 단순해..
창빵맨
Let's be Developers