본문 바로가기
300x250

전체 글94

티스토리 블로그 google analytics GA4 시작하기 최근 감사하게도 이 블로그를 방문해주시는 분들이 많아지면서, google analytics와 블로그 연동의 필요성을 느끼게 되었다! 사실 기존에 운영하던 블로그에는 google analytics를 연동해두었었는데, 유니버셜일 때 연동해둔거라 업데이트를 해두었다. (업데이트는 접속 시 나타나는 안내창을 따라 간단한 과정을 거치는데 아주 쉽다) 2023년 7월 1일 이후로는 유니버셜 애널리틱스는 사용이 불가능하다고 하니, 미리 업데이트를 해두자! 지금 설명하는 과정은 google analytics 4, 즉 GA4의 연동 방법이다. 1. 애널리틱스 가입 후, 좌측의 '관리'를 클릭한 후, '계정 만들기' 버튼을 클릭해준다. 2. 계정이름을 원하는 이름으로 입력해준 후, 계정 데이터 공유를 설정해준다. 기본적으.. 2023. 5. 23.
Vision Transformer(ViT) 설명 with Query Key Value Vision Transformer(ViT) Vision transformer는 2021년에 "AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE"이라는 논문에서 제안된 것으로, image classification에 그 목적이 있다. NLP 분야에서 SOTA 성능을 달성한 transformer를 이미지에도 적용하는 방법을 소개하고 있다. transformer의 주요 개념 중 하나인 self-attention이 vision task에서는 어떻게 적용될까? 바로 각 픽셀이 다른 픽셀에 어떻게 영향을 주는가?에 대한 self-attention을 구한다. 왼쪽 아래가 원래의 이미지를 9개의 patch로 잘라둔 것이다. 이미지 pa.. 2023. 5. 17.
가상환경 Kaggle API 사용법 캐글 데이터 다운받기 Kaggle 프로젝트 진행을 위해 새로 가상환경을 만든 상태에서 Kaggle API를 사용하는 방법과, 이 과정에서 내가 만난 오류들을 공유해보고자 한다. 1. 가상환경 생성 및 활성화 conda create -n 가상환경이름 conda activate 가상환경이름 두 명령어로 원하는 이름의 가상환경을 생성한 후, 활성화해주었다. 나는 파이썬 3.11 버전으로 설치되었는데, 특정 파이썬 버전으로 설치하는 등 좀 더 자세한 내용이 필요하다면 아래 링크가 도움이 될 것이다. M2 맥북 아나콘다 가상환경 설치 방법 w. WordCloud 설치 실패 해결 지난 포스팅에서는 brew를 이용해서 M2 맥북에 아나콘다 설치까지 완료했다. 가상환경은 iterm에서 바로 conda 명령어를 실행하면 된다. 1. 만일 처.. 2023. 5. 14.
M2 맥북 아나콘다 가상환경 Okt 사용자 사전 편집 방법 Konlpy를 이용한 자연어 처리를 진행하다보면, 사용자 사전을 편집해야 하는 상황이 오곤 한다. 신조어나 우리가 원하는 단어를 등록해주기 위함이다. 오늘은 그 중에서 Okt 사용자 사전을 편집 후, 적용하는 방법을 정리해보려고 한다. 나는 혐오발언 Classifier를 만들고 있기 때문에 hatespeech라는 아나콘다 가상환경을 설정했는데, 그 가상환경 내에 설치된 okt 사용자 사전에만 적용되도록 하고 싶다. (내가 사용하고 싶은 사용자 사전이 jar 파일로 압축되어 있다고 가정하고 진행한다) 해당 방법이 나온 블로그가 없어 방법을 찾아보다 직접 글을 작성하게 되었다. 1. 먼저 맥북 파인더를 열고, root 폴더로 이동한다.(나는 Macintosh HD라고 되어있다) 2. cmd + shift +.. 2023. 5. 11.
Attention is all you need 논문 리뷰+코드 실습 *동빈나님의 영상을 기반으로 공부한 내용을 문서로 정리한 것입니다. 내용에 대한 저작권은 원작자에게 있습니다. https://www.youtube.com/watch?v=AA621UofTUA&t=3295s&ab_channel=%EB%8F%99%EB%B9%88%EB%82%98 현대 딥러닝 기반 자연어 처리 기술의 핵심 아키텍쳐인 "Transformer" Transformer 아키텍처의 논문 제목은 Attention is all you need. 2021년 기준, 최신 고성능 모델을은 transformer architecture를 활용하고 있다. GPT : transformer의 디코더 아키텍처 활용 BERT : transformer의 인코더 아키텍처 활용. 가장 중요한 태스크는 "기계번역" 발전 과정을 보면.. 2023. 4. 26.
M2 맥북 POSTMAN 설치 다운로드 방법 이제 M2 맥북에도 익숙해졌다. 뭐든 설치하기 전에 잘 확인하는 습관이 생겼다. Flask, REST API 공부를 시작하면서 get 이외에 다른 것들을 확인하기 위해 postman을 설치해야 할 일이 생겼다. 2가지 방법이 있는데, 나는 brew를 이용해서 설치해줬다. brew install --cask postman 이 명령어로 다운을 받을 수 있다. osx_arm64버전으로 잘 설치되었음을 확인할 수 있다. 만일 직접 설치를 원하는 경우, 아래 링크를 클릭해서 POSTMAN 사이트로 접속해준다. Download Postman | Get Started for Free Try Postman for free! Join 25 million developers who rely on Postman, the c.. 2023. 4. 13.
활성화함수 -왜 Sigmoid가 아니라 Relu 함수를 쓸까? 딥러닝 활성화함수에 대해 공부하다보니 함수에 대한 의문이 들었다. RNN, LSTM에서는 Sigmoid(시그모이드) 함수를 사용했는데, 왜 현대의 모델들은 Relu(렐루)함수를 많이 쓰는 걸까? 그렇다면 각각의 함수의 장단점은 무엇일까? 우선 sigmoid, ReLU 둘 다 딥러닝에서 일반적으로 사용하는 활성화 함수다. 각각의 식을 살펴보면 아래와 같다. 시그모이드는 왼쪽과 같이 S자 곡선을 가지고, 0과 1 사이의 출력 범위를 가진다. 즉 x가 음의 무한대에 가까워지면 출력도 0에 가까워지고, 양의 무한대에 가까워지면 출력은 1에 가까워진다. 반면 ReLU는 양수면 입력값을 출력하고, 아니면 0을 출력한다. 양수의 입력값에 대해서는 기울기가 1이고, 음수 입력 값에 대해서는 기울기가 0이다. 두 가지 .. 2023. 4. 12.
ANN RNN LSTM 딥러닝 알고리즘 모델 구조 설명 ANN이란? Artificial Neural Network의 약자로, 사람의 신경망 원리와 유사한 구조로 만든 머신러닝 알고리즘이다. 한국어로는 인공신경망이라고 하며, 이 ANN을 기초로 RNN, LSTM 등의 개념이 나오게 된다. CNN은 약간 다른 개념이기 때문에 추후 짚고 넘어가겠다. RNN이란? Recurrent Neural Network의 약자로, 재귀성(반복되는) 특징을 가지고 있는 신경망이다. ANN은 input->hidden state->output의 과정을 거치며, 각 화살표에는 weight 즉 가중치가 주어진다. RNN에서는 시간에 따라서 Weight가 보존되고, 시간에 따라 같은 hidden weight를 사용한다. 따라서, RNN의 대표적인 특성은 "시계열"데이터를 처리하기에 좋다는.. 2023. 4. 9.
역전파(back propagation) 알고리즘이란? +미분 수식까지 한 번 더 정리하자면, 신경망이 '배운다'는 것은 오차함수를 최소화시키는 가중치와 편향을 구하는 것이다. (이전 포스팅들과 이어집니다) 1. 딥러닝 인공 신경망과 뉴런의 구조 원리 개념 짚기 2. 경사하강법 비용함수(cost) 이해하기 '오차'에 관해서 학습데이터를 살펴보자. 신경망이 출력한 것과, 구하기를 원했던 것의 차이를 구해 계산한 다음(cost) 이를 수천 가지 학습 데이터에 수행하고 평균을 얻으면 우리는 신경망의 모든 오차를 구할 수 있다. 우리는 이 '오차 함수(cost 함수)의 음의 기울기'를 찾고자 한다. 모든 weight, bias, connections를 어떻게 변경해야 하는지를 알려주기 때문이다. 역전파는 그 많고 복잡한 기울기를 계산하기 위한 알고리즘이다. 기울기 벡터를 13000.. 2023. 4. 5.