‘Text Is All You Need: Learning Language Representations for Sequential Recommendation’ 논문을 간단하게 요약 정리한 글입니다. Introduction 전통적인 sequential recommendation은 아이템을 ID로 변환시키고 이에 해당하는 임베딩을 두어 학습하는...

‘Wide & Deep Learning for Recommender Systems’ 논문을 간단하게 요약 정리한 글입니다. Abstract 비선형적인 feature transformation을 적용해 ‘wide’한 feature를 사용하는 linear model은 효과적이고 interpretable하지만, 일반화 성능이 떨어진다. ...

‘Neural Collaborative Filtering’ 논문을 간단하게 요약 정리한 글입니다. Abstract 추천 시스템 분야에서 deep neural network의 사용은 상대적으로 적은 관심을 받아왔다. 지금까지 아이템 벡터와 유저 벡터 간의 상호작용은 두 벡터의 내적을 통해 계산해왔는데, 저자들은 이를 neural networ...

‘UltraGCN: Ultra Simplification of Graph Convolutional Networks for Recommendation’ 논문을 간단하게 요약 정리한 글입니다. Abstract GCN의 직접적인 message passing mechanism은 학습의 수렴속도를 크게 낮춘다. 저자들이 제안한 UltraGCN은 명...

‘Factorization Machines’ 논문을 간단하게 요약 정리한 글입니다. Abstract 이 논문에서 저자는 SVM에 factorization method을 더한 Factorization Machine이라는 새로운 모델을 제시한다. FM은 SVM과 마찬가지로 특정 문제에 국한되지 않은 일반적인 predictor이지만 SVM과 달...

선형변환 다음을 만족하는 함수 $T: V \rightarrow W$를 $V$에서 $W$로 가는 선형변환이라 한다. $T(x+y) = T(x)+T(y)$ $T(cx) = cT(x)$ 영공간과 상공간 영공간은 $T(x) = 0$인 $x \in V$을 원소로 가지는 집합이며 $N(T)$로 표현한다. 영공간의 차원을 nullity라 하고 ...

벡터공간 체 $F$에서의 벡터공간 $V$는 두 연산, 벡터 합과 스칼라 곱을 가지는 집합이다. 이러한 연산들은 아래의 조건을 만족하며 벡터 공간내 유일한 원소를 대응시킨다. 벡터 합에 대한 교환법칙, 결합법칙, 항등원 및 역원 존재 스칼라 곱에 대한 결합법칙, 항등원 존재 벡터 합에 대한 스칼라 곱의 분배법칙 $a(x + y) = ...

Effective Python의 Better way 44, 46을 정리한 내용입니다. getter와 setter? 다른 언어를 사용하다 파이썬을 접한 프로그래머들은 흔히 getter와 setter 메서드를 통해 attribute에 접근하곤 한다. class Exam: def __init__(self): self._g...

Sigmoid (그림 1) sigmoid function 단점 1: 레이어를 깊이 쌓을 시, gradient vanishing 문제가 발생할 수 있다. 그래프를 보면 알 수 있다시피, 퍼셉트론의 출력값이 극단적으로 커지거나 작아진다면 sigmoid 함수가 포화되어 gradient가 0에 매우 가까워진다. 이에 따라 앞쪽 레이어의 gradien...

‘LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation’ 논문을 간단하게 요약 정리한 글입니다. Abstract Graph Convolution Network(GCN)은 collaborative filtering에 있어서 새로운 SOTA 모델이 되었다...