AI 공부 기록 블로그

본 논문은 2021년 CIKM 에서 발표되었으며, 기존에 제안되었던 GCN 기반의 추천 알고리즘인 LightGCN을 수식적으로 더 간소화하여 많은 유저 수와 아이템 수를 가진 현업에서도 적용이 가능하도록 제안된 논문입니다. 해당 논문을 더욱 쉽게 이해하기 위해 이전에 연구되었던 NGCF(이전 정리), LightGCN(이전 정리)의 정리된 내용을 먼저 보시길 추천해 드립니다. 논문의 리뷰는 저의 주관적인 해석과 오역이 있을 수 있습니다. 잘못된 부분이 있다면 댓글을 통해 피드백 남겨주시면 감사하겠습니다. :) 1. Introduction 이전 연구를 통해 GCN(Graph Convolutional Network) 기반의 추천 모델은 전통적으로 사용되었던 CF(Collaborative Filtering) 기..

본 논문은 2018 ACM SIGKDD에서 발표되었으며, 대규모 아이템을 보유한 Pinterest에서 그래프 임베딩을 활용해 새로운 아이템을 추천하기 위해 제안된 논문입니다. 해당 논문의 경우 이전에 등장한 GraphSAGE로부터 파생되어 추천시스템 도메인에 맞게 설계되었으며 요기요, 우버이츠 등 현업에서도 사용한 방법입니다. 논문의 리뷰는 저의 주관적인 해석과 오류 내용이 포함될 수 있습니다. 이 부분에 대해 지적해주시면 감사하겠습니다:) 1. Introduction 그래프 기반의 딥러닝 모델은 사용자-아이템 간의 연결구조를 학습하여 추천시스템 태스크에서 SOTA의 성능을 보였습니다. Graph Convolutional Networks(GCN)의 경우 컨볼루션 연산을 통해 그래프의 이웃 노드 정보를 반..

본 논문은 2020년 KDD 워크샵 중 Industrial Recommendation Systems에서 발표되었으며, 아마존의 대규모 상품 유사도를 식별하기 위해 사용한 딥러닝 기반의 방법론과 상품 유사성 서비스에 대한 전반적인 내용을 다루었습니다. 논문의 리뷰는 제가 이해한 내용을 바탕으로 작성하였으며, 오역이나 잘못된 내용이 있다면 지적해주시면 감사하겠습니다 :) 1. Introduction 아마존에서 유사 상품 식별은 대체 상품 추천, 비슷한 상품 추천, 유사 상품 검색 등 다양한 분야에서 응용되어 사용되고 있습니다. 아래 그림의 (a)의 경우 고객이 핸드폰 케이스를 구매하려 할 때, 재고가 남아있지 않은 경우 사용자가 원했던 상품의 이미지, 제목, 설명 정보 등을 반영하여 이와 유사한 핸드폰 케이..

본 논문은 Transformers를 기반으로 한 시퀀셜 추천시스템에 입력 데이터와 연관된 side information을 모두 분해해 모델 입력으로 사용하여 side information의 효과를 입증하였습니다. 현재는 arXive에 preprint되었으며, 2022 SIGIR conference에 Accept 되었습니다. 논문 리뷰는 제가 이해한 내용을 바탕으로 정리하였으며, 잘못된 내용이 있을 경우 지적해주시면 감사하겠습니다 :) 1. Introduction 먼저 시퀀셜 추천시스템의 목적은 사용자의 행동 패턴(구매 이력)을 바탕으로 이후에 구매할 아이템을 예측하는 문제입니다. 기존 시퀀셜 추천 모델은 CNN, RNN 등을 사용해서 행동 패턴을 파악했다면, 2017년 NLP 분야에서 트랜스포머 모델이 ..

본 논문은 2021년 AAAI에서 발표되었으며, 어텐션 메커니즘을 사용하여 SOTA의 성능을 보인 시퀀셜 추천시스템(BERT4Rec)에 side information(rating, description)을 반영하기 위한 방법을 제안하였습니다. 논문의 리뷰는 제가 이해한 내용을 바탕으로 작성하였으며, 오역이나 잘못된 내용이 있다면 지적해주시면 감사하겠습니다 :) 1. Introduction 어텐션 메커니즘의 등장은 시퀀셜 추천시스템에서도 적용되어 현재까지 좋은 성능을 보이고 있습니다. 특히, 유저가 구매한 아이템의 시퀀스에 [Mask] 토큰을 활용하여 양방향으로 학습한 BERT4Rec 모델은 SOTA의 정확도를 달성하였습니다. 단순히 생각했을 때, 유저에게 새로운 아이템을 추천하기 위해 이전에 아이템 혹은..

본 논문은 2019년 ACM에서 발표되었으며, 현재(2022. 05)까지도 시퀀셜 추천시스템에서 좋은 성능을 보여주고 있습니다. NLP 태스크에서 적용되었던 BERT 모델을 추천시스템에 적용하였으며, 사용자의 구매 패턴을 양방향으로 학습하여 이전의 단방향 추천 모델(SASRec, GRU4Rec) 보다 좋은 성능을 보였습니다. 논문의 리뷰는 제가 이해한 내용을 바탕으로 작성하였으며, 오역이나 잘못된 내용이 있다면 지적해주시면 감사하겠습니다 :) 0. Sequential Recommendation System 먼저 시퀀셜 추천시스템은 유저의 과거 행동 패턴들을 학습하여 이후에 유저가 구매할 아이템을 추천하는 모델입니다. 시퀀셜 추천시스템의 연구 동향을 살펴보면 이전부터 NLP 태스크와 많은 관련이 있었습니다..

본 논문은 2021년 NeurIPS에서 발표된 논문이며, multi-modal data(비디오-오디오-텍스트)를 Transformers 모델을 이용해 각 representation 벡터를 추출하고 self-supervised learning 방법인 contrastive learning을 통해 여러 다운스트림 태스크에서 좋은 성능을 보인 논문입니다. 본 논문에 대한 리뷰는 제가 이해한 내용을 바탕으로 작성하였습니다. 오역이나 잘못된 내용이 있으면 지적해주시면 감사하겠습니다 :) 1. Introduction 주변에서 흔히 볼 수 있는 visual 데이터의 경우 대부분 라벨이 부여되지 않고, 구조화되어있지 않습니다. 모델 학습을 위해 라벨링이 된 이미지나 비디오 데이터를 수집하는 것은 비용적 측면과 시간적 측..

본 논문은 2019년에 ACM International Conference on Multimedia에서 발표되었으며, Micro-video 데이터에 포함된 multi-modal data(시각, 음성, 텍스트 데이터)를 GCN에 적용하여 기존 추천 시스템 모델에서 좋은 성능을 보였습니다. 논문의 리뷰는 저의 주관적인 해석과 오역이 있을 수 있습니다. 이에 대해서 댓글 남겨주시면 감사하겠습니다. :) 0. Background knowledge 먼저, Multi-modal learning이란 변수의 차원이 각기 다른 데이터(modality)가 여럿이 모여 동시에 학습하는 방법을 말합니다. 주로 인간의 감정인식, 행동 인식 분야에서 활발히 연구되지만, 추천시스템에서도 다양한 modality (이미지, 텍스트, ..