어쩌다데싸

목차  Transformer, 도대체 그게 뭔데 - Attention 편을 읽고 보는 것을 추천드립니다. 현대 딥러닝 모델의 핵심을 관통하는 Transformer를 이해하지 않고는 AI 기술을 논하기 어렵습니다. 지난 글에서는 Transformer의 등장 배경과 핵심 개념인 Attention 메커니즘을 살펴보았습니다. 앞선 글에서 우리가 Transformer를 배워야 하는 이유는 다양한 유형의 데이터를 처리할 수 있고, 여러 도메인에서 강력한 성능을 보이는 모델이라고 언급했습니다. 이제 해결해야 할 의문은 "그래서 어떻게 강력한 성능을 보이는건데?"겠죠.  정답은 Transformer가 등장한 논문 제목에 있습니다. 'Attention Is All You Need'Attention은 Seq2Seq 모델의..

2024년의 마지막 날에 하는 회고는 내가 가장 좋아하는 해가 넘어가는 시간에, 내가 가장 좋아하는 바다를 보며 작성하고 있다. 한 해가 얼마나 만족스러웠는지와는 별개로 내가 좋아하는 것에 둘러쌓여 글을 쓸 수 있다는 사실이 행복하다. 체계적으로, 다른 사람도 영감을 얻을 수 있게 회고를 작성해보고 싶었지만 그냥 내가 생각나는 대로 써보기로 했다. 회고를 통해 반성도 하고, 칭찬도 하고, 2025년 의지도 불태워보자. 퇴사 후 삶에 대한 고찰2024년이 끝나간다. 매년 시간이 빠르게 흐르지만, 퇴사를 하고 오롯이 내가 컨트롤할 수 있는 시간을 많이 보낸 올해가 유독 그랬다.퇴사를 할 때의 난 열정이 가득했고, 사실은 올해 안에 취업이 될 거라는 막연한 자신감이 있어서 불안하지 않았다.하지만 10월이 지나..

목차  'Attention'이라는 단어를 들으면 무엇이 떠오르나요? 뉴진스의 데뷔곡이 떠오르신다면 삐빅- 정상입니다. 하지만 Transformer를 알게 되면 'Attention'이라는 단어가 노래 제목을 넘어, AI의 핵심 개념 중 하나로 떠오를 것입니다. Transformer는 "Attention Is All You Need"라는 논문에서 처음 등장했죠. 그만큼 Attention은 Transformer를 이해하는 데 있어 아주 중요한 핵심 개념입니다. 이 글을 읽고부터는 Attention 하면 뉴진스와 함께 Transformer 모델이 떠오르길 기대하며 처음 접하는 사람도 이해할 수 있게 기초부터 알아보겠습니다. 1. Transformer 왜 알아야 할까?Transformer는 NLP 처리 분야에서 ..

일상이 힘겹게 느껴질 때 종종 내가 게임 캐릭터고 퀘스트를 깨고 있다고 상상하곤 한다. 취준생인 지금은 '취업'이라는 전직 퀘스트가 있다. 주니어인 듯, 주니어 아닌, 주니어같은 3년 경력을 가지고 있고 어떤 직무로 가고 싶은지 정했으니 1차 전직 정도는 했지 않을까. 막막하게 느껴지는 취준생활을 보다 효율적으로 점검하기 위해 직접 취업을 위한 미니퀘스트를 만들어 보았다.  1. 취업 퀘스트 생성취업 준비 무엇부터 시작해야 할까?보통 경력직(IT)의 취업 준비 프로세스를 크게 나누면 3가지로 나눌 수 있다. 1. 서류 지원 : 경력기술서, 포트폴리오, 자기소개서, 인적사항 등2. 시험 : 인적성, 코딩테스트 등3. 면접 : 기술 면접, 인성 면접, 임원 면접 등 경력기술서, 포트폴리오 등은 한 번에 완벽..

이 글은 추천 시스템의 주요 알고리즘 중 하나인 DeepFM에 대해 설명합니다. DeepFM은 Factorization Machine과 딥러닝을 결합하여 이차 상호작용과 고차원 비선형 관계를 모두 학습해 추천 정확도를 크게 높일 수 있는 모델입니다. 연산 비용과 복잡한 최적화가 필요하다는 한계가 있지만, 적절히 적용하면 정교하고 개인화된 추천이 가능합니다. 목차 https://login-data.tistory.com/30 [추천시스템] 콘텐츠 기반 필터링(CBF)과 협업 필터링(CF)추천시스템의 가장 기본적인 알고리즘인 콘텐츠 기반 필터링과 협업 필터링에 대한 개념을 정리한 글입니다. 콘텐츠 기반 필터링은 사용자와 아이템의 속성 데이터를 바탕으로, 협업 필터링은login-data.tistory.com  ..

추천시스템의 가장 기본적인 알고리즘인 콘텐츠 기반 필터링과 협업 필터링에 대한 개념을 정리한 글입니다. 콘텐츠 기반 필터링은 사용자와 아이템의 속성 데이터를 바탕으로, 협업 필터링은 사용자 간 상호작용 데이터를 기반으로 추천을 수행하는 방식입니다. 특히, 협업 필터링의 잠재 요인 기법은 사용자와 아이템의 숨겨진 특징을 학습하여 추천의 정교함을 높입니다. 추천 시스템은 단일 알고리즘보다 하이브리드 접근을 통해 다양한 환경에서 더 높은 성능을 보일 수 있습니다. 목차 https://login-data.tistory.com/23 AI 추천시스템(Recommender Systems) 시작하기목차 지금까지 해왔던 분야인 추천 시스템과 LLM 중 앞으로는 추천 시스템에 집중하고 싶어 블로그 초창기에 작성했던 추천 ..

목표 없이 바다를 떠돌다.글또 9기가 끝나갈 때쯤 나는 퇴사를 했다. 여행을 다녀오겠다거나 그런 로망은 없었고, 그저 하루를 '온전히 내가 하고 싶은 것'으로 채우고 싶었다. 내가 원하는 공부를 하고, 미뤄왔던 버킷리스트를 이루고... 어떻게 보면 정말 회사를 안 다닐 때의 '일상'을 원했던 것 같다. 아침에 일찍 일어나 수학 공부를 하고, 코딩테스트도 준비하고, 그림도 그리고, 운동도 하고 ... 하고 싶은 것은 많았지만 항상 하루를 마무리 할 때면 오늘 나 뭐했지, 라는 허탈함이 들었다. 아무것도 안 하고 놀았던 것은 아닌데, 뭘 했는지 기억이 잘 나지 않았다.  8월부터는 이력서를 쓰기 시작했다. 전 회사에서 잘 한다는 이야기도 많이 들었고, 3년 정도의 경력이면 금방 취업하겠지하는 마음으로 이력서..

백준을 풀다 보니 심심찮게 등장하는 우선순위큐. 이참에 간단하게 정리하고 넘어가야겠다. 1. 우선순위 큐(Priority)란?1) 개념기본적인 자료구조의 큐(Queue)에 우선순위를 도입한 자료구조가 우선순위 큐(Priority)이다. 즉, 각 값들은 우선순위를 가지고 있고 우선순위가 높은 값부터 처리되는 자료구조이다.  2) 구현방법우선순위 큐는 배열, 연결리스트, 힙(Heap)으로 구현가능하며 이 중 힙으로 구현하는 것이 가장 효율적이다.배열, 연결리스트의 삽입/삭제 시간복잡도 : O(n) 힙의 삽입/삭제 시간복잡도 : O(log2n) - 완전 이진트리 구조이기 때문에!3) Priority Queue vs. HeapqPriority Queue는 Thread Safe하고 Heapq는 Non Safe하다..