#deep-learning
노트 12개
AI & Data
추천 시스템사용자가 좋아할 아이템을 예측해 골라 주는 추천 시스템을 묶은 주제다. 추천이 나오는 세 자리, 협업·콘텐츠 기반 필터링의 기초, 후보 생성 → 랭킹의 딥러닝 구조, 밴딧과 실시간 피드백·A/B 테스트를 하위 노트로 나누고, 실서비스에서 반복되는 설계 원칙을 정리했다.
AI & Data › Recommender System
딥러닝 추천 시스템: 후보 생성과 랭킹아이템이 수십만~수억 개일 때 쓰는 딥러닝 추천의 2단계 구조(후보 생성 → 랭킹)를 정리했다. 최근 본 아이템으로 다음 아이템을 맞히는 학습, word2vec을 아이템 시퀀스에 적용한 Item2Vec, 맥락을 조건으로 넣는 법, 사용자 벡터와 근사 최근접 이웃 검색으로 바꾸는 서빙, 학습·배포 파이프라인, RNN·트랜스포머 순차 추천, 여러 서비스의 이력과 이미지·텍스트를 합치는 크로스오버·멀티모달 추천, 장기 가치와 파운데이션 추천 모델로 가는 흐름을 다룬다.
AI & Data
논문 읽기와 구현: 고르고, 여러 번 나눠 읽고, 재현할 수 있게 공개하기머신 러닝 논문은 목록을 만들어 병렬로 훑고 일부만 깊게 읽는다. 한 편은 제목·초록·그림 → 도입·결론 → 본문 순으로 여러 번 나눠 읽고 네 가지 질문으로 이해를 점검한다. 구현은 수식을 코드로 옮기는 반복 작업이 되지 않게 저자의 의도와 실패를 상상하며 하고, 공개할 때는 의존성·학습 코드·평가 코드·사전 학습 모델·결과 표와 재현 명령의 다섯 가지를 갖춘다.
AI & Data
딥러닝 직관으로 이해하기: 신경망으로 숫자에서 패턴 찾기인공지능을 「신경망으로 숫자에서 패턴 찾기」 한 문장으로 풀어 보는 입문 노트. 컴퓨터에서는 사진·소리·바둑판이 모두 숫자이고, 사람이 순서도를 짜는 프로그래밍과 달리 딥러닝은 곱하기·더하기 구조의 가중치를 학습으로 찾는다. 층이 쌓이며 선에서 눈·다리로 올라가는 특징, 설명하기 어려운 이유, 강화 학습과 알파고에서 알파제로로의 변화, 전이 학습까지 다룬다.
AI & Data
머신러닝 모델 서빙학습한 모델을 서비스에서 호출할 수 있게 띄우는 방법. VM·컨테이너·서버리스·모델 서버 같은 배포 형태와 CPU·GPU 추론 선택, 모바일·엣지 배포, 동기 API와 큐 기반 비동기 워커 중 무엇을 고를지, 가중치·이미지 분리, 배치 처리, 헬스 체크, 배포 게이트 같은 설계 원칙과, BentoML처럼 모델을 API·컨테이너로 묶어 주는 프레임워크의 역할을 정리했다.
AI & Data
분류 모델 성능 평가 지표분류 모델은 혼동 행렬의 TP·FP·FN·TN으로 평가한다. 정밀도·재현율이 서로 맞바뀌는 이유, 정확도가 불균형 데이터에서 속이는 이유, 조화평균인 F1 점수, 임계값을 바꿔 그리는 ROC 곡선과 AUC(양성이 드물면 PR AUC), 회귀 지표 MAE·RMSE·MAPE·R²와 문제 유형별 지표 고르기, 객체 탐지의 IoU·PR 곡선·AP·mAP를 정리한다.
AI & Data
서비스용 텍스트 분류 모델 만들기악성 댓글 탐지, 상품 카테고리 자동 분류처럼 실제 서비스에 넣는 분류 모델을 만들 때의 결정들. 라벨 기준 정의와 애매한 데이터 제외, 노이즈 많은 텍스트의 토큰화, 가벼운 모델을 고르는 이유와 BoW 선형 모델에서 TextCNN·BiLSTM·트랜스포머까지의 후보, 클래스 불균형, 모델로 라벨 오류 찾기, 사람이 고친 데이터로 재학습, 텍스트·이미지·메타데이터를 함께 쓰는 다중 입력 모델을 정리했다.
AI & Data
자연어 처리 파이프라인: 전처리부터 언어 모델까지자연어 처리(NLP)는 사람의 언어를 컴퓨터가 다루게 하는 분야다. 표현·분류·구조 분석·중의성 해소·언어 모델·시퀀스 변환으로 나뉘는 과제, 데이터셋 준비 → 전처리(토큰화·정제·정규화·인코딩·패딩) → 모델 학습 → 평가·예측의 흐름, 한국어 데이터셋, 교착어 토큰화, 원-핫·TF-IDF·임베딩 층 같은 표현 방식, n-gram부터 트랜스포머·LLM까지의 언어 모델 계보와 퍼플렉서티, 학습 이전의 구문 분석·지식 그래프, 스펙트로그램에서 출발하는 음성 인식과 음성 합성을 정리한다.
AI & Data
컴퓨터 비전 기초: 커널과 합성곱에서 CNN까지컴퓨터 비전은 픽셀 격자에서 높은 수준의 의미를 뽑는 분야다. 영상 처리와의 차이, 분류·탐지·분할·특징·매칭·3D·추적·생성의 세부 과제와 대표 데이터셋, 픽셀 하나로 하는 색 추적, 주변 픽셀 묶음(패치)에 커널을 곱해 더하는 합성곱과 에지 검출, 약한 특징을 모아 얼굴을 찾는 Viola-Jones, 커널을 학습하는 합성곱 신경망(CNN), 얼굴 랜드마크에서 표정·생체 인식으로 올라가는 추상화 층을 정리한다.
AI & Data
퍼셉트론과 다층 퍼셉트론퍼셉트론은 입력과 가중치의 합을 활성화 함수에 통과시키는 인공 뉴런이자 선형 분류기다. 퍼셉트론 학습(경사 하강·델타 규칙), XOR 문제로 드러난 한계, 은닉층을 쌓은 다층 퍼셉트론(MLP)과 오류 역전파 알고리즘, 그 행렬 표기를 정리한다.
AI & Data
LLM 서빙의 병목: KV 캐시, 배치, GPULLM을 수억 명에게 서비스할 때 병목은 연산보다 GPU 메모리인 경우가 많다. 어텐션 비용과 KV 캐시, 산술 강도와 배치 크기, GPU 사용률이 속이는 지표인 이유, 지역보다 GPU를 따라가는 배치, 오토스케일이 안 되는 상황을 정리했다. PagedAttention·연속 배치·프롬프트 캐싱 같은 지금의 서빙 기법과 H100·H200·B200의 연산 대비 메모리 대역폭도 다룬다.
AI & Data
LLM은 무엇을 하고 왜 작동하나대규모 언어 모델은 '지금까지의 글에 이어질 그럴듯한 다음 토큰'을 하나씩 확률로 고르는 기계다. 다음 토큰 예측, 매개변수 파일과 실행 코드 두 개로 된 모델, 인터넷의 손실 압축으로서의 사전 학습과 환각, 역전 저주, 임베딩, 트랜스포머 내부 구조, 기본 모델에서 어시스턴트로 가는 학습 단계, 스케일링 법칙, 계산 환원 불가능성에서 오는 한계와 이를 보완하는 시스템 2 추론·자기 개선·도구 사용까지 정리한다.