#mlops
노트 4개
AI & Data › Recommender System
딥러닝 추천 시스템: 후보 생성과 랭킹아이템이 수십만~수억 개일 때 쓰는 딥러닝 추천의 2단계 구조(후보 생성 → 랭킹)를 정리했다. 최근 본 아이템으로 다음 아이템을 맞히는 학습, word2vec을 아이템 시퀀스에 적용한 Item2Vec, 맥락을 조건으로 넣는 법, 사용자 벡터와 근사 최근접 이웃 검색으로 바꾸는 서빙, 학습·배포 파이프라인, RNN·트랜스포머 순차 추천, 여러 서비스의 이력과 이미지·텍스트를 합치는 크로스오버·멀티모달 추천, 장기 가치와 파운데이션 추천 모델로 가는 흐름을 다룬다.
AI & Data
머신러닝 모델 서빙학습한 모델을 서비스에서 호출할 수 있게 띄우는 방법. VM·컨테이너·서버리스·모델 서버 같은 배포 형태와 CPU·GPU 추론 선택, 모바일·엣지 배포, 동기 API와 큐 기반 비동기 워커 중 무엇을 고를지, 가중치·이미지 분리, 배치 처리, 헬스 체크, 배포 게이트 같은 설계 원칙과, BentoML처럼 모델을 API·컨테이너로 묶어 주는 프레임워크의 역할을 정리했다.
AI & Data
서비스용 텍스트 분류 모델 만들기악성 댓글 탐지, 상품 카테고리 자동 분류처럼 실제 서비스에 넣는 분류 모델을 만들 때의 결정들. 라벨 기준 정의와 애매한 데이터 제외, 노이즈 많은 텍스트의 토큰화, 가벼운 모델을 고르는 이유와 BoW 선형 모델에서 TextCNN·BiLSTM·트랜스포머까지의 후보, 클래스 불균형, 모델로 라벨 오류 찾기, 사람이 고친 데이터로 재학습, 텍스트·이미지·메타데이터를 함께 쓰는 다중 입력 모델을 정리했다.
AI & Data
MLOps: 머신러닝을 운영 환경에서 굴리기MLOps는 머신러닝(ML)과 운영(Ops)을 합친 말로, 모델을 서비스에 올리고 데이터·모델 버전 관리, 모니터링, 재학습까지 계속 돌리는 일이다. 생명 주기별 구성 요소와 도구, 프로젝트를 고르고 지표·베이스라인을 정하는 법, Kubeflow Pipelines로 본 학습·배포 파이프라인, ML 시스템에 필요한 테스트, 피처 테이블과 학습·서빙 불일치를 막는 법, 파이프라인을 먼저 잇고 모델은 나중에 키우는 원칙을 정리했다.