#llm
노트 27개
AI-Data
LLM·에이전트 도구(Claude Code, 스킬, 루프 엔지니어링)와 AI 활용법, 머신 러닝·딥러닝·강화 학습·자연어 처리의 기초 개념, 파이썬 데이터 분석·Jupyter 같은 데이터 도구에 관한 노트.
AI & Data
루프 엔지니어링에이전트에게 한 턴씩 프롬프트하는 대신, 일을 찾고·맡기고·검증하고·기록하고·다음 단계를 고르는 루프를 설계한다. 자동화·워크트리·스킬·커넥터·서브에이전트·상태 파일로 구성하고, 검증과 이해는 사람이 끝까지 쥔다.
AI & Data
멀티 에이전트여러 AI 에이전트가 조사·작성·검토·실행 역할을 나눠 일하는 방식. 목표 설정 → 분업 → 병렬 수행 → 통합 → 검토로 돌아가며, 에이전트 수보다 역할 설계와 연결(공유 컨텍스트·가드레일)이 품질을 좌우한다.
AI & Data
스케일과 지능 유틸리티합의가 예상한 한계를 넘어 규모를 키울 때 창발 속성이 나온다는 경험칙과, 규모를 키우면 터지는 기술·자본·사업·문화 문제를 하나씩 쪼개 푸는 시스템 관점. 킬러 앱을 사용자 행동에서 찾는 원칙, 지능을 전기 같은 새 유틸리티로 보는 비유와 '밤의 빛' 같은 구체적 효용의 필요, 토큰 단위로 추상화되는 소비와 추론 스택의 과소 투자, 무한한 수요가 만드는 컴퓨트 부족, 민주화와 집중의 갈림길, 교육의 재설계를 정리한다.
AI & Data
시스템 프롬프트 설계 패턴제품용 시스템 프롬프트는 정체성 → 거절 규칙 → 출력 형식 → 환경·도구 설명의 골격을 따른다. 안정적인 규칙은 시스템에, 요청마다 바뀌는 내용은 사용자 프롬프트에 나누는 법, 유출된 Copilot·Bing·ChatGPT·v0 프롬프트에서 반복되는 설계 패턴, 프롬프트 속 비밀은 지켜지지 않는다는 보안 교훈을 정리했다.
AI & Data
예측형 AI와 생성형 AI예측형 AI는 과거 데이터에서 분류·회귀·추천·이상 탐지 같은 좁은 답을 내고, 대개 직접 학습한 모델로 만든다. 생성형 AI는 사전 학습된 큰 모델 위에 프롬프트·컨텍스트를 얹어 열린 출력을 만든다. 두 방식의 개발 루프, 평가 방법, 흔한 함정과 대응을 비교한다.
AI & Data
웹 AI 플랫폼 고르기: 클라이언트, 서버, 하이브리드웹 AI는 모델이 어디서 도나(브라우저 / 서버)와 얼마나 고칠 수 있나(가중치 접근)로 네 가지 선택지가 생긴다. 내장 AI·커스텀 클라이언트 모델·관리형 API·자체 호스팅을 모델 성능·비용·프라이버시·호환성·유지 보수로 비교하고, 요구 사항에서 플랫폼을 고르는 법과 클라이언트 우선 하이브리드 라우팅을 정리한다.
AI & Data
자연어 처리 파이프라인: 전처리부터 언어 모델까지자연어 처리(NLP)는 사람의 언어를 컴퓨터가 다루게 하는 분야다. 표현·분류·구조 분석·중의성 해소·언어 모델·시퀀스 변환으로 나뉘는 과제, 데이터셋 준비 → 전처리(토큰화·정제·정규화·인코딩·패딩) → 모델 학습 → 평가·예측의 흐름, 한국어 데이터셋, 교착어 토큰화, 원-핫·TF-IDF·임베딩 층 같은 표현 방식, n-gram부터 트랜스포머·LLM까지의 언어 모델 계보와 퍼플렉서티, 학습 이전의 구문 분석·지식 그래프, 스펙트로그램에서 출발하는 음성 인식과 음성 합성을 정리한다.
AI & Data
조직 AX: 개발 자동화에서 전사 AI 전환까지AI 전환(AX)을 개발팀 도구에서 조직의 일하는 방식으로 넓히는 과정. 과거 PR 재현·레거시 마이그레이션·신규 서비스 실험으로 자동화 가능성을 재면 실패 원인이 AI가 아니라 요구사항과 맥락 부족임이 드러난다. 맥락을 핵심 자산으로 삼는 원칙, 한 달짜리 Quick Win, 비개발자 온보딩 허들과 GUI 우회, 설치·인증·배포를 감춘 사내 AI 플랫폼, 보안 스캔·승인·인증 프록시를 갖춘 바이브 코딩 앱 배포 파이프라인을 정리한다.
AI & Data
책임 있는 AI: 윤리, 프라이버시·공정성·신뢰AI의 판단은 데이터와 설계자의 선택이 담긴 산출물이라는 관점에서, AI 거버넌스의 세 축인 프라이버시·공정성·신뢰와 투명성을 데이터·지능·UX 세 층에 나눠 무엇을 할지 정리한다. 덜 모으고 PII를 지우고, 데이터 편향(COMPAS, 하위 집단 누락)을 점검하고 신고 경로를 열고, 사용자를 '보정된 신뢰'로 이끌며, 트롤리 딜레마·모럴 머신처럼 정답 없는 판단은 명시하고 공론화한다.
AI & Data
클라이언트 사이드 웹 AI: 내장 AI API, 라이브러리, 런타임브라우저에서 AI를 돌리는 방법은 브라우저가 들고 있는 모델을 부르는 내장 AI(Chrome의 Summarizer·Translator·Prompt API 등)와, Transformers.js·WebLLM 같은 라이브러리로 직접 고른 모델을 돌리는 방식 두 가지다. Chrome 내장 AI API의 현재 상태와 쓰는 법, 라이브러리별 쓰임, Wasm·WebGPU·WebNN 런타임을 정리한다.
AI & Data
평가 주도 개발(EDD): AI 기능을 테스트하며 다듬기평가 주도 개발은 TDD를 AI의 불확실성에 맞게 바꾼 개발 방식이다. 문제를 API 계약처럼 정의하고, 제로샷 기준선을 만들고, 결정적 검사·사람·LLM 심판을 섞은 평가 체계를 세운 뒤, 작고 겨냥한 수정으로 프롬프트를 개선한다. 프롬프트·지표·테스트 입력은 코드처럼 버전 관리하고 CI에서 회귀를 막는다.
AI & Data
프롬프트 작성법 치트시트목표·맥락·과제·제약·형식·예시를 채우면 프롬프트가 된다. 어떤 LLM에나 통하는 원칙(분명하게, 이유를 붙여, 예시로 보여 주고, 구조를 나누고, 금지 대신 할 일을), 앱에 넣는 프롬프트의 구성 요소, 제로샷·퓨샷·생각의 사슬·자기 성찰 기법, 역할·어조·형식을 골라 끼우는 예시를 한 장으로 정리했다.
AI & Data
프롬프트에서 하네스로: 에이전틱 패턴의 진화AI 개발의 중심은 프롬프트 엔지니어링(무엇을 말할까) → 컨텍스트 엔지니어링(무엇을 보여 줄까) → 하네스 엔지니어링(어떤 시스템을 만들까)으로 옮겨 왔다. 엔지니어링의 엄밀함은 사라지지 않고 위치만 옮긴다. 각 단계의 핵심 기법(CoT·ReAct·플로우 엔지니어링, Write/Select/Compress/Isolate, KV 캐시, 하네스 2×2), 실전 사례, 치명적 삼요소와 2의 규칙을 정리한다.
AI & Data
AI 기능 기획: 시스템 블루프린트와 유스케이스 발굴웹 서비스에 AI 기능을 넣기 전에 기회(유스케이스·가치) → 솔루션(데이터·지능·UX) → 거버넌스의 세 관점으로 지도를 그린다. 가치 범주로 아이디어를 내고, 사용자 여정에 배치하고, 데이터 준비도·비용·실패 모드를 따져 우선순위를 정한 뒤 끝에서 끝까지 이어지는 프로토타입으로 검증한다.
AI & Data
AI 기능의 UX 패턴: 배경형·제한형·개방형AI 기능은 사용자에게 드러나는 정도에 따라 배경형(조용히 기존 경험을 돕는다), 제한형(버튼으로 정해진 작업을 부른다), 개방형(자유 입력)으로 나뉜다. 노출이 클수록 유연하지만 위험도 커진다. 유형별 예와 모범 사례, 둘 중 고르는 기준, 투명성·안내·제어·신뢰 보정·실패 관리 패턴 표를 정리한다.
AI & Data
AI 시대 개발자의 역할LLM이 코드 작성을 맡게 되면서 개발자의 일은 모호한 요구를 명확한 문제로 재정의하고, 비결정적 AI를 결정적 검증 장치(하네스·오라클)로 묶고, 결과를 판단·책임지고, 코딩하며 저절로 쌓이던 맥락을 따로 보존하는 쪽으로 옮겨 갔다. 구조적 한계, 시장의 변화, 지시에서 위임으로의 전환, 길러야 할 역량을 정리했다. AI가 주니어의 일을 가져간 뒤 의도적 연습을 일부러 설계하고 시니어가 가르치는 법을 배워야 하는 이유도 정리했다.
AI & Data
AI 코딩 실무 가드레일AI 코딩 에이전트로 프로덕션 코드를 다룰 때의 실무 규칙. 프로젝트 규모에 따른 세 가지 모드, CLAUDE.md와 앵커 주석(AIDEV-NOTE), 테스트는 사람이 쓴다는 원칙, 맥락을 아끼지 않는 프롬프트, 작업마다 새 세션, AI가 건드리면 안 되는 영역과 실수의 등급을 정리한다.
AI & Data
AI 플랫폼 전환과 일의 재편AI를 클라이언트·서버, 웹, 모바일·클라우드에 이은 플랫폼 전환으로 보는 관점. 이전 플랫폼 위에 쌓여 확산이 빠르고, 모델은 SQL 같은 안정된 층이 되며, 제품의 핵심은 메모리·도구 사용·권한(entitlements)을 갖춘 스캐폴딩과 데이터 피드백 루프다. 성과의 기준은 벤치마크가 아니라 실물 경제의 잉여이고, 가장 큰 병목은 기술이 아니라 일의 방식과 직무를 바꾸는 변화 관리다. 소프트웨어 엔지니어는 아키텍트가 되고, 리더십은 명확성·에너지·과잉 제약 문제 풀기로 정리된다.
AI & Data
AI로 개발 가속하기: AI 네이티브 작업 방식과 규칙을 키우는 개발AI를 가끔 꺼내 쓰는 도구가 아니라 리서치·기획·구현·테스트·운영 전반에 깔린 협업자로 다루는 작업 방식. AI부터 시도하고 사람이 검증하는 원칙과 도입 단계, 도구 네 범주와 개발 생명 주기별 활용, 거대한 한 방 프롬프트와 도메인 지식 문서, PRD → 태스크 리스트 흐름, AI가 짜고 사람이 검토하는 바이브 코딩의 현실적 패턴, 이상 행동을 볼 때마다 규칙을 더하는 Rule-Growing Development, AI가 코드를 찾는 방식을 고려한 주석·이름, AI가 맡을 수 있는 작업 길이, 팀·윤리 규칙과 사람의 역할을 정리한다.
AI & Data
AI에게 일 맡기기: 권한·정보·도구코딩 에이전트를 사람에게 일을 맡기듯 다루는 틀. 일을 잘할수록 권한을 넓히고 못하면 좁히는 위임 단계, 기대 출력·관찰 창·되돌릴 지점으로 하는 모니터링, What·Why를 전하는 STICC와 How가 필요할 때의 인지 작업 분석(CTA), 되묻게 하기·불확실성 지도·메타 프롬프트, 템플릿과 문서 같은 컨텍스트, 꼭 필요한 MCP만 붙이기와 검증 도구, 그리고 이를 묶은 하루 작업 흐름을 정리한다.
AI & Data
Claude 스킬 만들기 가이드Anthropic의 스킬 제작 가이드 요점: 3단계 프로그레시브 디스클로저, 트리거를 담은 description, 폴더·이름 규칙, 테스트와 증상별 대응, 배포 방식과 팀 공용 스킬 패키지화, 실전 패턴 5가지.
AI & Data
Claude Code 활용 가이드채팅형 AI와 무엇이 다른지부터 설치, 질문 → 편집 → 도구 → 맥락 → 자동화로 익숙해지는 순서, 슬래시 명령·단축키, MCP 연결, Skills와 CLAUDE.md, 팀 설정 공유, 권한 모드와 자동 모드, `claude -p` 자동화, Claude Code에 맞는 프롬프트 습관, 개발 팀장처럼 위임하는 작업 방식까지 Claude Code를 쓰는 데 필요한 요점을 한 장으로 정리.
AI & Data
LLM 보안 공격: 탈옥, 프롬프트 인젝션, 데이터 중독LLM이 새 컴퓨팅 스택이 되면서 운영체제처럼 고유한 보안 문제가 생겼다. 안전 학습을 우회하는 탈옥(역할극, Base64, 최적화된 접미사, 노이즈 이미지), 외부 데이터에 숨긴 지시로 모델을 가로채는 프롬프트 인젝션(숨은 글씨, 검색 결과, 공유 문서로 데이터 빼내기), 학습 데이터에 심는 데이터 중독·백도어를 수법별로 정리했다. 공격마다 방어가 나오고 다시 우회되는 고양이와 쥐 게임이다.
AI & Data
LLM 서빙의 병목: KV 캐시, 배치, GPULLM을 수억 명에게 서비스할 때 병목은 연산보다 GPU 메모리인 경우가 많다. 어텐션 비용과 KV 캐시, 산술 강도와 배치 크기, GPU 사용률이 속이는 지표인 이유, 지역보다 GPU를 따라가는 배치, 오토스케일이 안 되는 상황을 정리했다. PagedAttention·연속 배치·프롬프트 캐싱 같은 지금의 서빙 기법과 H100·H200·B200의 연산 대비 메모리 대역폭도 다룬다.
AI & Data
LLM 위키: LLM이 쓰고 관리하는 지식 창고질문할 때마다 원문 조각을 다시 찾는 RAG 대신, LLM이 원문을 읽어 서로 링크된 마크다운 위키를 쌓고 고쳐 나가는 지식 관리 패턴이다. 원문·위키·스키마의 세 층, 입수·질의·점검 세 작업, index와 log 파일, 유사도 검색이 관계형 질문에 약한 이유와 대안을 정리한다.
AI & Data
LLM은 무엇을 하고 왜 작동하나대규모 언어 모델은 '지금까지의 글에 이어질 그럴듯한 다음 토큰'을 하나씩 확률로 고르는 기계다. 다음 토큰 예측, 매개변수 파일과 실행 코드 두 개로 된 모델, 인터넷의 손실 압축으로서의 사전 학습과 환각, 역전 저주, 임베딩, 트랜스포머 내부 구조, 기본 모델에서 어시스턴트로 가는 학습 단계, 스케일링 법칙, 계산 환원 불가능성에서 오는 한계와 이를 보완하는 시스템 2 추론·자기 개선·도구 사용까지 정리한다.