#llm
26 notes
챗은 빨라야 하고 long-running 작업은 끊겨도 이어져야 한다. 두 요구를 한 시스템에서 어떻게 reconcile하는가 - 흔한 dual-path 구현의 한계부터 LangGraph Platform / OpenAI Responses / Vercel AI SDK / Cloudflare Agents의 패턴, 그리고 정반대로 가는 OpenAI Realtime까지.
프로덕션 환경에서 LLM 기반 Text-to-SQL을 구축하면서 배운 것들. 동적 스키마 조회, COMMENT 기반 zero-shot, 보안 레이어, 그리고 52문항 5모델 Eval 결과까지 정리한다.
RAG-Anything의 내부 구조를 파헤쳐본다. MinerU 파서, LightRAG 기반 지식 그래프 구축, 멀티모달 처리, VLM 강화 쿼리까지 전체 파이프라인을 상세히 분석한다.
실무에서 활용하는 고급 프롬프트 엔지니어링 기법 세미나 정리
LEGO 블록처럼 조합 가능한 Modular RAG 시스템 설계 - 재사용 가능한 RAG 모듈 구축
Agentic RAG의 개념과 구현 방법을 다룬 TeddyNote 세미나 정리
Podly 프로젝트 AI 기능 개발을 위한 상세 작업 계획 및 Todo 리스트
Second Brain 개념을 RAG 시스템에 적용하여 개인화된 AI 에이전트 구축하기
LlamaIndex의 장점과 실무 활용 방법을 다룬 온라인 세미나 정리
AUTO-RAG 시스템에 대한 김동규 연구원 세미나 정리
LangChain Agent와 Tavily 검색 엔진을 활용한 고급 RAG 시스템 구현 방법과 활용 사례 분석
LangChain의 ConversationalRetrievalChain을 활용한 대화형 RAG 시스템 구현 방법과 주요 기능 설명
정부 주도 초거대 AI 확산 생태계 조성 사업 설명회 참석 기록
LangGraph 라이브러리의 개념과 다중 에이전트 협업 시스템 구현 방법 설명
RAG 시스템 구현 시 마주하는 실전 문제와 해결 방안 세미나 정리
LangChain을 활용한 LLM 애플리케이션 개발 강의 전체 내용 정리
LLM(대규모 언어 모델)의 사전 학습, 파인튜닝, 도메인 적응 전략 강의 정리
AI 개발자 채용 면접을 위한 핵심 AI 지식 정리 - Text Embedding, LLM, Semantic Segmentation, MVC 패턴
LangChain 프레임워크의 기본 개념, 활용 방법 및 LLama2와 결합한 실전 프로젝트 구현 과정 설명
LangFlow는 드래그 앤 드롭으로 AI 워크플로우를 구성하는 MIT 라이선스 오픈소스 도구다(68.5k GitHub stars). LangChain 기반으로 RAG, 에이전트, 멀티에이전트 시스템을 시각적으로 설계하고 API로 배포할 수 있으나, 실제로는 low-code 수준의 학습 곡선이 존재한다.
LLM Wiki는 원문을 매번 검색해 답하는 RAG 대신, LLM이 raw 소스를 읽어 지속적으로 갱신되는 Markdown 위키를 컴파일·유지하는 패턴이다. 이 블로그는 이미 원본 글(content/AI, Tools 등)과 정제 레이어(content/wiki)를 분리하고 있으므로, raw→wiki ingest, index/log, lint, wikilink 검증, 자동 PR 루틴을 붙이면 개인 블로그를 누적 지식베이스로 발전시킬 수 있다.
LLM 기반 Text-to-SQL 시스템을 프로덕션에서 안정적으로 운영하려면 프롬프트 튜닝보다 DB 스키마 품질이 결정적 요소다. 동적 스키마 조회, COMMENT 기반 zero-shot, AST 검증 기반 보안 레이어, 에이전트 위임 방식 self-correction을 조합하면 OLTP 수준 질의에서 높은 정확도를 달성할 수 있다.
Moonlight는 학술 논문 PDF에 AI를 붙여주는 크롬 확장 프로그램이다. 3줄 요약, 자동 하이라이트(기여점/방법론/결과), 드래그 설명, 스마트 인용, Scholar Deep Search(RAG 기반 관련 논문 추천) 기능을 제공하며, 한국 AI 회사 Corca가 개발했다.
misen(mise en place)은 AI 워크플로우의 반복 작업을 Block(dict→dict) 단일 인터페이스로 정의하고 연산자로 조합해 어떤 플랫폼에서든 재사용할 수 있게 하는 Python 라이브러리다. 조합의 결과도 Block이므로 중첩이 자유롭고(닫힘 성질), 플랫폼 어댑터가 LangGraph, MCP, FastAPI 변환을 담당한다.
Second Brain(개인 지식 데이터베이스)에 RAG를 적용하면 컨텍스트 기반 정보 검색과 AI 응답 품질이 동시에 향상된다. 지식이 충분히 축적되면 개인 경험을 가진 Multi-Agent 구현도 가능하다는 아이디어다.
Vibe coding은 Andrej Karpathy가 명명한 개발 철학으로, LLM과 AI 에디터에 코드 생성을 완전히 위임하고 개발자는 의도와 방향에 집중하는 방식이다. Cursor + Composer 조합이 대표적 구현 도구이며, 프로토타입과 주말 프로젝트에 효과적이나 프로덕션 코드에서는 코드 이해 부재가 위험 요소다.