#redis
5개 글
LLM 에이전트 플랫폼 아키텍처 - 챗 스트리밍과 long-running 작업의 durability를 어떻게 reconcile할 것인가
2026-04-29챗은 빨라야 하고 long-running 작업은 끊겨도 이어져야 한다. 두 요구를 한 시스템에서 어떻게 reconcile하는가 - 흔한 dual-path 구현의 한계부터 LangGraph Platform / OpenAI Responses / Vercel AI SDK / Cloudflare Agents의 패턴, 그리고 정반대로 가는 OpenAI Realtime까지.
챗봇 성능 최적화: 캐싱 전략으로 비용 절감과 속도 향상
2025-09-07AI 챗봇의 비용을 최대 90%까지 절감하고 응답 속도를 80% 향상시키는 프롬프트 캐싱, 시맨틱 캐싱, 딕셔너리 캐싱 전략을 상세히 분석하고 실제 구현 방법을 제시합니다.
API 사용량 추적 시스템 설계 - Redis 하이브리드 접근법과 성능 최적화 전략
2025-08-30OpenAI API를 활용한 서비스에서 사용자별 월별 사용량을 효율적으로 추적하고 관리하기 위한 Redis 하이브리드 아키텍처 설계와 성능 최적화 전략을 체계적으로 분석한다.
Supervisord를 활용한 프로세스 관리
2024-03-31Supervisord를 사용한 Flask, Celery, Redis 등 다중 프로세스 관리 및 문제 해결
통합 프로젝트 기술 스택 및 아키텍처
2024-03-28Redis, ChromaDB, Nginx, Docker, Flask 등을 활용한 통합 프로젝트의 기술 스택 구성과 흐름