전체 글 (27) 썸네일형 리스트형 [Study] 로깅 및 ELK ELK = Elasticsearch + Logstash + Kibana Application 단JSON 구조 로그 출력request_id / service / level 포함 되어야함 . Filebeat로그 수집거의 무가공 전가볍고 안정적 Elasticsearch저장 + 검색 + 집계 Kibana검색 + 대시보드 + 알람 Q. 가장 많이 쓰는 ELK는?A. Filebeat + Elasticsearch + Kibana (Logstash 없는 ELK), [Study] XGrammar https://docs.vllm.ai/en/v0.8.2/features/structured_outputs.html XGrammar 는 vLLM에서 제공하는 grammar-constrained decoding 시스템 임.즉, LLM이 미리 정의된 문법(Grammar)을 벗어난 토큰을 생성하지 못하게 하는 기능임 SQL도 guided decoding 할 수있는데 어렵다고 명시되어있음.vllm 문서에서는 "simplified SQL" 이라고 명시되어 있음. Q. 뭐가 어려운건지? JOIN, 서브쿼리, 윈도우 함수, INTERVAL 등 PostgreSQL 전체 기능을 사용해야 하는 상황에서는 문법 정의가 불가능에 가까움. guided grammar은 출력 형식이 많이 제한된 경우(예: SELECT col F.. [Study] 하네스 엔지니어링 모델 경쟁이 둔화되고 (2026.02) 좀 더 상위 레이어에서 차별점이 추가됨복잡한 작업( 대규모 코딩, 리서치, ... ) 에서는 한번에 답을 잘하는 것보다 끝까지 완주하는 것이 중요함이를 위해 ,복잡한 빌드 파이프라인 이해멀티 에이전트 병렬 실행컨텍스트 관리문서 및 코드 검색 자동화… 하네스 엔지니어링은 복잡한 작업을 안정적으로 수행할 수 있도록 하는 관리 운영 인프라임.기본적으로 멀티에이전트를 구성하고 권한 및 도구를 주는 구조권한 제어와 LSP (Language Server Protocol)가 주요 차별점LLM이 코드베이스와 상호작용할때 LSP의 코드 진단 기능을 사용함피드백 까지 모델 루프안에 추가됨. ( 토큰 소모량 많아짐 ) 결론. 단순하게,대규모 소프트웨어 생성 작업에서 다수의 에이전트를.. [Study] vLLM 멀티 GPU 환경의 NCCL 이해하기 개요. vLLM을 WSL2 환경에서 테스트하다가 멀티 GPU 세팅에서 NCCL(NVIDIA Collective Communications Library) 에러가 발생해서 에러가 발생한 김에 NCCL에 대해 대략적으로 공부한 사실을 정리함. 1. NCCL 이란. 여러 GPU 간 데이터를 주고받기위한 통신 라이브러리임. 2. WSL2의 구조적 제약WSL2는 윈도우 커널 위에서 돌아가는 가상화(Hyper-V) 환경임.리눅스 네이티브 환경과 달리 하드웨어 자원에 직접 접근하는 데 한계가 있음. P2P(Peer-to-Peer) 불가: 원래대로라면 GPU끼리 PCIe 버스를 통해 직접 데이터를 쏴야 가장 빠름. 하지만 WSL2의 가상화 레이어는 P2P 통신이 안됨. Shared Memory (SHM) 불안.. [Paper] LiteralE : Incorporating Literals into Knowledge Graph Embeddings Incorporating Literals into Knowledge Graph Embeddings 📄 https://arxiv.org/pdf/1802.00934.pdf 이 논문은 Knowledge Graph에서 Attribute들 간의 Link Prediction을 위해 Latent Space로의 Transformation을 학습하는 것이 목적이다. 즉, Latent Feature Method의 확장이라고 할 수 있다. 논문에서 Transformation은 다음과 같이 정의된다. Transformation = Learnable parameterized function \( := g \) .. [Paper] KGAT: Knowledge Graph Attention Network for Recommendation KGAT: Knowledge Graph Attention Network for Recommendation https://arxiv.org/pdf/1905.07854.pdf 이 논문이 제시하는 모델은 효과적인 추천을 위해 High-order relations을 고려한 Knowledge Graph Model이다. High-order relation이란 두 아이템들의 Attribute들이 Link된 것이다. (Attribute들 간의 Relation은 기본적으로 여러 관계를 경유하기 때문에 High-order라고 칭하며, 아래 그림에서 Entity들이 Attribute node에 해당한다. 다시 말해서, Attribute들도 고려하는 추천 시스템.. [Study] Graph Neural Network (GNN) Graph Neural Network 1 http://web.stanford.edu/class/cs224w/ GNN은 기본적으로 Graph network를 embedding하는 함수 f를 학습하는 방법에 대한 것이다. Network에서 유사한 Node들끼리 Embedding space (Latent space)에서 가깝게 위치시키도록 Mapping function f를 학습시키는 것이 목적이다. GNN : Graph domain에서 작동하는 Deep learning model이라고 할 수 있다. The tasks you are able .. [Paper] AdapterFusion : Non-Destructive Task Composition for Transfer Learning AdapterFusion: Non-Destructive Task Composition for Transfer Learning 📄 https://arxiv.org/pdf/2005.00247.pdf 이 논문은 Transfer Learning을 수행할 때, Multiple task를 위해 여러 개의 Adapter layer를 적용했을 때 발생하는 문제인 Catastrophic Forgetting을 해결하기 위해 AdapterFusion Layer를 제시한다. Transfer Learning 이미 일반적인 경우에 대해 데이터를 학습한 Pre-trained model이 있을 때, 특정한 Ta.. 이전 1 2 3 4 다음
