Data Engineering[STREMING PIPELINE] 실시간 스트리밍 데이터 파이프라인 (Real-Time) 구축: Confluent와 CDC를 활용한 실시간 데이터 처리 완벽 가이드시작하며 최근들어 streaming 관련 데이터 파이프라인 기술에 흥미가 생길 시점에 마침, 회사에서 Co…NASA15152024-02-10 7 min
Data Engineering[KAFKA] Apache Kafka Consumer Group 심층 분석: 효율적인 데이터 처리를 위한 Rebalancing 메커니즘과 최적화 기법Consumer Group (Consumer 그룹) Brocker는 Producer가 전송한 Record를…NASA15152022-12-21 9 min
Data Engineering[KAFKA] Apache Kafka Consumer의 동작 방식의 완벽 이해 정리 [Poll method, Offset, Commit]✔ KAFKA Consumer Kafka Producer가 Record를 생산하고, Brocker의 Top…NASA15152022-12-18 4 min
Data Engineering[KAFKA] Apache Kafka Producer의 동작 방식과 데이터 무결성 보장의 이해 (Processing method, ACK, Idempotence)✔ KAFKA Producer Kafak Client인 Producer의 기본적인 역할은 Source에 있…NASA15152022-12-02 6 min
Data Engineering[KAKFA] Apache Kafka 아키텍처 심층 분석: Producer, Consumer, Broker 모델부터 고가용성까지 핵심 구성요소 이해✔ What is the KAFKA???? 아마 대부분의 데이터 엔지니어라면, Streaming Data …NASA15152022-12-01 3 min
Data Engineering[KAFKA] Azure Event Hubs로 Kafka 스트리밍 구현: Producer와 Consumer 코드 예제 및 설정 방법✔ Kafka Producer Application Kafka는 기본적으로 Clinet API를 가지고 있…NASA15152022-05-11 1 min