[Kafka] Avro Serialize/Deserialize
·
기타/Kafka
Custom Se/Deserializer 문제점 Apache kafka serialization에 보면 Serializer & Deserializer 역할을 가진 인터페이스를 Serde 가 정의되어있다. 직렬화/역직렬화를 하는 클래스를 Serde 라고 지칭하겠다. public interface Serde extends Closeable { // .. Serializer serializer(); Deserializer deserializer(); } Avro 란 JSON 으로 정의된 Schema Avro 기존 커스텀 Serdes 의 문제를 해결했나 Registry 지원으로 스키마 변경 지원 Avro 스키마에 맞는 Serde 구현체 코드 자동생성 Avro Class 로 불린다. 애플리케이션 변경을 요구하지 ..
[Kafka] Error: Failed to change permissions for the directory
·
기타/Kafka
TL;DR; Kafka Streams' local state store (rocksDB) could not operate on windows because of permission issue. Environment Key Value OS Windows Kafka clients version v3.5.1 Kafka streams version v3.5.1 JDK OpenJDK 20.0.2 Kotlin version 1.9.10 Source Code KafkaConfig.kt @Configuration @EnableKafka @EnableKafkaStreams class KafkaConfig { companion object { const val SOURCE_TOPIC: String = "source-top..
Kafka 설정 방법 on Windows, Mac
·
기타/Kafka
Cloud + UI -> Conduktor 사용 Localhost (127.0.0.1) 에서 사용 가능하게함. 단일 브로커 + 단일 주키퍼 사용 Windows (1) Kafka Cluster on Cloud Conduktor 라는 제품 사용. Get Started | Conduktor Choose the Conduktor Platform deployment that works for you and your Kafka. Available in Conduktor Cloud and Docker versions. www.conduktor.io (2) WSL 설치 (Windows) Microsoft Store - Ubuntu 설치. (3) Java 설치 How to Install Java on Ubuntu 22...