본문 바로가기
728x90
반응형

ETL38

[Confluent Jdbc Sink] 10.6.x Release note 주요 내용 정리 목적 주요 변경점 파악하여 인프라 확장 설계시 참고하기 위함 버전별 Release note 요약 Version 10.6.5 커넥터의 로깅을 개선함 Version 10.6.4 JDBC 소스 커넥터가 Sybase jConnect JDBC 4 드라이버를 지원하도록 수정함 SQL문을 조건적으로 마스킹하는 설정이 추가됨 Version 10.6.3 - Version 10.6.2 오라클 DB의 CLOB 컬럼에 대해 setChracterStream에 길이 파라미터를 추가하여 성능을 개선함 Version 10.6.1 Sysbase DB에 JDBC 싱크 커넥터가 널 값을 포함한 레코드를 전송하는 것을 실패하는 버그가 수정됨 BatchUpdateException으로부터 민감성 데이터를 제거함 Version 10.6.0 in.. 2024. 2. 20.
[Kafka] 3.6.x Release note 주요 내용 정리 목적 카프카 브로커의 버전 업그레이드 시 발생할 수 있는 사이드 이펙트를 사전파악 및 대응, 신기술에 대한 도입 검토하기 위함 Release note Clause 3.6.0 Notable Changes 아파치 브로커는 이제 같은 포트에 대해 IPv4와 IPV6 리스너를 가지는 것을 지원함. advertised 리스너는 이미 동작중이고 이 non-advertised 리스너도 적용되는 의미 아파치 주키퍼 의존성이 3.6가 EOF에 도달하여 3.8.1로 업그레이드 됨. 2.4버전의 클러스터에서는 바로 업그레이드가 되고 2.4 미만에서는 2.4 < 버전 < 3.6 사이로 한번 경유해야 함 log.message.timestamp.difference.max.ms 설정이 만료됨. 이제 log.message.times.. 2024. 2. 19.
[Kafka] 3.4.x Release note 주요 내용 정리 목적 카프카 브로커의 버전 업그레이드 시 발생할 수 있는 사이드 이펙트를 사전파악 및 대응, 신기술에 대한 도입 검토하기 위함 Release note Clause 3.4.0 Notable Changes SASL JAAS 설정 내 문제가 되는 로그인 모듈 사용을 비활성화하기 위해 시스템 속성인 org.apache.kafka.disallowed.login.modules를 3.4.0부터 추가함. 기본값은 비활성화임 New Feature JmxReporter registration을 비활성화함 결과 레코드를 브로드캐스트하도록 허용함 컨슈머 프로토콜에 "generation" 필드를 추가함 Improvement 처리 내 재할당할 때 자동 선호 선출을 막지 않음 --bootstrap-server kafka-strea.. 2024. 2. 17.
[Kafka] 3.3.x Release note 주요 내용 정리 목적 카프카 브로커의 버전 업그레이드 시 발생할 수 있는 사이드 이펙트를 사전파악 및 대응, 신기술에 대한 도입 검토하기 위함 Release note Clause 3.3.0 Notable Changes 새로운 클러스터에서 KRaft 모드가 운영 준비가 됨 키가 없는 레코드에 기본적으로 사용되는 파티셔너가, 하나 이상의 브로커가 느릴 때 이상한 동작을 방지하도록 개선됨. 새로운 로직은 배치 처리 동작에 영향을 미칠 수 있으며 이는 batch.size 또는 linger.ms 설정을 통해 조정할 수 있음. 또한 partitioner.class=org.apache.kafka.clients.producer.internals.DefaultPartitioner를 사용하여 이전 동작으로 원복할 수 있음 위에서 설명한 .. 2024. 2. 16.
728x90
반응형