본문 바로가기
728x90
반응형

데이터엔지니어23

[Confluent Jdbc Sink] 10.6.x Release note 주요 내용 정리 목적 주요 변경점 파악하여 인프라 확장 설계시 참고하기 위함 버전별 Release note 요약 Version 10.6.5 커넥터의 로깅을 개선함 Version 10.6.4 JDBC 소스 커넥터가 Sybase jConnect JDBC 4 드라이버를 지원하도록 수정함 SQL문을 조건적으로 마스킹하는 설정이 추가됨 Version 10.6.3 - Version 10.6.2 오라클 DB의 CLOB 컬럼에 대해 setChracterStream에 길이 파라미터를 추가하여 성능을 개선함 Version 10.6.1 Sysbase DB에 JDBC 싱크 커넥터가 널 값을 포함한 레코드를 전송하는 것을 실패하는 버그가 수정됨 BatchUpdateException으로부터 민감성 데이터를 제거함 Version 10.6.0 in.. 2024. 2. 20.
[Kafka] 3.6.x Release note 주요 내용 정리 목적 카프카 브로커의 버전 업그레이드 시 발생할 수 있는 사이드 이펙트를 사전파악 및 대응, 신기술에 대한 도입 검토하기 위함 Release note Clause 3.6.0 Notable Changes 아파치 브로커는 이제 같은 포트에 대해 IPv4와 IPV6 리스너를 가지는 것을 지원함. advertised 리스너는 이미 동작중이고 이 non-advertised 리스너도 적용되는 의미 아파치 주키퍼 의존성이 3.6가 EOF에 도달하여 3.8.1로 업그레이드 됨. 2.4버전의 클러스터에서는 바로 업그레이드가 되고 2.4 미만에서는 2.4 < 버전 < 3.6 사이로 한번 경유해야 함 log.message.timestamp.difference.max.ms 설정이 만료됨. 이제 log.message.times.. 2024. 2. 19.
[Kafka] 3.5.x Release note 주요 내용 정리 목적 카프카 브로커의 버전 업그레이드 시 발생할 수 있는 사이드 이펙트를 사전파악 및 대응, 신기술에 대한 도입 검토하기 위함 Release note Clause 3.5.0 Notable Changes 키당 여러 레코드 버전을 저장할 수 있는 새로운 상태 저장소 유형인 "버전별 키-값 저장소"가 도입되어, 타임스탬프가 지정된 타임스탬프 기준의 최신 레코드(키당)를 반환하는 타임스탬프 검색 작업이 가능해짐 Table 집계 시맨틱이 더욱 개선되어 이제 가짜 중간 결과를 방지함 카프카 스트림즈의 ProductionExceptionHandler가 개선되어 이제 직렬화 에러를 커버함 만료된 alterConfigs API 대신 미러메이커는 이제 토픽 설정을 동기화하기 위해 incrementalAlterConfigs.. 2024. 2. 18.
[Kafka] 3.4.x Release note 주요 내용 정리 목적 카프카 브로커의 버전 업그레이드 시 발생할 수 있는 사이드 이펙트를 사전파악 및 대응, 신기술에 대한 도입 검토하기 위함 Release note Clause 3.4.0 Notable Changes SASL JAAS 설정 내 문제가 되는 로그인 모듈 사용을 비활성화하기 위해 시스템 속성인 org.apache.kafka.disallowed.login.modules를 3.4.0부터 추가함. 기본값은 비활성화임 New Feature JmxReporter registration을 비활성화함 결과 레코드를 브로드캐스트하도록 허용함 컨슈머 프로토콜에 "generation" 필드를 추가함 Improvement 처리 내 재할당할 때 자동 선호 선출을 막지 않음 --bootstrap-server kafka-strea.. 2024. 2. 17.
728x90
반응형