본문 바로가기
728x90
반응형

Data PipeLine28

[Kafka] 3.2.x Release note 주요 내용 정리 목적 카프카 브로커의 버전 업그레이드 시 발생할 수 있는 사이드 이펙트를 사전파악 및 대응, 신기술에 대한 도입 검토하기 위함 Release note Clause 3.2.0 Notable Changes 프로듀서에 대한 Idempotence 설정이 다른 설정과 충돌하지 않으면 기본적으로 활성화됨. 3.0.0과 3.1.0에서는 버그가 있어 이 기능을 막았고 명시적으로 enable.idempotence를 true로 설정했어야 적용되었음. 3.0.1과 3.1.1, 3.2.0에서는 기본적으로 동작을 함 카프카가 보안 이슈로 log4j와 slf4j-log4j12를 reload4j와 slf4j-reload4j로 교체함 기본 classpath에서 예시 커넥터로 FileStreamSourceConnector와 FileS.. 2024. 2. 14.
[Kafka] 3.1.x Release note 주요 내용 정리 목적 카프카 브로커의 버전 업그레이드 시 발생할 수 있는 사이드 이펙트를 사전파악 및 대응, 신기술에 대한 도입 검토하기 위함 Release note Clause 3.1.0 Notable Changes 아파치 카프카가 자바 17 버전을 지원함 아래 메트릭이 만료되어 다음으로 사용해야 함 bufferpool-wait-time-total > bufferpool-wait-time-ns-total io-waittime-total > io-wait-time-ns-total iotime-total > io-time-ns-total eager 리밸런싱 프로토콜이 이제 제거됨. 따라서, 카프카 브로커 2.4 이전 버전을 사용하는 유저는 2.4 - 3.1 사이 버전을 한번 경우해야 함 New Feature OIDC에 대.. 2024. 2. 13.
[Kafka] 3.0.x Release note 주요 내용 정리 목적 카프카 브로커의 버전 업그레이드 시 발생할 수 있는 사이드 이펙트를 사전파악 및 대응, 신기술에 대한 도입 검토하기 위함 Release note Clause 3.0.0 Notable Changes(다른 항목과 중복될 수 있음) 프로듀서의 메시지 전달이 기본적으로 강력하게 강화됨 idempotence가 활성화됨 acks 가 1 대신 all로 설정됨 주키퍼가 3.6.3 버전으로 업그레이드 됨 Kraft 모드의 미리보기 기능이 가능함 컨슈머 설정 중 session.timeout.ms의 기본값이 10초에서 45초로 증가됨 브로커 설정의 log.message.format.version과 토픽 설정의 message.format.version이 만료됨. 이 두 값은 만약 inter.broker.protocol... 2024. 2. 12.
[Kafka] 2.8.x Release note 주요 내용 정리 목적 카프카 브로커의 버전 업그레이드 시 발생할 수 있는 사이드 이펙트를 사전파악 및 대응, 신기술에 대한 도입 검토하기 위함 Release note Clause 2.8.2 Bug 같은 이름으로 삭제되고 재생성된 토픽을 컨슈머가 잘못 처리하는 버그가 수정됨 Admin.listOffsets 내 호환성이 맞지 않는 버그가 수정됨 EOS를 사용하여 셧다운할 때 최신 offsets을 체크포인트가 포함하지 못하는 버그가 수정됨 offset commit failure percentage 메트릭이 제대로 계산되지 않는 버그가 수정됨 협력적 sticky 할당자가 할당 유효성 검증 실패 때문에 멈추는 버그가 수정됨 토픽이 삭제되고 자동생성되면 프로듀서가 회복을 실패하는 버그가 수정됨 주키퍼와의 연결 문제 때문에 카프카 .. 2024. 2. 11.
728x90
반응형