Managed Apache Kafka
Кластер Apache Kafka в несколько шагов: три брокера с репликацией, декларативное управление топиками и шифрование трафика. Сервис живёт в вашем пространстве DevSpace, рядом с базами и приложениями проекта — стройте событийную архитектуру, а обновления, восстановление и координацию кластера оставьте платформе.
Потоковая платформа для событий и интеграций — без боли администрирования
Что вы получаете
  • -1-
    Кластер, готовый к production

    несколько брокеров с репликацией партиций между ними

  • -2-
    Декларативные топики

    партиции, фактор репликации и политики хранения задаются конфигурацией, а не скриптами на брокере

  • -3-
    Шифрование трафика

    TLS между компонентами кластера и на внешнем подключении

  • -4-
    Стандартный протокол Kafka

    работают все клиенты экосистемы: Java, Go, Python, Kafka Connect, ksqlDB

  • -5-
    Масштабирование

    рост числа брокеров и ресурсов по мере увеличения потока

Как устроен сервис
Кластером управляет Strimzi — открытый Kubernetes-оператор для Apache Kafka и проект CNCF, стандарт де-факто для запуска Kafka в Kubernetes:
  • Репликация партиций

    Каждая партиция топика хранится в нескольких копиях на разных брокерах, при отказе брокера лидерство автоматически переходит к реплике, и поток данных не прерывается.

  • Топики как конфигурация

    Топик описывается декларативно: имя, число партиций, фактор репликации, политики (retention, compaction и другие настройки Kafka). Оператор приводит кластер к описанию — удобно для GitOps.

  • Управляемый жизненный цикл

    Strimzi выполняет rolling-обновления — брокеры перезапускаются по одному, без остановки кластера, и следит за согласованностью конфигурации.

  • TLS внутри кластера — всегда
    Межброкерный трафик и служебные подключения шифруются, PKI кластера оператор ведёт автоматически.
  • Персистентные тома
    Данные брокеров хранятся на блочном хранилище платформы, доступны реплицируемые классы хранилища.
Возможности
Сценарии использования
  • Событийная архитектура
    асинхронный обмен между микросервисами вместо хрупких синхронных цепочек. Сами сервисы при этом могут работать в managed Kubernetes в том же пространстве и ходить к брокерам по внутренним адресам — выставлять Kafka наружу не обязательно
  • Потоковая обработка
    метрики, клики, телеметрия, IoT: приём и обработка событий в реальном времени
  • Интеграционная шина
    надёжная доставка данных между системами, включая CDC-репликацию из баз данных
  • Буфер и разгрузка
    сглаживание пиков нагрузки между продюсерами и потребителями
Как развернуть Apache Kafka в облаке — три шага
  • 1
    Добавьте сервис «Kafka» в своём пространстве DevSpace: ресурсы брокеров и размер хранилища.
  • 2
    Опишите топики — партиции, реплики и политики хранения, прямо в конфигурации сервиса.
  • 3
    Подключите продюсеров и консьюмеров стандартными Kafka-клиентами по адресу из панели.

Вопросы–ответы