liiklus:基于事件的Reactive(RSocket/gRPC)系统

栏目: 编程语言 · 发布时间: 7年前

内容简介:Liiklus [li:klus](爱沙尼亚语中的“流量”) - 基于gRPC的网关,用于基于事件的系统,如果你认为Kafka实现事件系统过于底层,可以使用该系统:目前谁在使用?开始使用:

Liiklus [li:klus](爱沙尼亚语中的“流量”) - 基于gRPC的网关,用于基于事件的系统,如果你认为Kafka实现事件系统过于底层,可以使用该系统:

  • 水平可扩展的gRPC流媒体网关
  • 支持与gRPC一样多的客户端语言(Java,Go,C ++,Python等)
  • 响应reactive第一
  • 每个分区有背压感知源
  • 至少一次/最多一次交付保证
  • 可插拔事件存储(Kafka,Pulsar,Kinesis等......)
  • 可插拔位置存储(DynamoDB,Cassandra,Redis等...)
  • WIP:冷事件存储支持(S3,Minio,SQL,键/值等...)

目前谁在使用?

  • https://vivy.com/ - 25多个微服务,Kafka面前的共享日志基础设施(事件溯源/ CQRS)抽象

开始使用:

$ docker run \
    -e kafka_bootstrapServers=some.kafka.host:9092 \
    -e storage_positions_type=MEMORY \ # only <b>for</b> testing, DO NOT use in production
    -p 6565:6565 \
    bsideup/liiklus:$LATEST_VERSION

现在可以使用 LiiklusService.proto 生成您的客户端。

客户端必须实现以下算法:

  1. 订阅作业:
    stub.subscribe(SubscribeRequest(    topic=<font>"your-topic"</font><font>,    group=</font><font>"your-consumer-group"</font><font>,    [autoOffsetReset=</font><font>"earliest|latest"</font><font>]))
    </font>
  2. 接受:对Subscribe使用相同频道的每个发出的回复:
    stub.receive(ReceiveRequest(    assignment=reply.getAssignment()))
  3. 确认
    stub.ack(AckRequest(    assignment=reply.getAssignment(),    offset=record.getOffset()))

注1:如果在处理之前确认记录是最多一次,在处理后确认记录是至少一次

注意2:建议每隔n个记录确认一次,或者每隔n秒确认一次,以减少位置存储库的负载

使用 Project Reactorreactive-grpc的 示例代码:

<b>var</b> stub = ReactorLiiklusServiceGrpc.newReactorStub(channel);
stub
    .subscribe(
        SubscribeRequest.newBuilder()
            .setTopic(<font>"user-events"</font><font>)
            .setGroup(</font><font>"analytics"</font><font>)
            .setAutoOffsetReset(AutoOffsetReset.EARLIEST)
            .build()
    )
    .flatMap(reply -> stub
        .receive(ReceiveRequest.newBuilder().setAssignment(reply.getAssignment()).build())
        .window(1000) </font><font><i>// ACK every 1000th records</i></font><font>
        .concatMap(
            batch -> batch
                .map(ReceiveReply::getRecord)
                </font><font><i>// TODO process instead of Mono.delay(), i.e. by indexing to ElasticSearch</i></font><font>
                .concatMap(record -> Mono.delay(Duration.ofMillis(100)))
                .sample(Duration.ofSeconds(5)) </font><font><i>// ACK every 5 seconds</i></font><font>
                .onBackpressureLatest()
                .delayUntil(record -> stub.ack(
                    AckRequest.newBuilder()
                        .setAssignment(reply.getAssignment())
                        .setOffset(record.getOffset())
                        .build()
                )),
            1
        )
    )
    .blockLast()
</font>

以上所述就是小编给大家介绍的《liiklus:基于事件的Reactive(RSocket/gRPC)系统》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

数据结构与算法JavaScript描述

数据结构与算法JavaScript描述

[美] Michael McMillan / 王群锋、杜 欢 / 人民邮电出版社 / 2014-8 / 49.00元

通过本书的学习,读者将能自如地选择最合适的数据结构与算法,并在JavaScript开发中懂得权衡使用。此外,本书也概述了与数据结构与算法相关的JavaScript特性。 本书主要内容如下。 数组和列表:最常用的数据结构。 栈和队列:与列表类似但更复杂的数据结构。 链表:如何通过它们克服数组的不足。 字典:将数据以键-值对的形式存储。 散列:适用于快速查找和检索。......一起来看看 《数据结构与算法JavaScript描述》 这本书的介绍吧!

CSS 压缩/解压工具
CSS 压缩/解压工具

在线压缩/解压 CSS 代码

随机密码生成器
随机密码生成器

多种字符组合密码

URL 编码/解码
URL 编码/解码

URL 编码/解码