Celery 使用过程中又遇一坑，最近升级项目中使用的 Celery 到 4.1.1，突然发现一些定时任务突然不执行了。开始还以为代码哪里做了变化，尝试找了很久，然后打开 scheduler 的日志观察了一段时间。
Celery config 中的配置是如下所示，理论上，早间的任务应该在 8 点到 12 点 每隔 5 分钟执行一次，然后午间和晚间的以此类推。
app.conf.timezone = 'Asia/Shanghai'
app.conf.beat_schedule = {
'morning': {
'task': 'worker.xxx.get_xxx',
'schedule': crontab(minute='*/5', hour='8-12'),
'args': ('早间',),
'options': {
'queue': 'xxx'
}
},
'afternoon': {
'task': 'worker.xxx.get_xxx',
'schedule': crontab(minute='*/5', hour='12-18'),
'args': ('午间',),
'options': {
'queue': 'xxx'
}
},
'evening': {
'task': 'worker.xxx.get_xxx',
'schedule': crontab(minute='*/5', hour='19-21'),
'args': ('晚间',),
'options': {
'queue': 'xxx'
}
},
}
但是观察日志发现，即使现在是下午 4 点，但是上午的任务依然在跑，这个时候突然想起来，是不是因为版本升级导致，果不然，一查 GitHub 就有人反馈这个问题，目前解决方法很简单，为了恢复可用状态，将 celery 回滚到了 4.0.2 版本。暂时没有发现问题。
看 issue 已经意识到该问题，希望能在 4.2 版本中修复吧，有时间的话我再看看他的源码。
lombok 在编译器编译时通过操作 AST（抽象语法树）改变字节码生成。也就是说他可以改变 Java 语法。lombok 不像 Spring 的依赖注入是运行时的特性，而是编译时的特性。使用 lombok 需要对应 IDE 插件配合，具体可参考官网。
官网地址：https://projectlombok.org/
添加 maven
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<version>1.16.20</version>
</dependency>
最新的版本号，可以在官网或者 mvnrepository 找到。 如果使用 Intellij IDEA 还需要安装一个插件。
类注解
import lombok.Data;
@Data
public class Thing {
private Long id;
private String desc;
}
通过添加注解 @Data 可以给类快速添加 get 和 set 方法，toString() 方法等等。 @Data 注解其实是 @ToString，@Getter，@Setter，RequiredArgsConstructor，@EqualsAndHashCode 注解的缩写。
其实等效于
import lombok.EqualsAndHashCode;
import lombok.Getter;
import lombok.RequiredArgsConstructor;
import lombok.Setter;
import lombok.ToString;
@ToString
@RequiredArgsConstructor
@EqualsAndHashCode
public class Thing {
@Setter @Getter private Long id;
@Setter @Getter private String desc;
}
相关的注解：
@Getter/@Setter：用在属性上，再也不用自己手写 setter 和 getter 方法了，还可以指定访问范围@ToString：用在类上，可以自动覆写 toString 方法，当然还可以加其他参数，例如 @ToString(exclude=”id”) 排除 id 属性，或者 @ToString(callSuper=true, includeFieldNames=true) 调用父类的 toString 方法，包含所有属性@EqualsAndHashCode：用在类上，自动生成 equals 方法和 hashCode 方法@NoArgsConstructor, @RequiredArgsConstructor and @AllArgsConstructor：用在类上，自动生成无参构造和使用所有参数的构造函数以及把所有 @NonNull 属性作为参数的构造函数，如果指定 staticName = “of”参数，同时还会生成一个返回类对象的静态工厂方法，比使用构造函数方便很多@Data：注解在类上，相当于同时使用了@ToString、@EqualsAndHashCode、@Getter、@Setter和@RequiredArgsConstrutor这些注解，对于 POJO 类十分有用@Value：用在类上，是 @Data 的不可变形式，相当于为属性添加 final 声明，只提供 getter 方法，而不提供 setter 方法@NonNull 用在方法参数上，该变量不能为空，否则就抛出异常@Builder：用在类、构造器、方法上，为你提供复杂的 builder APIs，让你可以像如下方式一样调用 Person.builder().name(“Adam Savage”).city(“San Francisco”).job(“Mythbusters”).job(“Unchained Reaction”).build(); 更多说明参考 Builder@SneakyThrows：自动抛受检异常，而无需显式在方法上使用 throws 语句@Synchronized：用在方法上，将方法声明为同步的，并自动加锁，而锁对象是一个私有的属性 $lock 或 $LOCK，而 java 中的 synchronized 关键字锁对象是 this，锁在 this 或者自己的类对象上存在副作用，就是你不能阻止非受控代码去锁 this 或者类对象，这可能会导致竞争条件或者其它线程错误@Getter(lazy=true)：可以替代经典的 Double Check Lock 样板代码@Log：根据不同的注解生成不同类型的 log 对象，但是实例名称都是 log，有六种可选实现类
@CommonsLog Creates log = org.apache.commons.logging.LogFactory.getLog(LogExample.class); @Log Creates log = java.util.logging.Logger.getLogger(LogExample.class.getName()); @Log4j Creates log = org.apache.log4j.Logger.getLogger(LogExample.class); @Log4j2 Creates log = org.apache.logging.log4j.LogManager.getLogger(LogExample.class); @Slf4j Creates log = org.slf4j.LoggerFactory.getLogger(LogExample.class); @XSlf4j Creates log = org.slf4j.ext.XLoggerFactory.getXLogger(LogExample.class);
正如上面所例举，lombok 可以使用的日志框架有很多，拿最常见的 @Slf4j 来举例
@Slf4j
public class A {
public A() {
log.info("I'm sectionVO : {}", toString());
}
}
编译会自动生成
private static final Logger log = LoggerFactory.getLogger(A.class);
如果在类上使用 @Builder 注解，则会给该类直接生成 builder 模式，然后可以使用 builder() 方法返回的 builder 来构造类。
如果要对 Builder 中的值赋予默认值，有两种方式，比如对于
@Builder
public class Person {
private String firstname = "John";
private String lastname = "Doe";
}
第一种方式就是手动编写一个静态内部类
@Builder
public class Person {
private String firstname;
private String lastname;
private String middleName;
public static class PersonBuilder {
private String firstname = "John";
private String lastname = "Doe";
}
}
或者在 v1.16.16 之后添加的新功能
@Builder
public class Person {
@Builder.Default private String firstname = "John";
@Builder.Default private String lastname = "Doe";
private String middleName;
}
当一个类被标注 @Builder 后会自动产生下面 7 件事情：
FooBuilder ，类内部有着和类相同类型的内部变量最后，如果在类上注解 @AllArgsConstructor(access = AccessLevel.PACKAGE) 那么可以将 @Builder 应用到类上。如果自己显示定义了构造函数，那么将 @Builder 用在该构造方法上。
其他的特性可以在这里看到：https://projectlombok.org/features/all
Adaway 通过修改 Host 来去除手机上的广告。支持自定义 HOST 源，这就意味着稳定可用的屏蔽规则依赖于可靠及时更新的 Host 规则了。为了避免误伤，我尽量会不全部启用，只会启用一些特别恼人的广告。
From: https://github.com/AdAway/AdAway/wiki/HostsSources
leader 维护了 ISR（能完全赶得上 leader 的副本集）, 每个 Partition 当前的 leader 和 ISR 信息会记录在 ZooKeeper 中。leader 会跟踪与其保持同步的 Replica 列表，该列表称为 ISR。如果一个 follower 宕机，或者落后太多，leader 将把它从 ISR 中移除。只有 leader 才能知道哪些 Replica 能够及时完全赶得上。所有 follower 都会和 leader 通信获取最新的消息。但是 follower 之间并不互相知道彼此的信息。所以由 leader 来管理 ISR 最合适了。leader 还可以决定移除落后太多的 Replicas.
每个 Replica 都在自己的 local log 中存储消息，并在日志中维护了重要的 offset 位置信息。LEO 代表了日志的最新的偏移量，HW 是最近提交消息的偏移量。
每个日志都会定时地同步到磁盘。在 flushed offset 之前的数据一定能保存成功持久化到磁盘上。flush offset 可以在 HW 之前或者之后（因为 follower 只是先写到内存中然后返回 ack 给 leader,hw 增加时， follower 在内存中的消息不一定什么时候写到磁盘上，即可能在 hw 增加前就写到磁盘，或者等 hw 增加后才写到磁盘）。
leader 也会定时地将 HW 广播给所有的 followers. 广播消息可以附加在从 follower 过来的 fetch 请求的结果中。同时，每个副本（不管是 leader 还是 follower) 也会定时地将 HW 持久化到自己的磁盘上。当 follower 向 leader 提交 fetch 请求时，leader 也会告诉所有的 follower 说，我现在的 hw 是多少了。这是一种保护机制。 假设只有 leader 一个人保护了 hw 这个重要的信息，一旦 leader 不幸挂掉了，就没有人知道 hw 现在到底是多少了。所以只要一有 follower 过来获取消息时，leader 就不厌其烦地像个老太婆不断地唠叨说我这一次的 hw 更新到了哪里。每个 follower 也就都会知道 leader 的最新 hw. 这样即使 leader 挂掉了，hw 仍然在其他 follower 上都备份有这个重要信息。几个 follower 在一阵商量后，选举出了新的 leader, 这些人都知道上一个 leader 最新的 hw, 因此 hw 会继续传承下去。
为了简单起见，只有 leader 可以提供读消息的服务。并且最多只到 hw 位置的消息才会暴露给客户端。
Producer 在发布消息到某个 Partition 时会经过如下的步骤：
因此，对于已经 commit 的消息，Kafka 只能保证它被存于多个 Replica 的内存中，而不能保证它们被持久化到磁盘中， 也就不能完全保证异常发生后该条消息一定能被 Consumer 消费。但考虑到这种场景非常少见，可以认为这种方式在性能和数据持久化上做了一个比较好的平衡。在将来的版本中，Kafka 会考虑提供更高的持久性。Consumer 读消息也是从 leader 读取，只有被 commit 过的消息（offset 低于 HW 的消息）才会暴露给 Consumer。 Kafka 的复制机制既不是完全的同步复制，也不是单纯的异步复制。事实上，同步复制要求所有能工作的 follower 都复制完，这条消息才会被认为 commit，这种复制方式极大的影响了吞吐率。而异步复制方式下，follower 异步的从 leader 复制数据，数据只要被 leader 写入 log 就被认为已经 commit，这种情况下如果 follower 都复制完都落后于 leader，而如果 leader 突然宕机，则会丢失数据。而 Kafka 的这种使用 ISR 的方式则很好的均衡了确保数据不丢失以及吞吐率。follower 可以批量的从 leader 复制数据，这样极大的提高复制性能（批量写磁盘），极大减少了 follower 与 leader 的差距。
如果 follower 失败了，在超过一定时间后，leader 会将这个失败的 follower (follower 没有发送 fetch 请求）从 ISR 中移除。由于 ISR 保存的是所有全部赶得上 leader 的 follower replicas, 失败的 follower 肯定是赶不上了。虽然 ISR 现在少了一个，但是并不会引起的数据的丢失，ISR 中剩余的 replicas 会继续同步数据（只要 ISR 中有一个 follower, 就不会丢失数据）（注意：这里讨论的是一个 Partition 的 follower 副本，而不是节点，如果是一个节点，它不止存储一个 Partition, 而且不都是 follower)
如果失败的 follower 恢复过来，它首先将自己的日志截断到上次 checkpointed 时刻的 HW. 因为 checkpoint 记录的是所有 Partition 的 hw offset. 当 follower 失败时，checkpoint 中关于这个 Partition 的 HW 就不会再更新了。而这个时候存储的 HW 信息和 follower partition replica 的 offset 并不一定是一致的。比如这个 follower 获取消息比较快， 但是 ISR 中有其他 follower 复制消息比较慢，这样 leader 并不会很快地更新 HW, 这个快的 follower 的 hw 也不会更新 (leader 广播 hw 给 follower) 这种情况下，这个 follower 日志的 offset 是比 hw 要大的。
所以在它恢复之后，要将比 hw 多的部分截掉，然后继续从 leader 拉取消息（跟平时一样）. 实际上，ISR 中的每个 follower 日志的 offset 一定是比 hw 大的。因为只有 ISR 中所有 follower 都复制完消息，leader 才会增加 hw。也就是说有可能有些 follower 复制完了，而有些 follower 还没有复制完，那么 hw 是不会增加的，复制完的 follower 的 offset 就比 hw 要大。
一个消费者组可以有多个消费者，Kafka 中的一个 Partition 只会被消费者组中的一个消费者消费，但可以被多个消费组同时消费。
对于多个 partition 和多个 consumer 有以下这样的限制条件：
增减 consumer，broker，partition 会导致 rebalance，所以 rebalance 后 consumer 对应的 partition 会发生变化。High-level 接口中获取不到数据的时候是会 block 住消费者线程的
这两天浏览开源项目 的时候又 1 发现了一款文件同步工具 FileRun，打开官网 一看发现设计非常简洁，功能也同样强大。
最吸引我的是和 Google Docs ，Office Web View ，Pixlr 等等的支持，这样就可以在线预览 docx 等等文件。虽然是闭源产品，但是如果类似官网显示的那样，也是非常不错的文件同步管理的选择。
FileRun 是用 PHP 开发，从部署的文档可以看出来，部署的过程也可以使用 Docker，所以可以非常方便的部署到 Docker 环境中。如果自己配置环境，和 NextCloud 一样有 PHP 的运行环境即可。
在 QNAP，或者其他系统中使用 Docker 安装，注意将其中的变量部分替换成对应环境的内容：
version: '2'
services:
filerun:
image: afian/filerun
container_name: filerun
environment:
FR_DB_HOST: 10.0.3.1
FR_DB_PORT: 3306
FR_DB_NAME: filerun
FR_DB_USER: filerun
FR_DB_PASS: password
APACHE_RUN_USER: www-data
APACHE_RUN_USER_ID: 1000
APACHE_RUN_GROUP: www-data
APACHE_RUN_GROUP_ID: 100
ports:
- "30080:80"
volumes:
- /share/filerun/html:/var/www/html
- /share/filerun/user-files:/user-files
restart: unless-stopped
默认的用户名和密码都是：superuser
两个挂载点，一个是 filerun 的数据文件，另一个是用户文件。
如果要换成中文，可以下载这个文件 然后在后台上传上去。
编辑 customizables/config.php 文件可以扩展一些设置。
更多见官方文档
开启 API 后，可以使用 NextCloud 的客户端来连接。然后使用 filerun 的地址就可以访问。
学 Kafka 的时候找到了一些非常友好的资料，这里整理下。
不得不说的官方教程，另外我正在翻译官方教程
cloudurable 这个网站提供了非常详细的 Kafka 教程，从入门 Kafka 是什么，到写 Java 代码，到 Kafka 项目各个部分架构 都有着非常详细的介绍。
第三个要推荐的就是一本 Gitbook ，尤其是第二章使用 Unix 管道类比来解释 Kafka 的工作流，非常的生动。
Kafka 提供了一些命令行工具，用于管理集群的变更。这些工具使用 Java 类实现，Kafka 提供了一些脚本来调用这些 Java 类。不过，它们只提供了一些基本的功能，无怯完成那些复杂的操作 。
主题名字可以包含字母、数字、下划线以及英文状态下的破折号和句号。
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 3 --partitions 3 --topic my-example-topic
主题名字的开头部分包含两个下划线是合法的，但不建议这么做。具有这种格式的主题一般是集群的内部主题（比如 __consumer_offsets 主题用于保存消费者群组的偏移量）。也不建议在单个集群里使用英文状态下的句号和下划线来命名，因为主题的名字会被用在度量指标上，句号会被替换成下划线 （比如 topic.1 会变成topic_1 )。
查看某个 Topic 详情
bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topic my-example-topic
bin/kafka-topics.sh --list --zookeeper localhost:2181
bin/kafka-topics.sh --zookeeper localhost:2181 --delete --topic my-example-topic
bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic my-example-topic --partitions 16
Kafka 目前是暂时不支持减少主题分区数量的。
无顺序，一行一个
bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic my_topic_name --partitions 40
Partition 个数只能增加，不能减少。对于采用默认 Partitioner 的 Producer，Message 是按照 Key 的哈希值“规律”分布的（hash(key) % number_of_partitions），如果增加 Partition 个数，会打破现有分布规律。如果业务依赖于此哈希分布，请谨慎操作。
bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic my_topic_name --config x=y
可配置的 config 可以参考官网
bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic my_topic_name --deleteConfig x
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic my-example-topic
bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning
指定 from-beginning 则从“最老”（最早、最开始）的数据开始读；否则从“最新”的数据开始读（启动后等待新数据的写入并读取）。
yahoo 开源了一个 kafka-manager GitHub
今天浏览网页的时候发现了一个新的评论系统 —- livere，打开官网发现支持登录方式挺多，界面也挺友好。然后想起来之前多说关闭等等事情，觉得有必要整理整理，所以有了这样一篇文章。
第一个想要吐槽的就是这个中文名，其实看官网大致就能够猜到这是一家韩国的公司，不过就其官网来说，非常的本地化，包括官网，文档都中文化做的非常到位，只是这个中文名我是无论如何都无法接受呢。
一直是我使用的评论系统，自从有了博客起基本就是用的 Disqus，从来没有遇到任何问题，有人说被墙了，这可能算不上个问题吧。虽然开始的时候只是想让静态的博客有个评论框，但是用上 Disqus 之后才发现其实 Disqus 可以做到更多，甚至如果有多个网站，可以把他们连接成一个社区。
基于 GitHub Issues 的评论系统，如果博客的受众大多都是 GitHub 的重度用户，用这个其实倒也无所谓。但是我坚定的一个原则就是专业的工具干专业的事情，没有必要造个别扭的轮子来做评论这样一件事情。GitHub issue 就是 issue 没有必要把他作为评论系统。
友言，网易云跟帖，畅言，多说等等其他家，最初用 Disqus 的时候就简单的比较了这一众的评论系统，只是国内的我是不会考虑的，关停产品太随意了，其实关停产品这件事情其实也避免不了，但是如果看到 Google 等其他公司关停产品的逻辑，你会发现国内这些厂商对于用户产生的数据太不尊重。虽然我一直记恨 Google 关停 Google Reader，但是 Google Reader 的关停让我遇到了 InoReader，甚至一定程度上比 Google Reader 更好用，并且 Google 允许让用户导出所有的订阅内容，其实切换到 InoReader 只需要花费 10 秒钟。Google 也关闭了 Google Code，但是让我切换到 GitHub 也只需要点击一下按钮，甚至 GitHub 也更好用。这就是关停一个产品时应该替用户想到的。
国内的评论系统陆续关停大概和国内言论环境缩紧有着严重的关系，评论必须绑定手机这规定，无声无息的就开始执行，第一时间受到冲击的肯定就是这些博客系统。
Kakfa 起初是由 LinkedIn 公司开发的一个分布式的消息系统，后成为 Apache 的一部分，它使用 Scala 编写，以可水平扩展和高吞吐率而被广泛使用。目前越来越多的开源分布式处理系统如 Cloudera、Apache Storm、Spark 等都支持与 Kafka 集成。
生产者使用 push 向 broker 发送消息，消费者使用 pull 模式拉取并消费消息
Kafka 中消息是以 topic 进行分类的，生产者通过 topic 向 Kafka broker 发送消息，消费者通过 topic 读取数据。topic 在物理层面以 partition 为分组，partition 还可以细分为 segment。
假设 Kafka 消息文件存储目录
log.dirs=/tmp/kafka-logs
假设 partition 数量为 4
/bin/kafka-topics.sh –create –zookeeper localhost:2181 –partitions 4 –topic mytopic –replication-factor 4
然后就能在 /tmp/kafka-logs 目录中看到 4 个目录。
在 Kafka 文件存储中，同一个 topic 下有多个不同的 partition，每个 partiton 为一个目录，partition 的名称规则为：topic 名称 + 有序序号，第一个序号从 0 开始计，partition 是实际物理上的概念，而 topic 是逻辑上的概念。
每个 partition（目录）相当于一个巨型文件被平均分配到多个大小相等的 segment（段）数据文件中（每个 segment 文件中消息数量不一定相等）这种特性也方便 old segment 的删除，即方便已被消费的消息的清理，提高磁盘的利用率。每个 partition 只需要支持顺序读写就行，segment 的文件生命周期由服务端配置参数（log.segment.bytes，log.roll.{ms,hours}等若干参数）决定。
segment 文件由两部分组成，分别为.index文件和.log文件，分别表示为 segment 索引文件和数据文件。这两个文件的命令规则为：partition 全局的第一个 segment 从 0 开始，后续每个 segment 文件名为上一个 segment 文件最后一条消息的 offset 值，数值大小为 64 位，20 位数字字符长度，没有数字用 0 填充。.index 索引文件存储大量的元数据，.log 数据文件存储大量的消息，索引文件中的元数据指向对应数据文件中 message 的物理偏移地址。
每条消息都具有固定的物理结构，包括：offset（8 Bytes）、消息体的大小（4 Bytes）、crc32（4 Bytes）、magic（1 Byte）、attributes（1 Byte）、key length（4 Bytes）、key（K Bytes）、payload(N Bytes) 等等字段，
一类 topic 可以认为一类消息，每个 topic 会被分成多个 partition，每个 partition 使用 append log 文件存储。
在创建 topic 时可以在 $KAFKA_HOME/config/server.properties 中指定 partition 的数量，也可以在 topic 创建之后去修改 partition 的数量。
# The default number of log partitions per topic. More partitions allow greater
# parallelism for consumption, but this will also result in more files across
# the brokers.
num.partitions=4
Kafka 有非常多的参数可以控制其工作和运行，大部分情况下默认值就可以，但是要用到生产上，就需要自定义一些参数来适应不同的环境。broker 中有一些非常重要的参数，这里列举一些，关于 broker 所有其他的参数可以参考 Kafka 的官方文档。
每个 kafka broker 都需要有一个整型的唯一标识，这个标识通过 broker.id 来设置。默认的情况下，这个数字是 0, 但是它可以设置成任何值。需要注意的是，需要保证集群中这个 id 是唯一的。这个值是可以任意填写的，并且可以在必要的时候从 broker 集群中删除。比较好的做法是使用主机名相关的标识来做为 id, 比如，你的主机名当中有数字相关的信息，如 hosts1.example.com,host2.example.com, 那么这个数字就可以用来作为 broker.id 的值。
默认启动 kafka 时，监听的是 TCP 的 9092 端口，端口号可以被任意修改。如果端口号设置为小于 1024, 那么 kafka 需要以 root 身份启动。但是并不推荐以 root 身份启动。
这个参数指定了 Zookeeper 所在的地址，它存储了 broker 的元信息。在前一章节的例子中，Zookeeper 是运行在本机的 2181 端口上，因此这个值被设置成 localhost:2181。这个值可以通过分号设置多个值，每个值的格式都是 hostname:port/path, 其中每个部分的含义如下：
这个参数用于配置 Kafka 保存数据的位置，Kafka 中所有的消息都会存在这个目录下。可以通过逗号来指定多个目录，kafka 会根据最少被使用的原则选择目录分配新的 parition。注意 kafka 在分配 parition 的时候选择的规则不是按照磁盘的空间大小来定的，而是分配的 parition 的个数多小。
kafka 可以配置一个线程池，线程池的使用场景如下：
默认，每个目录只有一个线程。最好是设置多个线程数，这样在服务器启动或者关闭的时候，都可以并行的进行操作。尤其是当非正常停机后，重启时，如果有大量的分区数，那么启动 broker 将会花费大量的时间。注意，这个参数是针对每个目录的。比如，num.recovery.threads.per.data.dir 设置为 8, 如果有 3 个 log.dirs 路径，那么一共会有 24 个线程。
在下面场景中，按照默认的配置，如果还没有创建 topic,kafka 会在 broker 上自动创建 topic:
在很多场景下，这都会引发莫名其妙的问题。尤其是没有什么办法判断某个 topic 是否存在，因为任何请求都会创建该 topic。如果你想严格的控制 topic 的创建，那么可以设置 auto.create.topics.enable 为 false。
这个参数用于配置新创建的 topic 有多少个分区，默认是 1 个。注意 partition 的个数只可以被增加，不能被减少。这就意味着如果想要减少主题的分区数，那么就需要重新创建 topic。
Kafka 通过分区来对 topic 进行扩展，因此需要使用分区的个数来做负载均衡，如果新增了 broker, 那么就会引发重新负载分配。这并不意味着所有的主题的分区数都需要大于 broker 的数量，因为 kafka 是支持多个主题的，其他的主题会使用其余的 broker。需要注意的是，如果消息的吞吐量很高，那么可以通过设置一个比较大的分区数，来分摊压力。
用于配置 kafka 中消息保存的时间，也可以使用 log.retention.hours, 默认这个参数是 168 个小时，即一周。另外，还支持 log.retention.minutes 和 log.retention.ms。这三个参数都会控制删除过期数据的时间，推荐还是使用 log.retention.ms。如果多个同时设置，那么会选择最小的那个。
过期时间是通过每个 log 文件的最后修改时间来定的。在正常的集群操作中，这个时间其实就是 log 段文件关闭的时间，它代表了最后一条消息进入这个文件的时间。然而，如果通过管理员工具，在 brokers 之间移动了分区，那么这个时候会被刷新，就不准确了。这就会导致本该过期删除的文件，被继续保留了。
这个参数也是用来配置消息过期的，它会应用到每个分区，比如，你有一个主题，有 8 个分区，并且设置了 log.retention.bytes 为 1G, 那么这个主题总共可以保留 8G 的数据。注意，所有的过期配置都会应用到 patition 粒度，而不是主题粒度。这也意味着，如果增加了主题的分区数，那么主题所能保留的数据也就随之增加。
用来控制 log 段文件的大小，而不是消息的大小。在 kafka 中，所有的消息都会进入 broker, 然后以追加的方式追加到分区当前最新的 segment 段文件中。一旦这个段文件到达了 log.segment.bytes 设置的大小，比如默认的 1G, 这个段文件就会被关闭，然后创建一个新的。一旦这个文件被关闭，就可以理 解成这个文件已经过期了。这个参数设置的越小，那么关闭文件创建文件的操作就会越频繁，这样也会造成大量的磁盘读写的开销。
控制段文件关闭的时间，它定义了经过多长时间段文件会被关闭。
这个参数用于限制生产者消息的大小，默认是 1000000, 也就是 1M。生产者在发送消息给 broker 的时候，如果出错，会尝试重发；但是如果是因为大小的原因，那生产者是不会重发的。另外，broker 上的消息可以进行压缩，这个参数可以使压缩后的大小，这样能多存储很多消息。需要注意的是，允许发送更大的消息会对性能有很大影响。更大的消息，就意味着 broker 在处理网络连接的时候需要更长的时间，它也会增加磁盘的写操作压力，影响 IO 吞吐量。
关于该部分，Kafka 官方的入门教程中有非常详细的介绍，包括从最早在 LinkedIn 中为记录用户访问数据设计该系统，到后面日志，消息处理，到流处理等等，Kafka 有着非常广阔的使用场景。
更多关于如何使用命令行启动 Kafka，还有一些基础内容可以参考翻译的 Kafka 中文文档
SSH 全称 Secure Shell，是一种加密的网络传输协议，可以在不安全的网络中为网络服务提供安全的传输环境。
几个 ssh 命令的参数
C 压缩数据传输-f 后台登录用户名密码，如果省去该参数 ssh 会一直等待-g 允许打开的端口让远程主机访问-N 不执行shell-T 表示不为该连接分配TTY-p 后接端口本地端口转发，就是将发送到本地端口的请求，转发到目标主机端口。
ssh -L 本地网络地址：本地端口：目标主机地址：目标端口 root@<主机地址>
ssh -L localhost:3000:localhost:80 root@<ip> # 将发送到本地3000端口的请求，转发到远程主机80端口
ssh -L 3000:localhost:80 root@<ip> # 将发送到本地3000端口的请求，转发到远程主机80端口，省略掉本地地址
ssh -p port -C -f -NT -g -L 3000:localhost:80 root@<ip>
远程端口转发，就是将发送到远程端口的请求，转发到目标端口，一般用来将公网主机端口请求转发到局域网内机器端口以实现外网访问。
ssh -R 远程地址：远程端口：目标地址：目标端口 root@<主机地址>
ssh -R localhost:3000:localhost:80 root@<ip> # 将远程主机 80 端口的请求转发到本地3000端口
ssh -p port -C -f -NT -g -R 3000:localhost:80 root@<ip>
动态端口转发，则是绑定一个本地端口，目标地址，目标端口不固定，目标地址和目标端口由发起的请求决定。只有root才能转发特权，支持 Socks 5 本地。
ssh -D 本地地址：本地端口 root@<主机地址>
ssh -D localhost:5000 root@<ip>
ssh -D 5000 root@<ip> # 省略 localhost，监听本地5000端口
ssh -p port -C -f -NT -g -D 8080 root@<ip> # Sock监听本地 8080 端口，任何发给 8080 端口的内容都会被转发到远程主机
nc 是 netcat 的简称，nc 工具是一个 TCP/IP 的瑞士军刀类型的工具，netcat 可以使用 TCP 或者 UDP 协议来进行网络连接的读写诊断，nc 命令可以用于 TCP，UDP，Unix 套接字相关的任何事情，是一个非常强大的网络工具。
端口是 Linux 机器上的应用、服务、进程与网络进行通信的端点。常用的 netstat 或者 nmap 等也能够列出本地机器上的开放端口。但是 nc 可以用来确定远程主机端口是否开放。
sudo apt install netcat
nc -l -p 80 # 开启本机 80 端口 TCP 监听
nc -l -p 80 > /tmp/log
机器上运行该命令，端口 80 会被认为开放，可以用来欺骗扫描机
扫描端口
nc -zv host.example.com 22 # 扫描 22 端口是否开放
nc -zv host.example.com 22 80 443 # 扫描端口
nc -zv host.example.com 20-30 # 扫描一个范围
nc -zv -w 5 host.example.com 22-443 # -w 表示超时等待 5 秒
说明：
-z 设置 nc 只是扫描侦听守护进程，实际不发送任何数据-v 开启 verbose，如果多加 -vv 会输出更多信息上面的例子中，已经统计到了扫描一个端口，多个端口，或者指定端口范围。
nc -l 8080 < index.html
客户端请求
curl localhost:8080