每天学习一个命令:nl 打印行号

nl 是 number lines of files, 命令用来在 linux 系统中打印文件中行号。nl 可以将输出的文件内容自动的加上行号,其默认的结果与 cat -n 有点不太一样, nl 可以将行号做比较多的显示设计,包括位数与是否自动补齐 0 等等的功能。

命令格式

nl 命令将文件内容输出到标准输出,并添加行号。

nl [options] [file]

命令参数:

-b  :指定行号指定的方式,主要有两种:
    -b a :表示不论是否为空行,也同样列出行号(类似 cat -n);
    -b t :如果有空行,空的那一行不要列出行号(默认值);
-n  :列出行号表示的方法,主要有三种:
    -n ln :行号在萤幕的最左方显示;
    -n rn :行号在自己栏位的最右方显示,且不加 0 ;
    -n rz :行号在自己栏位的最右方显示,且加 0 ;

-w   行号栏位的占用的位数
-p 在逻辑定界符处不重新开始计算

基本使用

3.命令功能:

nl 命令读取 File 参数(缺省情况下标准输入),计算输入中的行号,将计算过的行号写入标准输出。 在输出中,nl 命令根据您在命令行中指定的标志来计算左边的行。 输入文本必须写在逻辑页中。每个逻辑页有头、主体和页脚节(可以有空节)。 除非使用 -p 标志,nl 命令在每个逻辑页开始的地方重新设置行号。 可以单独为头、主体和页脚节设置行计算标志(例如,头和页脚行可以被计算然而文本行不能)。

使用实例

用 nl 列出文件的内容

nl /etc/passwd

说明:

文件中的空白行,nl 不会加上行号

用 nl 列出文件内容空行也加上行号

nl -b a /etc/passwd

让行号前面自动补上 0 统一输出格式

-w 参数是 number width 数字宽度,如果指定为 3 则是补齐三位

nl -b a -n rz file.log
nl -b a -n rz -w 3 log2014.log

说明:

nl -b a -n rz 命令行号默认为六位,要调整位数可以加上参数 -w 3 调整为 3 位。


2016-07-10 linux , nl , command

Evernote 代替品

Evernote 最近一次的 Policy 更新 1 真的太人人失望啦。如果说增加功能,增加收费,我完全不反对,我反对的是将现有的免费功能加入到收费功能中。这是对自己曾经的承诺公然的放弃。

一些代替品:

OneNote, Google Keep, WizNote, Simplenote, youdao, Laverna, Joplin

http://alternativeto.net/software/evernote/

我的简单需求:

  1. 多平台同步 (Mac, Windows, Linux) + web + Android online and offline
  2. 好用的 clip Chrome 插件
  3. 最好支持多人编辑
  4. 支持笔记分享
  5. 支持代码高亮,其实这一点 Evernote 也做不到

2019-10-20

更新增加了 Joplin 选项。

这一款开源的笔记应用,让我在使用的第一瞬间就爱上了,虽然陆陆续续还在用着 WizNote,但是 Joplin 一直都是后备选项,经过这两年来的不断迭代,越来越好用,越来越方便,以至于可以完美的替换掉 WizNote 了。

2017-02-13

WizNote 推出来一个比较好玩的功能,新建一个可以分享的群组之后可以想公众号那样分享内容,但是编辑可简单多了,只要编辑 WizNote 中的内容,就自动同步分享。可以参看如下:

https://note.wiz.cn/pages/manage/biz/payRead.html?kb=8b40bf53-6ce7-4f5e-bbfc-99b2628340f3

2017-01-05

在近一个月的寻觅中,依然没有找到好的代替品,于是在年末的时候买了一年的 WizNote 会员,看一年的使用再行选择。

2016-12-09 重要更新

WizNote 发布了服务规则调整, 有如晴天霹雳。

  • 免费个人用户只提供 100 天试用,到期之后新建,修改笔记无法上传服务器
  • 个人 VIP 下调为 6 元 / 月, 60 元 / 年

这则消息和 Evernote 反悔,任意更改服务条款的性质是一样的。我在此也更新,不在推荐 WizNote 服务,我会把文末的邀请链接删除,对于这样的更改其实 WizNote 一点优势也没有了。

我觉得一家公司重的信誉,也就是说到能做到的信誉,服务可靠,提供稳定的功能更新,而不是出尔反尔的随意更改之前制定的策略。这一点 Evernote 和 WizNote 给我的感觉已经差不多了。虽然现在各种云服务各种收紧,不仅是国内的网盘业务,而且国外的 Dropbox, Evernote 等等服务都面临着盈利困境,多年的市场经营虽然圈住不少用户,但却仍然无法变现。

现在回头想一想,一款产品在最初期制定规划的时候是需要很慎重的。说着那些永久免费的,多少坚持到现在了,说着无限空间的,大多已经消失。经历了 Evernote , WizNote 事件,还有之前 网易云音乐歌单丢失事件,多少让我对云服务产生了一些畏惧。目前正准备将云存储的内容,本地备份一份。

发生了这些事情之后,在我的需求列表中可能还需要添加一项:

  • 服务的数据本地可见,并且能够提供导出服务,比如 Dropbox 至少有一个本地备份,比如 WizNote 本地是文件存储的

其实倒不是我不愿意付费,WizNote 的这次变更也挺有诚意,在知道消息的第一时间我是准备购买一年两年的,只是现在想想始终觉得不对,你曾经承诺过可以每个月提供那么多流量,对于我这样的用户这本已足够,而仅仅因条款的强行改变而要求我付费,这和一开始就要求付费是完全不同的两个概念。我不反对付费,Play Store 上面我也买了差不多 100 美元的应用了,好用的应用自然有购买支持的理由。 WizNote 不从功能更新上吸引用户,而仅仅是改变原来的规则这是我要谴责的地方,如果不能够提供之前承诺的服务,在推广或者宣传的时候就不应该叫唤得那么响亮,到头来扇了自己一个巴掌。

或许在调整我的使用习惯之后,会支持下 WizNote,毕竟无法离开他 Linux 下的客户端。而如果真如他所宣称的那样能够提高检索效率,说不定买个两三年也说不定。

Wiznote 唯一使用他的理由就是他的跨平台,Linux 支持比 Evernote 好, Evernote 干脆就不支持 Linux,当然他们客服在也官网中直接说明“不支持 Linux,在可见未来也不会支持”。因此在使用过一段时间之后我也就不在使用 Evernote,并转向了 Wiznote。然而这一次 WizNote 这一次策略变更也让我这样一个普通用户无法忍受。最开始知道这个消息的时候还想着年底买一个会员,支持一下这个产品,然而在逛论坛看用户的反馈,其中一条直接让我放弃了购买的打算。

wiznote purchase

对于网站任意改变政策本就是抱有抵制态度,而最近各种网盘纷纷“倒闭”,那些宣称的“无线空间,永久免费”,还在耳边回荡,而就在一夜之间就宣告倒闭了,幸而那些网盘并没有深入使用,数据也并不是很多。而对于 WizNote 使用时间几乎是每天,而他宣称的免费一个月 500M 的流量对于我只记录些笔记已经完全足够。而这一次强硬的收费,明显就是驱逐免费用户,并且毫无信用的将过去的诺言打破。而对于未来也并没有太多承诺,甚至在用户探讨未来收费策略时用好不负责任的口吻对待用户,很难想象其对待用户数据的态度,也坚决了迁移出 WizNote 的决心。而公司内部对定价策略态度暧昧,即使有耐心支持他们,也很难保证他们之后的策略,因为此次的变化带来的一个显著的印象就是,如果不付费,这个软件几乎是不可用状态,停止同步支持几乎就是无用状态。

OneNote

很早就在用了,只是当时并不支持多端同步,所以在 Android 崛起之后就渐渐的转到了 Evernote。OneNote 从各个方面来看都完全符合我的要求,并且最近的更新 Chrome 插件也做的非常不错。只是 Android 端实在太烂,让我提不起兴趣的还有微软的名号,以及缺乏 Linux 客户端。

Google Keep

在我看来只适合轻量级的笔记,网页摘录也做的不是很好。

WizNote

其实之前也一直在使用中,但由于之前 Evernote Chrome Clipper 做的实在太棒了,所以一直没转过来,为知笔记还是很多人推荐的,容量同步 500M/ 月, 30M / 单笔记,相比 Evernote 已经很不错了。笔记分享这款做的并不是很好,但觉得可以一试。并且 WizNote 支持 markdown 这一条还是非常赞的。

Simplenote

虽然很多人推荐,但是没有 Chrome Clipper,并且注册账号登陆看了一眼 Web 版,功能比较简单,并且就是功能比不上 Evernote 的复刻版,并不是太想使用它,哪一天它也变成 Evernote 怎么办

youdao

有道云笔记在国内还是很多人使用的,但是登陆一看总共 3G 空间,顿时让我不想用了。并且有道并不提供导出方式,对于一个在国内的云服务不提供是很正常的,然而毕竟数据在自己手上还是比较安全。

Laverna

这次寻找的过程最让我感到意外的就是这个了,开源,Linux 端,集成 Dropbox 同步,代码高亮, Markdown 格式,简直就是完美的代替品,它的 Github 主页上就光明正大的写着 Evernote alternative。但是在我看来它已经完全超越了 Evernote,除了没有一个公司去运营它,它在功能上已经完全超越了 Evernote。

https://laverna.cc

经过以上的总结,接下来在 WizNote 以及 Laverna 中尝试选择一个当笔记同步使。为知笔记的 Chrome 扩展 ,相对 Evernote 弱了一些,但是也非常不错。 WizNote 当然各个客户端都有,最棒的是 Linux 客户端也有。多人编辑和笔记分享这一点 WizNote 非 VIP 用户无法使用,但是单纯的当做笔记来用已经完全足够了。 最后代码高亮很早就已经支持了的。

剩下的用 Evernote 来共享笔记,和别人协作好了。

notion

Notion 诞生也已经很久了,发现越来越多的人开始推荐起来,Notion 作为一款笔记应用是完全 OK 的。

Trilium

开源版本的个人知识库,js 写的。

tiddlywiki

另一款 wiki 系统,在支持富媒体上较为欠缺。

anytype

一款开源版本的 notion,界面很好看,基于 IPFS,不过目前暂未发布。

两个月之后更新

现在已经稳定使用 WizNote 了, Evernote 中的数据基本导出到 WizNote,而目前 WizNote 使用过程中基本没有产生什么问题。现在就做一个 WizNote Review。官方的宣传中突出了如下特点:

多级目录、多级标签、Markdown、无限存贮空间

而这 4 点确实很吸引人,多级目录和标签可以让文件夹更加整洁,原生支持 Markdown 让写作更加便捷,无限空间就让人不用担心。

对于 WizNote 免费用户,单月上传流量 300M,单篇文章限制 30M,附件限制 30M,这个大小和容量,已经完全满足我日常使用。并且在这几个月的使用过程中,除了一次偶然的崩溃,同步,添加附件,甚至保存微信文章,保存邮件文章,都工作正常。

Linux Mint 安装

参考 GitHub 或者 官网,都有详细的安装说明。基本上使用如下命令即可。

$ sudo add-apt-repository ppa:wiznote-team
$ sudo apt-get update
$ sudo apt-get install wiznote

Evennote 迁移 WizNote

WizNote 菜单中能很方便的导入 Evernote 中导出的文件。就不展开细讲了。

扩展工具

邀请

查看上 12-09 更新,删除邀请链接,不再推荐 WizNote。


2016-07-01 evernote , wiznote , notebook

ssh-copy-id 复制本地公钥命令详解 免密码登录远程主机

背景

ssh-copy-id 命令可以把本地主机的公钥复制到远程主机的 authorized_keys 文件上。authorized_keys 文件用来验证 client 。使用 ssh-copy-id 命令将本地公钥复制到远程主机之后可以实现免密登录远程主机。

简介

ssh-copy-id 用来将本地公钥复制到远程主机。如果不传入 -i 参数,ssh-copy-id 使用默认 ~/.ssh/identity.pub 作为默认公钥。如果多次运行 ssh-copy-id该命令不会检查重复,会在远程主机中多次写入 authorized_keys

使用 ssh-copy-id 的主要功能就是免密码登录远程主机。成功运行该命令之后,就可以免去密码登录远程主机。

注意本地 ~/.ssh/id_rsa 的权限,chmod 400 ~/.ssh/id_rsa ,该文件包含用于授权的私钥,如果该文件可以被其他用户访问,ssh 会忽略该私钥。

语法

ssh-copy-id [-i [identity_file]] [user@]machine

选项

-i:指定公钥文件

基本使用

把本地的 ssh 公钥文件安装到远程主机对应的账户下:

ssh-copy-id user@server
ssh-copy-id -i ~/.ssh/id_rsa.pub user@server

chmod 700 ~/.ssh
chmod 600 ~/.ssh/authorized_keys

高级使用

Mac OS X 下使用 ssh-copy-id 可以使用这个 脚本。

参考


2016-06-29 ssh , password , linux , ssh-copy-id

Android lib Timber

今天查询Android在release下不显示Log信息,偶然间接触到 Timber 这个库。 Android 原生提供了很多调试 Log 的方法,但是如果想要在release情况下禁用所有调试信息,除非在原生 Log 外再嵌套实现一层自己的方法,或者使用 ProGuard 。Android 本身没有提供一种简单的方式实现,幸而有大神提供了这样的一个库。

Android 原生 Logcat 分成 v/d/i/w/e/wtf . 官方推荐的最佳实践就是定义一个 TAG 变量:

private static final String TAG = "EV_TAG_MyActivity";

然后过滤关键字就能找到对应的 Log 信息。大部分的情况下使用 Log.d 即可,但是各个方法都有其适用的情况:

  • Log.e : 错误输出,用在 catch 语句下,你知道有可能有错误发生,因此打印出 Error
  • Log.w : 警告,用来输出不可判断的错误出现的情况,如果出现了,需要查看
  • Log.i : 信息,用来打印有用的信息,比如连接服务器成功,一般用来报告成功事件
  • Log.d: 用来调试,只在 debug 下出现
  • Log.v:各种小调试信息
  • Log.wtf: 非常严重的错误发生时打 Log

设置Timber

去GitHub 找项目主页 Timber ,在 build.gradle 中加入:

compile 'com.jakewharton.timber:timber:4.1.2'

在 Application 下初始化 Timber

public class ExampleApp extends Application {
  @Override public void onCreate() {
    super.onCreate();

    if (BuildConfig.DEBUG) {
      Timber.plant(new DebugTree());
    } else {
      Timber.plant(new ReleaseTree());
    }
  }
}

调用 Timber.plant(new DebugTree()) 之后,再使用 Timber 的静态方法,则使用了 DebugTree 中设定。DebugTree 是 Timber 库中默认实现的。

Timber.plant(new Timber.DebugTree(){
@Override
protected String createStackElementTag(StackTraceElement element) {
  return super.createStackElementTag(element) + ":" + element.getLineNumber();
}
});

重新实现 createStackElementTag 方法,可以在 Debug 下打印出 Log 所在的行号。

using Timber

同Android提供的 Log 方法类似 Timber 也有 i/v/d/w/e/wtf 这些方法。 Timber 默认 TAG为文件名。当然可以使用 Timber.tag() 方法来设置一次性 tag 。

Timber.tag("LifeCycles");
Timber.d("Activity Created");

官方的使用教程其实只有两条:

  1. 在 application class 下 plant Tree
  2. 然后调用 Timber 的静态方法即可。

但是 Timber 提供了更多的自定义。可以通过继承 Timber.Tree 来实现。

Timber 可以种树也可以移除一棵树,也可以移走全部的树:

  • plant(Tree)
  • uproot(Tree)
  • uprootAll()

Timber Tree

先看看 Timber Tree 实现,这个类是一个抽象类,主要实现管理 TAG,并且提供各个 Log 方法的实现,类中有一个抽象方法

/**
 * Write a log message to its destination. Called for all level-specific methods by default.
 *
 * @param priority Log level. See {@link Log} for constants.
 * @param tag Explicit or inferred tag. May be {@code null}.
 * @param message Formatted log message. May be {@code null}, but then {@code t} will not be.
 * @param t Accompanying exceptions. May be {@code null}, but then {@code message} will not be.
 */
protected abstract void log(int priority, String tag, String message, Throwable t);

DebugTree 实现了 Timber.Tree , 和 log(int priority, String tag, String message, Throwable t)方法。

@Override protected void log(int priority, String tag, String message, Throwable t) {
  if (message.length() < MAX_LOG_LENGTH) {
    if (priority == Log.ASSERT) {
      Log.wtf(tag, message);
    } else {
      Log.println(priority, tag, message);
    }
    return;
  }

  // Split by line, then ensure each line can fit into Log's maximum length.
  for (int i = 0, length = message.length(); i < length; i++) {
    int newline = message.indexOf('\n', i);
    newline = newline != -1 ? newline : length;
    do {
      int end = Math.min(newline, i + MAX_LOG_LENGTH);
      String part = message.substring(i, end);
      if (priority == Log.ASSERT) {
        Log.wtf(tag, part);
      } else {
        Log.println(priority, tag, part);
      }
      i = end;
    } while (i < newline);
  }
}

基本上能看到是为了避免打印长度超出 Log 的最大长度而做的设置。

release logging

在给出来的 Demo 中,JakeWharton 实现了一个发布版本的 Tree,

private static class CrashReportingTree extends Timber.Tree {
@Override protected void log(int priority, String tag, String message, Throwable t) {
  if (priority == Log.VERBOSE || priority == Log.DEBUG) {
    return;
  }

  FakeCrashLibrary.log(priority, tag, message);

  if (t != null) {
    if (priority == Log.ERROR) {
      FakeCrashLibrary.logError(t);
    } else if (priority == Log.WARN) {
      FakeCrashLibrary.logWarning(t);
    }
  }
}
}

通过优先级,在 release 下 VERBOSE 和 DEBUG 就不产生 Log 信息了。而 Error 和 WARN 就交给了 FakeCrashLibrary 去处理了。

更多的方法可以参考 文档

reference


2016-06-24 Android , AndroidDev , 学习

使用 Python BeautifulSoup4 快速获取网页内容

BeautifulSoup4 能够帮助我们从 HTML 或 XML 文件中提取数据

安装

pip install beautifulsoup4
解析器 使用方法 优势 劣势
Python 标准库 BeautifulSoup(markup, “html.parser”) Python 的内置标准库 执行速度适中 文档容错能力强 Python 2.7.3 or 3.2.2) 前 的版本中文档容错能力差
lxml HTML 解析器 BeautifulSoup(markup, “lxml”) 速度快 文档容错能力强 需要安装 C 语言库
lxml XML 解析器 BeautifulSoup(markup, “xml”) 速度快 需要安装 C 语言库
html5lib BeautifulSoup(markup, “html5lib”) 最好的容错性 以浏览器的方式解析文档 生成 HTML5 格式的文档 速度慢 不依赖外部扩展

使用

加载

from bs4 import BeautifulSoup
soup = BeautifulSoup(html)

Beautiful Soup 将复杂 HTML 文档转换成一个复杂的树形结构,每个节点都是 Python 对象,所有对象可以归纳为 4 种:

  • Tag, HTML 中的一个个标签,有 name 和 attr
  • NavigableString,标签中内容
  • BeautifulSoup, 文档全部内容
  • Comment,一个特殊类型的 NavigableString 对象

find_all() 方法和 select() 方法各有各的优劣,find_all 方法能支持正则,而 select 方法可以使用 CSS 属性选择器。

.string 和 .text 区别

Tag 对象上调用 .string 会返回 NavigableString 类型对象,而 .text 会获取所有子节点内容的组合,.text 返回的是 Unicode 对象。

对于

<td>Some Table Data</td>
<td></td>

在第二个 <td> 标签中 .string 会返回 None,而 .text 会返回空的 unicode 对象

对于 .string

  • 如果标签只包含文本,则直接返回文本
  • 如果标签包含一个单一的子标签,则返回子标签内容
  • 如果标签不包含标签,或者包含多个标签,则返回 None
  • 如果标签既包含文本,也包含子标签,并且二者文本内容不一致,则返回 None

而对于 .text 则简单很多,会返回子标签及所有文本的级联。

比如

<td>some text</td>
<td></td>
<td><p>more text</p></td>
<td>even <p>more text</p></td>

.string 会返回

some text
None
more text
None

.text 会返回

some text

more text
even more text

BeautifulSoup 不同解析器比较

BeautifulSoup 支持很多种 HTML 解析器,包括 Python 自带标准库,还有其他 lxml 等等第三方模块。

解析器 使用方法 优点 缺点
html.parser BeautifulSoup(markup,”html.parser”) Python 标准库,速度快,兼容性好(2.7.x 和 3.2.x) 无法在 2.7.3 之前和 3.2.2 之前版本使用
lxml BeautifulSoup(markup, “lxml”) 速度快,兼容性好 外部依赖
lxml’s XML BeautifulSoup(markup, ‘lxml-xml’) 或者 ‘xml’ 速度快,支持 XML 外部依赖
html5lib BeautifulSoup(markup, ‘html5lib’) 兼容性好,HTML5 合法 速度慢,外部依赖

个人一般使用 html.parser 但是如果遇到不兼容版本,那也只能 pip install lxml 然后使用了。

reference


2016-06-21 python , beautifulsoup4 , crawler , html , parser

每天学习一个命令:iftop 流量监控

在类 Unix 系统中可以使用 top/htop 查看系统资源、进程、内存占用等信息。查看网络状态可以使用 netstat、nmap 等工具。若要查看实时的网络流量,监控 TCP/IP 连接等,则可以使用 iftop。

iftop 是类似于 top 的实时流量监控工具。

官方网站:http://www.ex-parrot.com/~pdw/iftop/

iftop 可以用来监控网卡的实时流量(可以指定网段)、反向解析 IP、显示端口信息等。

安装

apt-get install iftop

或者使用源码编译安装

Debian 上安装所需依赖包:

apt-get install flex byacc  libpcap0.8 libncurses5

下载 iftop

wget http://www.ex-parrot.com/pdw/iftop/download/iftop-0.17.tar.gz

tar zxvf iftop-0.17.tar.gz
cd iftop-0.17
./configure
make && make install

常用的参数:

-i      设定监测的网卡,如:# iftop -i eth1
-B      以 bytes 为单位显示流量(默认是 bits),如:# iftop -B
-n      使 host 信息默认直接都显示 IP,如:# iftop -n
-N      使端口信息默认直接都显示端口号,如:# iftop -N
-F      显示特定网段的进出流量,如# iftop -F 10.10.1.0/24 或# iftop -F 10.10.1.0/255.255.255.0
-h(display this message),帮助,显示参数信息
-p      使用这个参数后,中间的列表显示的本地主机信息,出现了本机以外的 IP 信息;
-b      使流量图形条默认就显示;
-f      这个暂时还不太会用,过滤计算包用的;
-P      使 host 信息及端口信息默认就都显示;
-m      设置界面最上边的刻度的最大值,刻度分五个大段显示,例:# iftop -m 100M

交互快捷键,进入 iftop 画面后的一些操作命令(注意大小写)

按 h 切换是否显示帮助;
按 n 切换显示本机的 IP 或主机名;
按 s 切换是否显示本机的 host 信息;
按 d 切换是否显示远端目标主机的 host 信息;
按 t 切换显示格式为 2 行 /1 行 / 只显示发送流量 / 只显示接收流量;
按 N 切换显示端口号或端口服务名称;
按 S 切换是否显示本机的端口信息;
按 D 切换是否显示远端目标主机的端口信息;
按 p 切换是否显示端口信息;
按 P 切换暂停 / 继续显示;
按 b 切换是否显示平均流量图形条;
按 B 切换计算 2 秒或 10 秒或 40 秒内的平均流量;
按 T 切换是否显示每个连接的总流量;
按 l 打开屏幕过滤功能,输入要过滤的字符,比如 ip, 按回车后,屏幕就只显示这个 IP 相关的流量信息;
按 L 切换显示画面上边的刻度;刻度不同,流量图形条会有变化;
按 j 或按 k 可以向上或向下滚动屏幕显示的连接记录;
按 1 或 2 或 3 可以根据右侧显示的三列流量数据进行排序;
按 `<` 根据左边的本机名或 IP 排序;
按 `>` 根据远端目标主机的主机名或 IP 排序;
按 o 切换是否固定只显示当前的连接;
按 f 可以编辑过滤代码
按!可以使用 shell 命令
按 q 退出监控。

使用实例

直接运行

iftop

界面上面显示的是类似刻度尺的刻度范围,为显示流量图形的长条作标尺用的。

中间的<= =>这两个左右箭头,表示的是流量的方向。

  • TX:发送流量
  • RX:接收流量
  • TOTAL:总流量
  • Cumm:运行 iftop 到目前时间的总流量
  • peak:流量峰值
  • rates:分别表示过去 2s 10s 40s 的平均流量

监控指定网卡

先使用 ifconfig 查看当前机器网卡,然后使用 -i 参数

iftop -i eth0

reference


2016-06-06 linux , command , iftop , network , monitor

Ubuntu 下安装 Gradle 及简单使用

Gradle 的核心是基于 Groovy 的 领域特定语言 (DSL),目的是为了代替 XML 繁多的构建工具。

自动安装

可以使用这个 PPA

sudo add-apt-repository ppa:cwchien/gradle
sudo apt-get update
sudo apt install gradle

或者根据官网的教程 手动安装。

使用


2016-06-05 gradle , ubuntu , linux , usage , build-system , jvm , java

Kindle 使用小技巧及常见问题

整理 Evernote 笔记的时候偶然看到这篇文章,总结自己使用 Kindle 一年来的小小经验,以及一些 Tips。

注册 Kindle 邮箱

这个功能非常实用,不然能够节省连接数据线的时间,更重要的是这个活用这个邮箱能够自动化完成很多事情,可是遗憾的事,很多人并不知道这个福利。所以建议在拿到手之后的第一件事情就是查看这个邮箱,设置中 Send-to-KindleE-mail 中查看。

Kindle 可以享受的两个最容易被忽略的功能是:

  • 在线文档存储,亚马逊为每位用户提供至少 5G 的云存储空间
  • 在线文档格式转换,支持格式包括

    • Microsoft Word (.DOC, .DOCX)
    • HTML (.HTML, .HTM)
    • RTF (.RTF)
    • JPEG (.JPEG, .JPG)
    • Kindle Format (.MOBI, .AZW)
    • GIF (.GIF)
    • PNG (.PNG)
    • BMP (.BMP)
    • PDF (.PDF)
    • 附件大小不超过 50MB(压缩之前)
    • 附件中文档个数在 25 个以内
    • Kindle.com 收件人个数不得超过 15 个
    • 文档默认会保存在云端
    • 如果 60 天用户都没有下载,则会删除上传文件

如果有 WiFi 或 3G 的话,注册 Kindle 可以在 Kindle 设备上完成,打开 WiFi(Home-> Menu -> Turn Wireless On),然后在 Home -> Menu -> Settings-> Registration 中,按照提示完成即可。没有 WiFi 或 3G 的话,则享受不了这两个服务。

要使用这两个服务,需要两步。首先,要知道自己的 Kindle 邮件地址(姓名 @kindle.com),可以在 Home-> Menu-> Settings 的第二页里看到,在 Send-to-Kindle E-mail 选项里面。但是,为了保护用户的私有空间不被别人用垃圾填满,亚马逊还要求使用已经被用户许可的邮箱地址发往此邮箱,否则就会拒绝接收。许可邮箱的方法是:

  • 先到管理 Kinlde 页面,需要使用注册 Kindle 的账号登陆
  • 在左侧导航栏里单击 Personal Document Settings
  • 在右侧 Approved Personal Document E-mail List 标题的最后单击 Add a new approvede-mail address
  • 输入 email 地址后单击 Add Address 即可,可以添加多个邮箱

完成以上操作后,就可以享受这两个服务了,使用添加到许可列表的邮箱,以附件形式发送文档到自己的 Kindle 邮件地址(name@kindle.com),就可以把文档存储到云端。Kindle 在线时就会自动下载云端文件。如果想将文档转换为 Kindle 内置格式(mobi),需要在邮件标题内注明 convert(即邮件标题写“convert”即可),亚马逊就会为您转换为 Kindle 内置文档格式并发送到你的 Kindle 设备,阅读非常方便,转换过程可能会比较慢。

单击左侧导航栏内的 Personal Documents 可以管理云端文件。

使用剪贴板功能做笔记

使用过程中,读书最重要的就是记录了,阅读永远是别人的东西,如果没有经过大脑转变成自己的内容,那永远只是存在书本上。而 Kindle 上做笔记也是非常容易的,并且数字化让一切都能够被检索并标注,Kindle 让这个过程更加方便了。在 Kindle 中长按文字选中之后会弹出标注,笔记等几个选项,而所有这些操作的内容都会被保存到 Kindle 设备上”documents”里名叫“My Clippings.txt” 的文件中。这个文件以一定的格式记录所有的笔记内容,直接查看非常不方便,于是就有人做了这样的一个工具。

地址:https://www.clippings.io/

将笔记,标注导出的网站。从 Kindle 中找到 clippings 文件之后上传到该网站,就能够非常直观的查看所有笔记。

关闭 Kindle 屏保和主页界面的特惠信息

因为我使用的是美亚账号,自动出现的特惠信息大多数是我并不关心的,因此

> 设置 -> 设备选项 -> 个性化您的 Kindle -> 高级选项 -> 特惠

关闭即可。如果无法关闭,我记得当时我就是联系了亚马逊客服才关闭的:

联系亚马逊客服:https://www.amazon.cn/gp/help/customer/contact-us

禁止 Kindle 自动锁屏

正常情况下经过一段时间,Kindle 会自动锁屏,锁屏默认情况下是一些 Kindle 书店的推广,如果要禁止自动锁屏,可以在搜索框中输入

~ds

disable screensaver 的缩写。这个操作在重启之后就会失效。

Kindle 无法连接 WiFi

Kindle 不能连接 WiFi 的三个原因,虽然在没办法的情况下以下三个方法或许有用,但是大部分的情况其实就是 GFW 屏蔽了 Kindle 联网验证的地址,其实和 Android 在检测 WiFi 时屏蔽了 Google 服务器出现的感叹号一样,系统向一个 URL 请求,没有收到回复自然认为没有成功连接到互联网,于是就报错,所以在尝试以下三种方式之前,请确保翻墙状态。

  1. 路由器频段问题

这个问题实际上手机也有。有一阵子我手机也连不上我哥家的 WiFi,后来通过网络搜索才知道频段问题。那时候是说频段超过 11 手机就无法连接 WiFi,后来我把频段改小之后就解决问题了。而一般能用手机连接 WiFi,Kindle 不能连接的一般不会是这个问题。

如何改变频段,Google 之。基本现在这个年代,看一下无线路由器的说明书就会设置的。

技术资料见:

http://en.wikipedia.org/wiki/List_of_WLAN_channels

In the USA, 802.11 operation in the channels 12 and 13 is actually allowed under low powered conditions. The 2.4 GHz Part 15 band in the US allows spread-spectrum operation as long as the 50-dB bandwidth of the signal is within the range of 2400–2483.5 MHz which wholly encompasses both channels 12 and 13. A Federal Communications Commission (FCC) document clarifies that only channel 14 is forbidden and furthermore low-power transmitters with low-gain antennas may legally operate in channels 12 and 13.However, channels 12 and 13 are not normally used in order to avoid any potential interference in the adjacent restricted frequency band, 2483.5–2500 MHz, which is subject to strict emission limits set out in 47 CFR §15.205.

问题也许就是这样产生的:你笔记本所能搜到的 WIFI 信号来自正工作于 12/13/14 频段的路由器,因此你的 Kindle 搜不到无线信号。

为什么路由器工作于 12/13/14 频段呢?基于抗干扰的理由,人为指定的可能性很小,然而在无线路由器的设置中(至少是家用),频段这一项可以设为“自动选择”,这样每次路由器重启都回按照自己的算法随意选择一个频段,也许刚好就选在了“12/13/14”上。

这或许也是 WIFI 连网不稳定现象的根源,某些 Kindle 连不上无线网络,而折腾下路由器重启后,Kindle 又可以连网了。

经 GOOGLE 搜索,发现欧洲人也有类似的问题。见 http://www.mobileread.com/forums/showthread.php?t=100081

由此对 Kindle 连网问题做个小小的推测,如果真的能解决问题,请大家多转给需要的人

  1. DHCP 服务器地址池问题

听闻 DHCP 服务器是让路由器可以自动分配 ip 的东西,但是把地址池『个人理解为分配的 ip 的范围』如果在 192.168.1.100 以上,Kindle 就不能连接 WiFi『当然这是 Kindle 的问题,因为手机电脑都可以连接的,不过我不知道 Kindle 自身要怎么改,或许不能改,又或许可以通过在 Kindle 上设置静态 IP?]

其实解决这个问题有个更方便的方法,既然 Kindle 改不了,咱们就改下路由器的 DHCP 服务器地址池呗,把开始地址改为 192.168.1.2,结束地址改成 192.168.1.99『其实也不用固定这样,只要最后一个在 1-100 之间就可以了!

  1. 接下来就是运营商问题了

前两个问题我都解决后,我发现还是有时候会连接不上 WiFi,于是在又查了查,发现了一个方法,为什么这个方法能解决我不知道为什么,但是真的有效!!!

在 pc 上新建一个新文件,名为WiFi_NO_NET_PROBE,同时把后缀名删掉,让它变成一个无格式文件。Kindle 连接 pc,把新建的文件放进 kindke 的根目录,断开 Kindle 之后重启 Kindle。

关于充电

充电方法:Kindle 可以用数据线连接电脑充电。也可以用数据线连接充电头,在插座上充电。Kindle 电量不足时,灯是橙黄色的,充满以后灯会变成绿色。

充电时长:每次充电时间大约是 2-3 小时。首次充电充满即可,不需要充很长时间,有人充了一个晚上,十几个小时,然后就不能开机了,送修说主板电路烧了。平时使用时 Kindle 还剩差不多百分之二十的时候开始充电,对 Kindle 最好。因为 Kindle 很长时间不用不充电,可能会出现缺电现象,造成机器假死。充电的时候最好不要看书,不要使用 kindle,不然 kindle 电池不耐用。

更换字体

Kindle 自定义字体仅支持 OpenType(OTF)和 TrueType(TTF)这两种字体格式

字体文件复制到 Kindle 根目录下的“fonts”文件夹中

个人比较喜欢的一些用于阅读的字体,汉字作为方块字还是非常有美感的,通常情况下会选择楷书(在默认无法更换字体的情况下),而如果支持更换字体则会选择方正北魏楷书,而如果是宋体的话会选择,方正标雅宋体。

导入字典

Kindle 的字典一般都是 mobi 格式,需要注意。至于字典看个人喜好,这可以单独写另外一篇文章了,我个人一般用牛津和朗文,加上一部 GitHub 开源的收录词条很多的开源字典。

Kindle 字典下载到电脑本地后,导入 Kindle 字典的详细步骤:

  • 连接数据线,进入到 documents 文件夹,打开 documents 文件夹后,找到 dictionaries 文件夹,并打开
  • 将电脑本地的 Kindle 字典拖入到 dictionares 文件夹内
  • 最后,安全退出 kindle 盘符

截屏方法

Kindle 的截屏方法,不同 Kindle 不同,我只有 Paperwhite,所以:Kindle Paperwhite 截屏:先点上面出菜单,再同时左上 + 右下。屏幕会闪烁一下,说明截图成功。

截下来的图片会保持在 documents 这个文件夹里面,可以连接电脑拷贝出来。

以下未验证: Kindle3、Kindle DXG,截屏是同时按住:Alt+Shift+G。屏幕会闪一下,截屏就成功了。 Kindle4、Kindle5 截屏:同时按住键盘键和菜单键,屏幕会闪一下,截屏就成功了。 Kindle touch 截屏:按住 home 键,点屏幕,等几秒,反正 5 秒肯定可以了,松开 Home。

电子书格式

mobi, azw

mobi 和 azw 格式的推手主要是 Amazon,这两种电子书格式的发展很大程度上依靠 Amazon 这个巨大的内容提供商及其电子书阅读器 Kindle 的流行普及。它们同属亚马逊的私有格式,没有本质的区别,可以简单的这样理解,mobi 是比较老的一种格式,而 azw 只是 mobi 的另一种形式而已,也可以理解为 mobi 加了个壳,亚马逊利用它对电子书做 DRM 版权保护。

目前市面上的 mobi 文件大部分是来自两种途径:epub、pdf 或者 txt 转换成的 mobi,从 Amazon 商店流出来的 mobi。前者没什么好说的,后者要么是 Amazon 官方制作,要么就是自出版作者通过 KDP (Kindle Direct Publishing,作者可以绕过出版社直接在 Amazon 上发售电子书 ) 平台发布,通过 KDP 平台发布时,作者只需要上传 Word 文档,其他的事情也是 Amazon 官方来做,从而保证了,mobi 文件的规范程度。

azw3

azw3 的本质是 KF8,是随着 2011 年 Amazon 推出 Kindle Fire 平板时一起推出的。它填补了 Mobi 对于复杂排版支持的缺陷,支持很多 HTML5(目前尚不支持 HTML5 的视频和音频标签)和 CSS3 的语法,这就大大改善了原来 mobi 或 azw 内容排版上的一些缺陷,单纯从读者的角度来讲,是不输 epub 格式的。目前从 Amazon 购买的书,大部分已经是 azw3 格式了,而以前主流的 mobi 格式则越来越少,它正逐渐取代 mobi 成为 Kindle 电子书的主流格式。

epub

下面是维基百科对 epub 的一段定义:

EPUB(Electronic Publication 的缩写,电子出版)是一种电子图书标准,由国际数字出版论坛(IDPF)提出;其中包括 3 种文件格式标准(文件的附文件名为.epub),这个格式已取代了先前的 Open eBook 开放电子书标准。

epub 格式对于复杂的排版,图表,公式等元素的兼容性比 mobi 格式好很多,在脚本,公式,矢量图形的支持方面也强过 mobi 格式,现阶段 epub 格式的优势体现在图文混排、图片嵌入字体等,未来可预测的优势是 epub 格式对于声音,影像等多媒体内容互动的支持上。

epub 格式是开放标准,所以在开发工具上也会有更大的选择,像 Sigil、Calibre、Jutoh 等软件都可以让用户自助制作 epub 格式电子书,但因为良莠不齐的制作也导致一个问题:大量的 epub 文件其实是不符合标准,无法保证在所有支持 epub 的硬件和软件上都可以顺利阅读,这就和 iOS 系统和 Android 系统的区别有些相似。

找书技巧

Kindle 使用官方市场必然是件很不错的选择,但是其实有些方式来的更加方便,并且也能弥补官方市场书记不全的弊端。

Kindle10000

微信书籍推送:Kindle10000 注:该微信号已经不再能够推送书籍

自用上这个服务,Kindle 就活了起来,想起想看的书名,找到公众号,搜索推送,即使 Kindle 不在身边,下一次联网再同步即可。这个公众号在他们的简洁上这么写着:“一个被书籍改变命运的程序员领着志愿者做的免费项目”。而他的使用也非常简单,绑定 Kindle 邮箱之后,在聊天框输入书名查找,然后找到想要的书,点一下推送搞定,资源丰富。这个比我之前在一些 Kindle 资源网站上找或者百度搜方便多了。

Kindle 伴侣

地址:http://kindlefere.com

Kindle 伴侣,这是我至今也还一直订阅的少数 Kindle 相关网站之一,它的《每周一书》坚持更新也是很值得称赞的。

Kindle 饭

地址:http://www.kindlefan.cn/

Kindle 饭,有很多 Kindle 使用的文章,技巧,相关工具,很棒的网站,建议订阅。

160604 更新,这个网站竟然不存在了,我只能从 Web Archive 找找他们存在的痕迹,但真的感谢他们曾经的文字。

周读

地址:http://www.ireadweek.com/index.php/Index/index.html

都是百度网盘的资源

漫画

地址:http://www.pixvol.com/

推送漫画到 Kindle,还是非常全的

一下都是一些资源网站:

  • http://readfree.me/ 一个图书分享网站
  • https://book.einverne.info 我自己写的图书分享网站
  • https://www.mlook.mobi/ 精校电子书,资源下载
  • http://zaoshu.so/ 枣书,付费电子书价格对比,可以获取各大网站提供的免费公共电子书
  • https://www.cnepub.com/ epub 掌上书苑
  • http://www.jiumodiary.com/ 搜索电子书
  • http://readcolor.com/ 读远,电子书库
  • http://blah.me/ Google+ 郁也风整理的书籍
  • https://www.dogear.cn/ 狗耳朵 全文 RSS 和微信公众号推送

如果使用 InoReader 可以订阅下面我制作的 bundle , 我订阅了一些 Kindle 相关的文章。

地址:http://www.inoreader.com/bundle/0014cd6370e9

其他的地址我以后会在这篇文章 中更新。

reference


2016-06-04 kindle , book , 阅读 , amazon , ebook

Spring 中 ThreadPoolTaskExecutor 配置

The Spring Framework provides abstractions for asynchronous execution and scheduling of tasks with the TaskExecutor and TaskScheduler interfaces, respectively.

The Spring TaskExecutor abstraction

Spring’s TaskExecutor interface is identical to the java.util.concurrent.Executor interface.

接口 ExecutorService 的几个常用方法:

  • submit() 有返回值的任务使用
  • execute() 无返回值的任务使用
  • getActiveCount() 当前活跃线程数

TaskExecutor types

Spring 提供了一系列的预置的 TaskExecutor 的实现,几乎能满足日常的所有需求。

  • SimpleAsyncTaskExecutor 不复用任何线程,每次调用都新建线程。但是它提供并发数量限制,当调用超过限制时,会阻塞直到线程池中有空余。
  • SyncTaskExecutor 非异步执行,没有实现异步调用,主要用于简单的测试等等不需要多线程的场景
  • ConcurrentTaskExecutor 该类适配了 java.util.concurrent.Executor,只有在 ThreadPoolTaskExecutor 满足不了需求时才考虑用这个类。
  • SimpleThreadPoolTaskExecutor 这个类的实现实际上是 Quartz 的 SimpleThreadPool,它会监听 Spring 生命周期的回调。典型的使用场景是当你需要一个线程池需要和 Quartz 和 non-Quartz 组件共享
  • ThreadPoolTaskExecutor 最常用的线程池,它在 java.util.concurrent.ThreadPoolExecutor 的基础上暴露了一些 bean 的配置,并把它包装在 TaskExecutor 中。如果你要适配 java.util.concurrent.Executor,推荐可以自定义 ConcurrentTaskExecutor
  • WorkManagerTaskExecutor This implementation uses the CommonJ WorkManager as its backing implementation and is the central convenience class for setting up a CommonJ WorkManager reference in a Spring context. Similar to the SimpleThreadPoolTaskExecutor, this class implements the WorkManager interface and therefore can be used directly as a WorkManager as well.

ThreadPoolTaskExecutor Config

Spring 线程池 ThreadPoolTaskExecutor 通过 XML 方式配置:

<bean id="taskExecutor" class="org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor">
    <!-- 线程池维护线程的最少数量 -->
    <property name="corePoolSize" value="5" />
    <!-- 允许的空闲时间 -->
    <property name="keepAliveSeconds" value="200" />
    <!-- 线程池维护线程的最大数量 -->
    <property name="maxPoolSize" value="10" />
    <!-- 缓存队列 -->
    <property name="queueCapacity" value="20" />
	<!-- 线程名前缀 -->
	<property name="threadNamePrefix" value="taskExecutor-thread-"/>
    <!-- 对拒绝 task 的处理策略 -->
    <property name="rejectedExecutionHandler">
        <bean class="java.util.concurrent.ThreadPoolExecutor$CallerRunsPolicy" />
    </property>
</bean>

属性字段说明:

  • corePoolSize:核心线程数,线程池维护的最少线程数,不管创建后空闲与否,除非设置了 allowCoreThreadTimeOut
  • keepAliveSeconds:存活时间,允许的空闲时间,如果经过 keepAliveTime 时间后,超过核心线程数的线程还没有接受到新的任务,那就回收
  • maxPoolSize:线程池维护线程的最大数量
  • queueCapacity:缓存队列
  • rejectedExecutionHandler:对拒绝 task 的处理策略

    AbortPolicy,用于被拒绝任务的处理程序,它将抛出 RejectedExecutionException。 CallerRunsPolicy,用于被拒绝任务的处理程序,它直接在 execute 方法的调用线程中运行被拒绝的任务。 DiscardOldestPolicy,用于被拒绝任务的处理程序,它放弃最旧的未处理请求,然后重试 execute。 DiscardPolicy,用于被拒绝任务的处理程序,默认情况下它将丢弃被拒绝的任务。

将任务添加到线程池时:

  • 如果线程池中的线程数量小于 corePoolSize,即使线程池中的线程都处于空闲状态,也要创建新的线程来处理被添加的任务。
  • 如果线程池中的线程数量等于 corePoolSize,但是缓冲队列 workQueue 未满,那么任务被放入缓冲队列。
  • 如果线程池中的线程数量大于 corePoolSize,缓冲队列 workQueue 满,并且线程池中的数量小于 maxPoolSize,建新的线程来处理被添加的任务。
  • 如果线程池中的数量大于 corePoolSize,缓冲队列 workQueue 满,并且线程池中的数量等于 maxPoolSize,那么通过 handler 所指定的策略来处理此任务。也就是:处理任务的优先级为:核心线程 corePoolSize、任务队列 workQueue、最大线程 maximumPoolSize,如果三者都满了,使用 handler 处理被拒绝的任务。
  • 当线程池中的线程数量大于 corePoolSize 时,如果某线程空闲时间超过 keepAliveTime,线程将被终止。这样,线程池可以动态的调整池中的线程数。

SimpleAsyncTaskExecutor

SimpleAsyncTaskExecutor 每次都会 newThread()

protected void doExecute(Runnable task) {
	Thread thread = (this.threadFactory != null ? this.threadFactory.newThread(task) : createThread(task));
	thread.start();
}

SyncTaskExecutor

SyncTaskExecutor 在 spring-core-xxx.jar 包中。

SyncTaskExecutor 同步执行

@Override
public void execute(Runnable task) {
	Assert.notNull(task, "Runnable must not be null");
	task.run();
}

ConcurrentTaskExecutor

ConcurrentTaskExecutor 类在 spring-context-xxx.jar 包中。

ConcurrentTaskExecutor 类中通过 TaskExecutorAdapter 适配了 Executor

private Executor concurrentExecutor;
private TaskExecutorAdapter adaptedExecutor;

提交任务时直接通过 adapter 来提交:

public void execute(Runnable task, long startTimeout) {
	this.adaptedExecutor.execute(task, startTimeout);
}
@Override
public Future<?> submit(Runnable task) {
	return this.adaptedExecutor.submit(task);
}

@Override
public <T> Future<T> submit(Callable<T> task) {
	return this.adaptedExecutor.submit(task);
}

SimpleThreadPoolTaskExecutor

SimpleThreadPoolTaskExecutor 类在 spring-context-support-xxx.jar 包中。

SimpleThreadPoolTaskExecutor 继承了 Quartz 的 SimpleThreadPool,

@Override
public <T> Future<T> submit(Callable<T> task) {
	FutureTask<T> future = new FutureTask<T>(task);
	execute(future);
	return future;
}

队列的选择

ArrayBlockingQueue

数组实现的有长度限制的阻塞队列,FIFO 先进先出。

LinkedBlockingQueue

链表组成的有界队列,FIFO,默认长度是 Integer.MAX_VALUE,如果默认创建该队列一定特别小心容量问题。

PriorityBlockingQueue

优先级排序的无界队列,默认自然序,可自定义实现 compareTo() 方法来定义排序规则(不能保证同优先级的顺序)。

DelayQueue

使用 PriorityBlockingQueue 实现的延迟无界队列,创建元素时,可以指定延迟时间。

SynchronousQueue

不存储元素的阻塞队列,每一个 put 操作都需要等待 take。

LinkedTransferQueue

链表组成的无界阻塞队列,多了 transfer 和 tryTransfer 方法。

LinkedBlockingQueue

链表组成的双向阻塞队列,头部和尾部都可以添加或移除元素,多线程并发时可以将锁的竞争降一半。

选择

对于如何设置线程池中线程的数量,《Java 并发编程实战》中作者给出了一个公式:

 Number of threads = Number of Available Cores * (1 + Wait time / Service time)

说明:

  • wait time 用来表示任务中 IO 花费的时间,比如等待 HTTP 回应,这里的 wait time 也包括 thread 在 WAITING/TIMED_WAITING 状态的时间
  • service time, 任务真正处理的时间,比如解析 HTTP 回应内容等等

wait time / service time 这个比率又被称为 blocking coefficient。

对于 CPU 密集型任务,核心线程数可以设置为,CPU 核心数 + 1,在计算密集型的任务中,blocking coefficient 接近于 0,所以线程数约等于 CPU 核心数。但为什么要 +1 呢?

《Java 并发编程实战》一书中给出的原因是:即使当计算(CPU)密集型的线程偶尔由于页缺失故障或者其他原因而暂停时,这个“额外”的线程也能确保 CPU 的时钟周期不会被浪费。

在运行时可以通过 Runtime.availableProcessors 来获取 CPU 核心数。

int numOfCores = Runtime.getRuntime().availableProcessors();

如果任务是 IO 密集型,则可以适量的调大核心线程数,因为这个时候 wait time / service time 就会响应的增大。

举例

假如有一个工作线程来响应一个微服务,序列化一个 JSON,并执行一些规则。微服务的响应时间是 50ms,处理时间是 5ms,然后将应用部署到一台双核处理器的机器上,那么根据上面的公式:

2 * ( 1 + 50 / 5)  = 22    // 理想的线程池核心线程数

这个例子是一个极端简单的举例,除去 HTTP 线程池外,应用也还有可能有 JDBC 连接线程池,JMS 请求线程池等等。如果现实应用中也遇到各种不同的场景,可以针对不同的场景,使用多个线程池,然后针对不同的使用场景进行调优。

假使有多个线程池,可以在公式中新增一个 Target CPU utilization,取值范围是 [0-1], 1 表示线程池会充分利用处理器。

 Number of threads = Number of Available Cores * Target CPU utilization * (1 + Wait time / Service time)

Little’s Law

通过上面的解释,可以得到一个理想的核心线程数,可以得到一个理论上的核心数上限。但是我们如何知道并发的线程数如何影响延迟 (latency) 和吞吐量 (throughput)?

Little’s law 可以同来回答这个问题。这条定律认为,系统中的请求数等于它们到达的速度乘以处理单个请求所需的平均时间。我们可以利用该公式来计算需要多少并发线程来处理给定吞吐量并且要求延迟的场景。

L = λ * W

L - 并发处理的请求数
λ – 长期的平均到达率 long-term average arrival rate (RPS)
W – 处理单个请求的平均时间 the average time to handle the request (latency)

使用该公式,可以计算出系统的容量,需要多少实例同时运行才可以处理给定数量的请求,以及让处理的时间在一个稳定的范围。

回到上面的例子,我们有一个服务平均处理时间是 55ms,50ms wait time 和 5ms service time,核心线程数是 22 。

应用 Little’s Law 公式:

22 / 0.055 = 400 // the number of requests per second our service can handle with a stable response time

总结

上面提到的公式并不是银弹 (silver bullet) ,并不能解决所有遇到的问题。这个公式的问题在于,它注重于系统平均能够处理的请求数,所以并不适合于不同场景爆发式的流量情况。所以可以在设计系统时通过上面的公式计算出一个初始的设定,然后通过压测来调整。

reference


2016-05-26 spring , thread , thread-pool , queue

Spring BeanPostProcessor

BeanPostProcessor 接口允许在 Spring Bean Factory 返回 Bean instance 时修改 Bean 的创建过程。

Bean life cycle

要了解 BeanPostProcessor 接口就不得不提及 Bean 的生命周期。

Life cycle callbacks

Two groups:

  • Post-initialization
  • Pre-destruction

Life cycle:

  • Instantiation
  • Populate Properties
  • BeanNameAware’s setBeanName()
  • BeanFactoryAware’s setBeanFactory()
  • Pre-initialization BeanPostProcessors
  • InitializingBeans’ afterPropertiesSet()
  • Call custom init-method
  • Post-initialization BeanPostProcessors
  • Bean is ready to use

Container is shutdown:

  • DisposableBean’s destroy()
  • Call custom destroy-method

Callback

Spring 提供了这些方法可以在生命周期过程中回调。

  • InitializingBean 和 DisposableBean
  • Spring 提供的一系列 *Aware 接口
  • 配置文件中自定义 init()distroy() 方法
  • 注解 @PostConstruct@PreDestroy

InitializingBean 和 DisposableBean

大致这样:

import org.springframework.beans.factory.DisposableBean;
import org.springframework.beans.factory.InitializingBean;

public class DemoBean implements InitializingBean, DisposableBean
{
	//Other bean attributes and methods

	@Override
	public void afterPropertiesSet() throws Exception
	{
		//Bean initialization code
	}

	@Override
	public void destroy() throws Exception
	{
		//Bean destruction code
	}
}

*Aware interfaces

  • ApplicationContextAware 任何 bean 想要 ApplicationContext 启动时被通知可以实现该接口
  • ApplicationEventPublisherAware
  • BeanClassLoaderAware
  • BeanFactoryAware
  • BeanNameAware
  • BootstrapContextAware
  • LoadTimeWeaverAware
  • MessageSourceAware
  • NotificationPublisherAware
  • PortletConfigAware
  • PortletContextAware
  • ResourceLoaderAware
  • ServletConfigAware
  • ServletContextAware

Custom init() and destroy() methods

定义单个 Bean:

<beans>
 <bean id="demoBean" class="info.einverne.deme.DemoBean"
					init-method="customInit"
					destroy-method="customDestroy"></bean>
</beans>

全局定义:

<beans default-init-method="customInit" default-destroy-method="customDestroy">
    <bean id="demoBean" class="info.einverne.demo.DemoBean"></bean>
</beans>

@PostConstruct and @PreDestroy

  • @PostConstruct annotated method will be invoked after the bean has been constructed using default constructor and just before it’s instance is returned to requesting object.
  • @PreDestroy annotated method is called just before the bean is about be destroyed inside bean container.

BeanPostProcessor

@Slf4j
@Component
public class CustomBeanPostProcessor implements BeanPostProcessor {


  @Override
  public Object postProcessBeforeInitialization(Object bean, String beanName) throws BeansException {
	log.info("BeanPostProcessor postProcessBeforeInitialization for:" + beanName);
	return bean;
  }

  @Override
  public Object postProcessAfterInitialization(Object bean, String beanName) throws BeansException {
	log.info("BeanPostProcessor postProcessAfterInitialization for:gg" + beanName);
	return bean;
  }
}

2016-05-26 spring , java

电子书

最近文章

  • 配置 Rime 在 Vim 下退出编辑模式时自动切换成英文输入法 半年以前在 Obisidian 的文章下面有人曾经问过我一个问题,如何在 Vim 或者其他使用 Vim 模式的编辑器,比如 IntelliJ,或者 Obisidian 开启 Vim 模式后方便地切换中英文输入法,因为在编辑模式和普通模式下,需要经常切换输入法,使得体验变得非常槽糕。
  • Asus RT-AC86U 设置 前些天给家里买手机正好凑单了一个 Asus RT-AC86U,正好可以代替出了两次故障的小米 3G。
  • 扩展 Proxmox 系统分区以及 Proxmox 文件系统初识 昨天想要扩展一下之前安装的 Proxmox 容量,对系统进行了一次关机,然而关机之后就悲剧的发现在 U 盘中的系统启动不了了,将 U 盘拔下检测之后发现 U 盘可能挂了,一个全新的 U 盘,在连续 192 天运行之后挂掉了。无奈之下只能想办法先恢复一下 Proxmox 系统以及安装在系统之上的 OpenMediaVault 了。
  • 『译』我最喜欢的命令行工具 偶然间看到一篇介绍 cli 的文章,感觉写得不错,正好借此机会也整理一下我之前使用过,以及觉得非常值得推荐的 CLI 工具。
  • 使用 Clonezilla 将硬盘中系统恢复到虚拟机中 今年陆陆续续将工作的环境迁移到了 macOS,虽然已经把日常的资料迁移到了 macOS,但是之前的 Linux 上还有一些配置,以及可以的一些测试还需要用到 Linux 虚拟机,所以我就想能不能用 Clonezilla 将磁盘中的系统备份然后恢复到虚拟机里面。因为我发现 macOS 下的 Fusion 还是很强大的。