在使用 [[ChatGPT]] 的时候总是对它一个字一个字的出结果感到焦急，虽然也知道 AI 生成内容的时候确实是一个字一个字计算出来的。OpenAI 使用这样的一个打字机效果也确实符合这个使用场景。但是当我想要自己去实现这样的效果的时候就突然遇到了我的知识盲区，观察 Chrome DevTools，我原本还以为是用 Web Socket 实现的，但是观察了一番发现并没有 Web Socket 的连接。再观察 https://chat.openai.com/backend-api/conversation 接口，发现 content-type: text/event-stream; charset=utf-8，于是就有了这篇文章。

什么是 Server-sent Events

Server-sent Events (SSE) 是一种服务器推送技术，利用该技术可以让服务器通过 HTTP 连接向客户端推送通知，消息，事件。SSE 通常用于向浏览器客户端发送消息更新或连续数据流，通过称为 EventSource 的 JavaScript API 来增强本机跨浏览器流媒体，客户端通过请求特定 URL 来接收 Event Stream。 SSE 的 media type 为 text /event-stream。

服务器推送内容

当我们开发需要数据实时更新的项目时，通常有一个问题，就是「如何从服务端向客户端发送消息/更新」，通常情况下有三种处理方式：

• Client Polling
• Web Socket
• Sever-Sent Events(SSE)

Client Polling

客户端以固定间隔向服务端轮询查询更新。这个技术不是很新，实现比较简单。但这种技术只能算作准实时。

Web Socket

Websocket 是一个流行的技术，用来提供客户端和服务端的双向数据传输。

Websocket 不是基于 HTTP 协议的，所以需要额外的安装和集成，开发和实现难度稍微比 Client Polling 复杂一些。

Server-Sent Events

Server-Sent Events 是一个最新的技术，基于 HTTP，提供从服务端到客户端的异步消息通讯。几乎所有的浏览器都支持 SSE，除了 Internet Explorer。

SEE 使得服务器可以不依赖任何 polling 或 long-polling 的机制来发送消息给客户端。

GET /api/v1/live-stream
Accept: text/event-stream
Cache-Control: no-cache
Connection: keep-alive

text/event-stream 表示客户端会从服务端等待事件流。no-cache 表示禁止缓存。

这个请求会开启一个长连接，服务端可以将实时的内容发送给客户端。Events 发送的内容是 UTF-8 编码的文本内容。

优点

• 简单，EventSource API 非常简单
• 服务器推送，适用于服务器向客户端推送数据，客户端只能接收
• EventSource 会自动处理断开和重连

缺点

• Server-Sent Events 的一大缺点就是数据的格式只支持 UTF-8，二进制数据是不支持的。
• 当没有使用 HTTP/2 的时候，另一个限制就是同一个浏览器最多只能有 6 个并发连接。当使用多个标签页的时候可能成为瓶颈。

more

Microsoft 提供了 fetch-event-source 这个库来实现了 POST 请求的 EventSource。

reference

• https://medium.com/yemeksepeti-teknoloji/what-is-server-sent-events-sse-and-how-to-implement-it-904938bffd73

Hestia Control Panel ([[HestiaCP]]) 是一个免费开源的 Web 服务器控制面板，它提供了一个易于使用的 Web 界面来管理 Web 服务器和网站。Hestia CP 支持多种 Linux 发行版，包括 Ubuntu、Debian、CentOS 等，可以安装和配置 Apache 或 Nginx、PHP、MySQL 等常见的 Web 服务器和数据库软件。Hestia CP 还提供了一些额外的功能，如邮件服务器、防火墙、文件备份和恢复等。

ionCube Loader 是一个 PHP 扩展程序，用于解密和执行使用 ionCube 编码技术加密的 PHP 脚本。它通常用于保护商业 PHP 应用程序的源代码，以防止未经授权的访问和复制。我之前在安装 Clientexec 的时候短暂地接触过。之前在 lnmp 和 [[aapanel]] 上都是手动安装的，基本步骤也相差不错，下载 ionCube，然后修改 PHP 配置，在配置里面将 ionCube 扩展的本地路径配置上。

首先访问 ionCube Loader 官网，然后根据自己的系统下载对应版本的二进制。

解压之后可以得到很多 .so 文件。

cp ioncube_loader_lin_7.4.so /usr/lib/php/20190902
echo zend_extension=ioncube_loader_lin_7.4.so > /etc/php/7.4/fpm/conf.d/00-ioncube.ini
echo zend_extension=ioncube_loader_lin_7.4.so > /etc/php/7.4/cli/conf.d/00-ioncube.ini

配置 8.1

echo zend_extension=ioncube_loader_lin_8.1.so > /etc/php/8.1/fpm/conf.d/00-ioncube.ini
echo zend_extension=ioncube_loader_lin_8.1.so > /etc/php/8.1/cli/conf.d/00-ioncube.ini

重启

service php7.4-fpm restart

验证

php7.4 -v

可以在 /usr/lib/php 目录下看到三个日期的目录，上面提到了一个 20190902 的目录。如果要配置其他 PHP 的版本，就需要用到其他的目录。

这三个数字分别代表 PHP 的版本号。20190902 代表 PHP 7.4，20200930 代表 PHP 8.0，而 20220829 代表 PHP 8.1。这些数字用于指定 PHP 扩展或应用程序所需的最低 PHP 版本。如果一个应用程序需要 PHP 7.4 或更高版本，则可以使用 20190902，如果需要 PHP 8.0 或更高版本，则可以使用 20200930，如果需要 PHP 8.1 或更高版本，则可以使用 20220829。

要注意的是 ionCube 是不提供 8.0 版本的，所以如果要求 8.0 以上，那么就需要配置 8.1 的。

之前的一篇文章介绍过如何使用 Docker 自建 [[Chatwoot]]，但是最近调用 API 的时候总是发现问题。在调用最普通的接口的时候，按照要求在 Header 中传了 api_access_token，但是接口返回 401 或者是

{"errors":["You need to sign in or sign up before continuing."]}

简单的查询了一下之后，发现问题出现在 Nginx 上，Nginx 默认情况下不允许带下划线的 Header，所以当请求到 Nginx，然后转发到后台 Chatwoot 的时候这个 api_access_token 就丢了。所以一直出现 401 和需要登录的状况。

解决办法非常容易，在 Nginx 的配置 server 块中增加如下的配置

underscores_in_headers on;

然后 Nginx 配置 reload 即可，因为我使用 [[HestiaCP]] 控制面板，所以后台修改一下配置模板即可。

reference

• https://www.chatwoot.com/docs/self-hosted/deployment/caprover#api-requests-failing-with-you-need-to-sign-in-or-sign-up-before-continuing

之前的时候，有一台小主机，在上面安装了 [[Proxmox VE]]，然后在其中安装了 [[iKuai]] 和 [[OpenWrt]] 作为软路由使用。现在已经不需要再将其作为软路由代理使用，所以今天就拿出来整理一下，正好放在家里面作为一个 Linux 小服务器，跑一些小一点的程序，然后顺便挂载一个硬盘作为一个小型的媒体服务器。

因为之前在 Proxmox VE 上安装过很多次的系统，这里就不展开，把一些重要的配置和截图放在下面。

准备 ISO

在创建虚拟机之前，需要到 Ubuntu Server 官网 下载最新的 ISO 镜像，然后把镜像上传到 ISO Images 中：

之后就可以开始创建 Ubuntu Server。具体的步骤如下。

创建虚拟机

首先第一步设置节点的名字（Name）

然后第二步选择需要挂载的镜像。

第三步配置 BIOS，保持默认即可。

第四步，选择磁盘，这里个地方可以根据自己的需要调整虚拟磁盘大小。

第五步，设置 CPU 核心，默认是不能超过物理 CPU 的数量的。

第六步，设置网络设备，我这边默认有一个 Linux 网桥（vmbr0），默认即可。

之后点击下一步，确认自己的配置，然后点击完成虚拟机的创建。

之后就可以开启虚拟机，第一次会使用设置 ISO 启动虚拟机，然后进入 Ubuntu Server 的安装界面。

安装 Ubuntu Server

第一次启动虚拟机之后会自动进入安装的程序，安装的过程比较简单，使用键盘选择，确认即可，基本上会分成如下几步：

• 选择语言，English
• 选择安装的类型，默认的 Ubuntu Server 即可
• 配置网络，这个地方需要注意
  • 默认情况下安装程序会根据 DHCP 自动获取一个 IP 地址，如果这个 IP 地址不是你想要的，可以使用 Mannual 自动配置一个
  • subnet 192.168.2.0/24
  • IP 选择一个想要的，比如 192.168.2.30
  • Gateway: 网关 192.168.2.1
  • Name Server: 设置一个 DNS 解析服务器，比如 8.8.8.8
  • Search Domain: 设置一个 Search Domain，Search Domain 的作用就是当本地网络的一个解析，比如设置了 Search Domain 是 einverne.info ，那么在 Ubuntu Server 中解析 webserver 的时候会首先尝试去解析 webserver.einverne.info
• 配置代理，不需要设置，但如果是在局域网，或者无法访问互联网的时候这个地方可以根据自己的需要设置一下
• Ubuntu Archive Mirror，默认即可
• 配置磁盘，可以根据自己的需求调整，我就按默认
• 创建用户名密码等
• 开启 SSH
• 选择是否要安装其他组件，比如 [[microk8s]], [[NextCloud]], [[weken]], [[Docker]] 等等
• 最后就是确认，等待安装完成

进入系统

等待安装程序安装完成之后就可以通过 IP 地址和端口，用户名和密码登录到 Ubuntu Server。

ssh username@ip

CoinPayments 是全球第一个加密货币支付网关，成立于 2013 年 8 月加拿大，CEO 是 Alex Alexandrov。商家可以借助 CoinPayments 来接受加密货币的支付订单。CoinPayments 接受非常多的加密货币，不仅支持流行的比特币(BTC)，以太坊(ETH)，还支持非常多的小众代币。CoinPayments 还提供了大量的购物车插件，以及定制的支付解决方案和商家工具。

CoinPayments 收取 0.5% 的固定佣金，相较于 Stripe 的 2~3%，以及信用卡更高的佣金，CoinPayments 非常有优势，但目前的问题就在于

• 加密货币波动大，无法在消费领域产生实际用途（稳定币除外）
• 加密货币支付对于普通人日常使用门槛较高，维护一个安全的加密货币钱包，以及如何认知加密货币钱包，[[钱包助记词]]，私钥，网络，钱包地址等等，都需要有一些学习

CoinPayments 并没有将自己的业务限制在支付工具上，用户也可以通过 CoinPayments 构建一个在线商店，直接通过 CoinPayments 销售商品并接受加密货币支付，但看起来目前做得并不成功。

用户可以使用的另一个独特功能是 PaybyName 服务，它可以简化任何加密货币交易者或投资者的生活。通过创建一个帐户，用户可以获得一个用于发送或接收任所支持加密货币的地址。

特性

CoinPayments 的功能：

• 支持 2310+ 种币，包括比特币，莱特币，等等¹
• 可以和现有的购物网站，[[WooCommerce]]，[[Opencart]]，[[Shopify]]，[[OScommerce]]，[[Magento]] 等等集成
• 礼品卡支持，可以购买带有加密货币的礼品卡
• 提供加密货币转换
• 多币种支持的钱包

费用

CoinPayments 对于所有支付的订单收取 0.5% 的交易手续费。²

对于存入钱包的，每个月前 15000 美元免费，之后收取 0.5%。

CoinPayments 不收取任何提现的手续费，但是如果要转账到其他钱包，根据不同的网络，需要支付不同的网络费用（Network Fees）。

更多的网络费用可以在这里 查看。

注册使用

CoinPayments 的注册非常简单，只需要一个邮箱即可，但是 [[KYC]] (Know your customer) 的过程稍微有一些复杂。

注册使用 CoinPayments 的步骤：

• 准备一个邮箱，然后在 CoinPayments 上使用邮箱注册一个帐号
• 邮箱会收到一个验证码，然后通过验证码验证邮箱，进入 CoinPayments 后台

KYC

[[KYC]] 是 CoinPayments 验证注册用户身份的一种方式，在 KYC 的过程中至少需要准备：

• 护照原件（因为需要拍照）
• 居住证明（Bank statements ，三个月内的水电账单，有线电视账单 等等有住址的证明，只需要一份即可）
• 一个居住地的电话号码

然后按照网站给出的流程注册即可，但是需要注意的是，验证网站不能上传截图或者带反光的照片，在拍摄的时候要特别注意，否则可能验证失败。失败之后可以重新拍摄，重新提交进行验证。

身份验证完成之后就可以在 CoinPayments 后台访问设置，商家工具等等。

在注册后，您需要在您的 CoinPayments 账户中添加您要接受的加密货币。这涉及到为每种币种生成一个加密货币地址，客户可以向该地址发送付款，需要注意的是 USDT TRC-20 网络的地址需要提前向该地址发送 0.1 TRX 进行激活。

集成到您的网站：CoinPayments 提供了许多 API 和插件，可帮助您将其支付处理器集成到您的网站上。根据您的技术水平和需求，您可以选择使用 CoinPayments 提供的现成插件或自己编写代码。

接受付款：一旦 CoinPayments 已经被成功集成到您的网站上，您就可以开始接受加密货币付款了。当客户发送付款时，CoinPayments 会将资金保留在您的账户中，直到您将其提取到您的钱包中。

需要注意的是，使用 CoinPayments 需要您了解一些基本的数字货币概念，例如加密货币地址、钱包、Gas Fee 等等。如果您对此还不熟悉，建议您先学习一些相关基础知识。

提取资金

最后，您可以从 CoinPayments 账户中提取您接受的加密货币。提取的方式取决于您的需求和偏好，您可以选择将资金提取到您的加密货币钱包或将其转换为法定货币后提取到您的银行账户。

Non-Incorporated vs Incorporated

在 KYC 的过程中，你会看到 CoinPayments 要求用户选择是什么类型的账户，这个账户类型选择之后就不能修改了，除非联系人工客服。

Non-Incorporated 和 Incorporated 的区别在于

• non-incorporated 公司是归独立个人所有，验证流程是和个人账号一样的
• Incorporated 公司，例如法定公司，有限公司（公共或私人），一人一公司，合伙企业和非政府组织，可保护作为与所有者单独的法人实体的负债。

商家工具

API

CoinPayments 提供了一套完整的 API 接入方式，具体可查看这里。当用户完成支付时，也可以通过 IPN，Web Callback 的方式来通知系统。

最后

如果觉得文章内容对您有帮助，可以点击下方的支付按钮，支付 1 USDT 表示您的支持。

related

• [[Stripe]] 法币的支付网关
• [[Paypal Business]]
• [[Bitpay]]
• [[GoCoin]]
• [[CoinsBank]]
• [[Coinbase Commerce]]
• [[Asiabill]]

reference

• 集成 CoinPayments 的教程
• KYC 验证教程

之前在搭建 Mailcow 邮件服务器的时候简单的了解到了 Sieve 这个可以用来编程过滤邮件的语言。刚好现在要充分利用起 Mailcow，所以系统地学习一下 Sieve 这个邮件过滤编程语言。

什么是 Sieve

Sieve 是由 RFC 5528 定义的一门专门用来处理电子邮件的语言。它被设计不仅可以用于邮件客户端的邮件过滤，也可以在邮件服务器端进行过滤。设计它的目的在于扩展性，且独立于邮件架构和操作系统。 它适合运行在不允许用户执行程序的邮件服务器上运行，例如在 IMAP 服务器上。因为 Sieve 中没有变量，没有循环，也不运行调用外部的 Shell。

Sieve 不是什么

• Sieve 不计划独立成为一门成熟的编程语言
• Sieve 并不适用于过滤或处理除 RFC 822 消息以外的内容
• Sieve 也不打算代替现存的其他工具

Sieve 过滤器的格式

Sieve 没有特别复杂的结构，只是包含一组命令，比如 discard, if, fileinto 等等

require ["fileinto", "reject"];

# Daffy Duck is a good friend of mine.
if address :is "from" "daffy.duck@example.com"
{
    fileinto "friends";
}

# Reject mails from the hunting enthusiasts at example.com.
if header :contains "list-id" "<duck-hunting.example.com>"
{
    reject "No violence, please";
}

# The command "keep" is executed automatically, if no other action is taken.

第一行脚本（require 命令）告诉 Sieve 解释器将使用可选的命令文件。然后是两个过滤规则。第一个过滤规则将所有来自 “ daffy.duck@example.com” 的邮件存储到名为“friends”的邮箱中。第二个规则拒绝头部包含字符串“”的 List-Id 字段的邮件。

如果脚本中没有匹配的条件，则应用默认操作，即隐式“保留”命令。该命令将邮件存储在默认邮箱中，通常是 INBOX。

Sieve 有两种注释写法

# Everything after # character will be ignored.

/* this is a bracketed (C-style) comment. */

和地址比较，From:, To:, Sender:

还有三个可选的参数可以用来比较

• :localpart，@ 符号前面的部分
• :domain，@ 符号后面的部分
• :all，全部

# The two test below are equivalent;
# The first variant is clearer and probably also more efficient.
if address :is :domain "to" "example.com"
{
    fileinto "examplecom";
}
if address :matches :all "to" "*@example.com"
{
    fileinto "examplecom";
}

一个邮件地址通常是 "FirstName LastName" <localpart@domain> 这样组成的。

比较 Header 中其他字段。

# File mails with a Spamassassin score of 4.0 or more
# into the "junk" folder.
if header :contains "x-spam-level" "****"
{
    fileinto "junk";
}

匹配类型

Sieve 提供了三种比较方法：

• :is，比较两个字符串完全相等
• :contains，是否包含
• :matches，使用通配符 ? 来匹配一个未知字符，使用* 来匹配零个或多个未知字符

# Reject all messages that contain the string "viagra"in the Subject.
if header :contains "subject" "viagra"
{
    reject "go away!";
}
# Silently discard all messages sent from the tax man
elsif address :matches :domain "from" "*hmrc.gov.uk"
{
    discard;
}

List of Strings

匹配列表：

# A mail to any of the recipients in the list of strings is filed to the folder "friends".
if address :is "from" ["daffy.duck@example.com", "porky.pig@example.com", "speedy.gonzales@example.com"]
{
    fileinto "friends";
}

如果要表达，from 或 sender 是某邮箱的时候，做什么

# Check if either the "from" or the "sender" header is from Porky.
if address :is ["from", "sender"] "porky.pig@example.com"
{
    fileinto "friends";
}

如果要组合表达

# Match "from" or the "sender" file with any of Daffy, Porky or Speedy.
if address :is ["from", "sender"] ["daffy.duck@example.com", "porky.pig@example.com", "speedy.gonzales@example.com"]
{
    fileinto "friends";
}

allof, anyof

• allof 测试列表，如果列表中的每一个都是 true，则返回 true，逻辑上的 and
• anyof 测试列表，只要其中一个满足，则返回 true，逻辑上的 or

# This test checks against Spamassassin's header fields:
# If the spam level ls 4 or more and the Subject contains too
# many illegal characters, then silently discard the mail.
if allof (header :contains "X-Spam-Level" "****",
          header :contains "X-Spam-Report" "FROM_ILLEGAL_CHARS")
{
    discard;
}
# Discard mails that do not have a Date: or From: header field
# or mails that are sent from the marketing department at example.com.
elsif anyof (not exists ["from", "date"],
        header :contains "from" "marketing@example.com") {
    discard;
}

过滤信息大小

可以使用 size 来检测

# Delete messages greater than half a MB
if size :over 500K
{
    discard;
}
# Also delete small mails, under 1k
if size :under 1k
{
    discard;
}

Example

一个简单的 Sieve 过滤器的例子是将所有来自特定发件人的邮件自动转发到另一个邮箱。下面是一个示例 Sieve 脚本：

if header :contains "From" "example@example.com" {
  redirect "another@example.com";
}

这个脚本将检查邮件的发件人是否是”example@example.com”，如果是，则将邮件重定向到”another@example.com”。

Mailcow

在 Mailcow 中可以通过如下的路径设置 Sieve 过滤器。

Configuration -> Mail Setup -> Filters -> Add filter

另外如果有人想要创建自己的自定义域名邮箱，欢迎到 EV Hosting 订购使用。

reference

• http://sieve.info/
• https://p5r.uk/blog/2011/sieve-tutorial.html
• https://proton.me/support/sieve-advanced-custom-filters

在之前的文章中就提到过 Raycast，前不久看到 [[Raycast]] 快速跟进了 OpenAI，现在推出了 Raycast AI，我没有想到的是，Raycast 的使用场景可以如此完美地和 AI 结合在一起。

Raycast 代替了如下我过去常常做的事情：

• 再不需要打开网页，或者 ChatGPT 客户端再输入问题
• 再不需要打开 Papago（或者 DeepL 等客户端）翻译段落（短句和单词基本靠 Chrome 插件和 [[GoldenDict]]）
• 再不需要打开 OpenAI Translator 对文本进行润色
• 直接在 Obsidian 中让 Raycast AI 进行语法检查，改写，并一键替换原文
• 代替 [[Cursor.so]] 编辑器的自然语言编程，Raycast AI 可以用来解释代码，生成代码并直接插入编辑器

直接提问

翻译

选中文本，然后 Cmd+Space，translate 即可。

润色文本

直接使用 Improve Writing，并将润色过的文本直接粘贴回 Obsidian。

总结

如果在网上看到一段非常长的文章，可以直接选中，然后让 Raycast 总结。

Create AI Command 创建自己的命令行

可以看到的是上面的所有的操作，大部分都是 Raycast AI 默认自己定义的，但是 Raycast AI 更强大的一点在于它可以自己创建 AI Command（prompt），也就是说可以利用 OpenAI 的上下文对话的能力，将一些固定的模式写道 Raycast 中，然后下次使用的时候就可以直接输入几个字母触发了。也可以利用 Raycast 自己的快捷键来一键呼出。

一些使用小 Tip

Raycast 本身已经非常强大了，但是有一些贴心的功能他没有展示出来，需要用户自己去发现，下面就是一些使用的小 Tip。

• 如果不满意 Raycast AI 的结果，可以直接按 Cmd+R 重新生成。
• 生成内容之后可以使用 Cmd+k 来对结果进行更多的操作，比如复制，比如粘贴回选中的地方
• Raycast AI 可以设置快捷键，比如可以将常用的 Ask AI，translate 等等设置一个单独的快捷键

alternative

如果还没有排到 Raycast AI，还可以试试 macOS 上的 MacGPT。

折扣码

Raycast AI 将会进入 Raycast Pro 的套餐，每个月 8 美元，目前可以使用 RAYFRIENDS10 来获取 10% 的折扣。

什么是向量数据库

在介绍什么是向量数据库之前先来了解一下数据库的种类。

图上从左往右依次是 Key-Value 数据库（[[Redis]]，[[HBase]]），文档数据库（[[MongoDB]]，[[Cosmos DB]]），[[图数据库]]（[[图数据库 Neo4j]]，[[图数据库 Nebula Graph]]），向量数据库。

向量数据库就是用来存储，检索，分析向量的数据库。

向量数据库是一种专门用于存储和查询向量数据的数据库，其中向量数据指的是由数字组成的向量。向量数据库通常使用高效的相似度搜索算法，例如余弦相似度或欧几里得距离，来快速查询与目标向量最相似的向量。向量数据库在机器学习、计算机视觉、自然语言处理等领域中得到广泛应用。

The vectors are usually generated by applying some kind of transformation or embedding function to the raw data, such as text, images, audio, video, and others.

为什么需要有向量数据库

解决两个问题：

• 高效的相似性检索 (similarity search)
  • 相似文本检索
  • 从图片检索图片，人脸匹配（支付），车牌号匹配，图片检测等
• 高效的数据组织和分析能力
  • 人脸撞库，分析案发现场的人物图片

在机器学习领域，通常使用一组数值来表示一个物体的不同特征。比如我们去搜索图片的时候，数据库中存储和对比的并不是图片，而是去搜索算法提取的图片特征。

向量数据库的特点

向量数据库具有以下特点：

• 提供标准的 SQL 访问接口
• 高效的相似度搜索：向量数据库使用高效的相似度搜索算法，例如余弦相似度或欧几里得距离，来快速查询与目标向量最相似的向量。
• 支持高维向量：向量数据库可以存储和查询高维向量，例如在图像识别和自然语言处理中经常使用的特征向量。
• 高性能：向量数据库通常使用高性能的数据结构和算法，例如哈希表和树结构，以实现快速的查询和插入操作。
• 可扩展性：向量数据库可以通过添加更多的节点或服务器来实现横向扩展，以支持大规模的向量数据集。
• 支持多种数据类型：向量数据库通常支持多种数据类型，例如浮点数、整数和布尔值，以满足不同应用场景的需求。

和传统数据库的区别

• 数据规模上超过关系型数据库，分布式，扩展性
• 查询方式不同，计算密集型
  • 传统数据库点查和范围查
  • 向量数据库是近似查
  • 搜索推荐
• 低延时高并发

向量数据库有哪些

目前比较流行的向量数据库包括：

• [[Milvus]]：一个开源的向量数据库，是全世界第一款向量数据库，也是目前最领先的云原生向量数据库，支持自托管，支持高维向量的存储和查询，提供了多种相似度搜索算法和多种客户端语言接口。构建在开源的  Faiss, HNSW, Annoy 之上
  • zilliz 是一个 SaaS 版本的 Milvus 平台，提供在线托管的 Milvus 服务。
• [[Weaviate]] 开源，一个完全托管的向量数据库
• [[Vespa]] 开源，可自托管，提供托管服务
• [[Vald]]
• [[Redis]] Redis 也提供了向量距离的相关内容
• [[Qdrant]] 开源，Rust
• [[Faiss]]：一个由 Facebook 开发的向量数据库，支持高效的相似度搜索和聚类操作，提供了多种索引结构和查询算法。
  • sqlite-vss 基于 Faiss 做了一个 SQLite Vector Similarity Search
• [[Pinecone]] 闭源，完全托管的向量数据库
• Annoy：一个开源的向量数据库，支持高维向量的存储和查询，使用随机化近似算法实现快速的相似度搜索。
• Hnswlib：一个开源的向量数据库，支持高维向量的存储和查询，使用基于图的相似度搜索算法实现高效的查询。
• NMSLIB：一个开源的向量数据库，支持多种相似度搜索算法和索引结构，可以用于高维向量和非向量数据的存储和查询。
• Vearch
• TensorDB
• Om-iBASE，基于智能算法提取需存储内容的特征，转变成具有大小定义、特征描述、空间位置的多维数值进行向量化存储的数据库，使内容不仅可被存储，同时可被智能检索与分析。使用向量数据库可有效实现音频、视频、图片、文件等非结构化数据向量化存储，并通过向量检索、向量聚类、向量降维等技术，实现数据精准分析、精准检索。
• Proxima
• VQLite 是一个基于 Google ScaNN 包装的轻量简单的向量数据库，Go 语言编写。
• pgvector 是为 [[PostgreSQL]] 数据库编写的一个向量近似度查询支持。
• [[SPTAG]] 是微软开源的一个近似向量搜索的库
• [[Elasticsearch]] 和 OpenSearch 的 GSI APU

相关的开源项目：

• pigsty 监控/数据库开箱即用 HA/PITR/IaC 一应俱全。Pigsty 可以让用户以接近硬件的成本运行企业级数据库服务。2.0.2 发布之后可以使用 pgvector 来存储向量。
• vearch Vearch 是一个分布式的向量搜索系统。

ChatGPT Embedding 后的内容相似度查询是用 Cosine 算法

托管的向量数据库 Fully managed vector database

• [[zilliz]] 托管的 Milvus 数据库
• metal.io
• drant 注册赠送 1 GB 存储空间
• [[Supabase]] 开启 pgvector 扩展

相关工具

• docarray 是 Linux 基金会下的一个专门为多模态数据设计的 Python 工具包，一套数据结构就解决了表示、处理、传输和存储，存储这块儿提供了一套统一的向量数据库 API，包括 Redis、Milvus、Qdrant、Weaviate、ES 等等。

可学习的代码:

• https://github.com/GanymedeNil/document.ai 基于向量数据库与 GPT3.5 的通用本地知识库方案(A universal local knowledge base solution based on vector database and GPT3.5)

向量数据库的几个发展方向

• 过去的向量数据库是面向实时性要求高，数据规模小，可用性高的场景，但是随着图像，视频，无人驾驶，NLP 的发展，数据量已经从千万级别增长到百亿级别
• 单机想分布式云原生发展
• 不同的索引实现方式，Faiss 为代表的 IVF 统一到了 HNSW/NGT 为代表的图流派。图索引尽管性能相对差，内存消耗高，但是性能好，召回率高。Google 也发布了 ScaNN 技术
• 规范的查询语言，向量数据库还没有统一的查询接口，大多数是定制的 SDK 或 RESTful 接口
• 向量数据库和传统数据库融合

向量数据库的实现原理

• 存储
• 查询
  • 相似度计算
  • 欧式距离 L2

欧式距离 Euclidean distance L2

欧氏距离是计算两个点之间最短直线距离的方法。

$d(x,y) = d(y,x) = \sqrt{\sum_{i=1}^{n}(x_i-y_i)^2}$

其中 $x=(x_1, x_2, …, a_n)$ 和 $y=(y_1, y_2, …, y_n)$ 是 N 维欧式空间中的点。

内积 Inner product (IP)

两个向量内积距离计算公式

$\mathbf{a} \cdot \mathbf{b} = \sum_{i=1}^{n} a_i b_i$

其中，$n$ 是向量的维数，$a_i$ 和 $b_i$ 分别是向量 $\mathbf{a}$ 和 $\mathbf{b}$ 在第 $i$ 个维度上的分量。

内积更适合计算向量的方向而不是大小。如果要使用点积计算向量相似度，必需对向量作归一化处理，处理后点积与余弦相似度等价。

二维

向量数据库的实际应用

• 相似文本检索
• 图片搜图片
• 搜索音频内容
• 搜索视频内容

一段代码演示向量数据库的用途

[[chatdoc]] 项目

related

• [[LlamaIndex]]
• [[LangChain]]

reference

• https://www.pinecone.io/learn/vector-database/
• https://towardsdatascience.com/milvus-pinecone-vespa-weaviate-vald-gsi-what-unites-these-buzz-words-and-what-makes-each-9c65a3bd0696
• < https://milvus.io/docs/metric.md>

LangChain 是一个围绕大型语言模型 （[[LLM]]）的应用开发框架，或者说是工具集，使用 Python 编写。LangChain 是由 Robust Intelligence 前的机器学习工程师 Chase Harrison 在 10 月底开源的工具库。众多 AI Hackathon 决赛项目使用 LangChain，它的 Github Star 迅速突破万，成为 LLM 应用开发者在选择中间件时最先想到的名字。

• 源代码
• 文档

LangChain 能做什么？

• 个人助理，记住用户的行为数据并提供建议
• 聊天机器人，语言模型天然擅长生成文本
• 生成式问答
• 文档回答，针对特定的问题回答
• 文本摘要，从文本中提取信息
• 代码理解，理解代码的意图
• 文本总结，从较长的文本中总结信息

模块

LangChain 主要提供如下的模块来支持快速开发：

• Models 支持各种模型及集成
  • LLMs，LLM 通用接口，LLM 相关常用工具
• Prompt，Prompts 管理，提示优化，提示序列化
• Document Loaders，文档加载的标准接口，与各种格式的文档及数据源集成
• Chains，包含一系列的调用，可能是一个 Prompt 模板，一个语言模型，一个输出解析器，一起工作处理用户的输入，生成响应，并处理输出
• Agents，Agent 作为代理人去向 LLM 发出请求，采取形同，检查结果，直到工作完成。
• Memory，是在 Chains 和 Agent 调用之间的持久化状态
• Indexes 将自己的文本做索引

用不到 50 行代码实现一个文档对话机器人

我们都知道 [[ChatGPT]] 训练的数据只更新到 2021 年，因此它不知道最新在互联网上产生的内容。而且 ChatGPT 的另一个缺点就是当他不知道的时候就会开始一本正经的胡说。但是利用 LangChain 可以用不到 50 行的代码然后结合 ChatGPT 的 API 实现一个和既存文本的对话机器人。

假设所有 2022 年更新的内容都存在于 2022.txt 着一个文本中，那么通过如下的代码，就可以让 ChatGPT 来支持回答 2022 年的问题。

#!/usr/bin/python
# -*- coding: UTF-8 -*-
import os

import jieba as jb
from langchain.chains import ConversationalRetrievalChain
from langchain.chat_models import ChatOpenAI
from langchain.document_loaders import DirectoryLoader
from langchain.embeddings import OpenAIEmbeddings
from langchain.text_splitter import TokenTextSplitter
from langchain.vectorstores import Chroma


def init():
    files = ['2022.txt']
    for file in files:
        with open(f"./data/{file}", 'r', encoding='utf-8') as f:
            data = f.read()

        cut_data = " ".join([w for w in list(jb.cut(data))])
        cut_file = f"./data/cut/cut_{file}"
        with open(cut_file, 'w') as f:
            f.write(cut_data)


def load():
    loader = DirectoryLoader('./data/cut', glob='**/*.txt')
    docs = loader.load()
    text_splitter = TokenTextSplitter(chunk_size=1000, chunk_overlap=0)
    docs_texts = text_splitter.split_documents(docs)
    api_key = os.environ.get('OPENAI_API_KEY')
    embeddings = OpenAIEmbeddings(openai_api_key=api_key)
    vectordb = Chroma.from_documents(docs_texts, embeddings, persist_directory='./data/cut/')
    vectordb.persist()
    openai_ojb = ChatOpenAI(temperature=0, model_name="gpt-3.5-turbo")
    chain = ConversationalRetrievalChain.from_llm(openai_ojb, vectordb.as_retriever())
    return chain

chain = load()

def get_ans(question):
    chat_history = []
    result = chain({
        'chat_history': chat_history,
        'question': question,
    })
    return result['answer']

if __name__ == '__main__':
    s = input('please input:')
    while s != 'exit':
        ans = get_ans(s)
        print(ans)
        s = input('please input:')

reference

• https://github.com/gkamradt/langchain-tutorials

因为自己之前买过一些 VPS，但是一直空闲很多，所以想着是否能够充分利用起来。最近正好看到可以免费使用 [[Clientexec]] 管理 Web Hosting 账单，所以隆重介绍一下刚刚推出的新服务 EV Hosting，目前上线了两个功能，共享网站托管服务和自定义域名邮箱服务。

新加坡 共享网站托管服务

共享网站托管服务（Shared Web Hosting） 是一种网站托管服务，是将多个网站存储在同一台服务器上，并共享服务器上的 CPU、内存和带宽。这种类型的托管服务通常是最便宜和最受欢迎的选择，特别适合个人和小型企业。

如果你是一个不懂技术的个人但想在网络上有一片属于自己的空间，或者你想以最低的成本开展在线商城，欢迎来订购使用。

本站提供的托管服务，服务器位于新加坡，CPU 是 AMD Ryzen 9 3900X 12-Core Processor，服务器共 128 GB 内存。

一键安装超过 400 种应用

目前该服务托管于新加坡的服务器，使用 [[DirectAdmin]] 面板，装有 [[Softaculous]]，可以一键安装包括 [[WordPress]]，[[Joomla]]，[[NextCloud]]，[[Tiny Tiny RSS]]，[[miniflux]]，[[FreshRSS]]，[[phpmyadmin]] 等等超过 450 种的应用程序¹，不少的应用我之前也是介绍过的，并且还一直在用，比如 [[NextCloud]] 这个文件同步工具，[[miniflux]] 这个 在线的 RSS 阅读器。Softaculout 非常强大，很多功能和特性有待你去发现。

DirectAdmin 后台也有一个在线的文件管理器，可以直接基于网页对网站内容进行管理。

自定义域名邮箱

另外订购所有的套餐都可以在后台配置自定义邮箱，每一个邮箱每个小时可以发送至多 200 封邮件。请不要滥用发件发送恶意、垃圾邮件。

也可以使用后台提供的 Roundcube 网络邮箱界面来管理自己的邮件。

MySQL 数据库

购买套餐之后可以在后台创建响应的 MySQL 数据库供应用程序保存数据使用。所有的数据库内容及网站内容都会定期通过备份来保证安全。

附加功能

可以通过附加功能，来设置 Node.js，PHP，Python 等应用程序。

为了庆祝上线，在订购所有年付套餐的时候输入 EVHOSTING 则可以享受 5 折的优惠（优惠截止 4 月末）。最低可以以 8 元购买一年 Bronze 套餐(限量 10 个，如果看到界面显示优惠券代码无效则表示优惠码用完或已经过期)。

加利福尼亚 网络优化 共享空间

加利福尼亚的共享空间是大陆网络优化空间，到大陆的网络延迟非常文档。

自定义域名邮箱服务

如果你只需要发送邮件的服务，那么也可以订购这个自定义域名邮箱的服务，订购服务之后需要我手工启用，后台使用的是 Mailcow，我再添加了域名之后会给你的邮箱发送相应管理后台的信息。

所有在线购买的产品都可以通过在线提交工单的方式获得支持，并且后续会陆陆续续更新更多相关的使用技巧，欢迎关注。另外服务刚刚上线，如果有任何使用的问题，反馈并且到的验证的都可以免费获取一年的 Bronze 套餐。