Node.js & Kubernetes Graceful Shutdown

摘要:
K8s优雅关闭:这个库提供了一种使用Kubernetes实现优雅关闭节点JsApp资源的方法。在kubernetes中运行微服务时的问题描述。我们需要处理kubernetes发送的终止信号。只需注册您的宽限期关机簿并添加宽限期。当发送SIGINT或SIGTERM信号时,用户可以看到一个5秒的宽限期,之后会发生3秒的等待异步操作,然后显示消息“毕业后关闭”,表示服务器已关闭。当请求localhost:3000/health时,healthTest将返回true并显示消息“一切都很好”,表示健康检查正常。如何正常关闭工作流的示例:Kubernetes向Pod发送SIGTERM信号。

Node.js & Kubernetes Graceful Shutdown第1张

k8s-graceful-shutdown:该库提供了使用 Kubernetes 实现 Graceful Shutdown(优雅退出) Node.js App 的资源。

问题描述

在 kubernetes 中运行微服务时。我们需要处理 kubernetes 发出的终止信号。这样做的正确方法是:

  1. 监听 SIGINT, SIGTERM
  2. 收到信号后,将服务置于不健康模式(/health 路由应返回状态码 4xx5xx
  3. 在关闭之前添加宽限期,以允许 kubernetes 将您的应用程序从负载均衡器中移除
  4. 关闭服务器和所有打开的连接
  5. 关闭

该库使上述过程变得容易。只需注册您的 graceful shutdown hook(优雅退出的钩子)并添加宽限期即可。

请注意,您的宽限期必须小于 kubernetes 中定义的宽限期!

使用 Express 框架的示例

例如,使用Express框架:

import { Response, Request } from 'express'
import express from 'express'
import { addGracefulShutdownHook, getHealthHandler, shutdown } from '@neurocode.io/k8s-graceful-shutdown'

const app = express()
app.disable('x-powered-by')
const port = process.env.PORT || 3000
const server = app.listen(port, () => console.log(`App is running on http://localhost:${port}`))

// 修补 NodeJS 服务器关闭功能,使其具有正确的关闭功能,因为您可能期望为您关闭 keep-alive connections(保持活动的连接)!
// 在这里阅读更多信息 https://github.com/nodejs/node/issues/2642
server.close = shutdown(server)

const healthy = (req: Request, res: Response) => {
  res.send('everything is great')
}

const notHealthy = (req: Request, res: Response) => {
  res.status(503).send('oh no, something bad happened!')
}


const healthTest = async () => {
  // 这是可选的
  // 你可以用它来进行健康检查
  return true
}

const healthCheck = getHealthHandler({ healthy, notHealthy, test: healthTest })
app.get('/health', healthCheck)

const sleep = (time: number) => new Promise((resolve) => setTimeout(resolve, time))

const asyncOperation = async () => sleep(3000).then(() => console.log('Async op done'))

const closeServers = async () => {
  await asyncOperation() // 可以是任何异步操作,例如 mongo db 关闭,或发送 slack 消息;)
  server.close()
}

const gracePeriodSec = 5*1000
addGracefulShutdownHook(gracePeriodSec, closeServers)

server.addListener('close', () => console.log('shutdown after graceful period'))
  • 上面所示的这个简单的应用程序,添加了一个5秒的优雅关闭周期,在此之后,钩子(在关闭功能的帮助下负责关闭服务器)被触发。在发送 SIGINTSIGTERM 信号时,用户可以看到5秒的宽限期,之后发生了3秒的等待异步操作,然后才会显示 “shutdown after graceful period” 的消息,表示关闭服务器。

  • 该应用程序还展示了 “getHealthHandler” 的功能。在请求 localhost:3000/health 时,healthTest 将返回 true,并显示 'everything is great' 消息,表明 health 检查为正常。用户可以将 healthTest 改为返回 false,然后看到消息变为 'oh no, something bad happened!' 这表明了一种不健康的状态。

如果您使用 Koa 框架,请查看 demos/ 文件夹。 我们有一个 Koa 示例,其功能与上述应用类似。Koa 应用程序使用具有 healthnotHealthy 处理程序的 fn(ctx) 支持的 getHealthContextHandler,而不是将 healthnotHealthy 处理程序作为 fn(req, res)getHealthHandler

它是如何工作的?

正常关闭工作流程的工作方式示例:

  1. KubernetesPod 发送 SIGTERM 信号。手动缩小 Pod 或在滚动部署期间自动缩小 Pod 时会发生这种情况
  2. 该库接收 SIGTERM 信号并调用您的 notHealthy 处理程序。您的处理程序应返回 400500http 状态代码(抛出错误?),这表明该 pod 不再接收任何流量。注意此步骤是可选的(请检查下一步)
  3. 库等待指定的 grace time 以启动应用程序的关闭。宽限时间应在 520 秒之间。 kubernetes 端点控制器需要宽限时间才能从有效端点列表中删除 Pod,进而从服务中删除 Pod(从 iptables 所有节点中获取 podip 地址)。
  4. KubernetesService 中删除 Pod
  5. 该库调用您所有已注册的关闭 hook
  6. 在配置的宽限期之后,应用程序将使用我们的关机机制正确地关机,你可能期望默认工作,但在 NodeJS http server, expressKoa 不是

互相交流学习

我的微信:

Node.js & Kubernetes Graceful Shutdown第2张

免责声明:文章转载自《Node.js & Kubernetes Graceful Shutdown》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇[日常] 修复了grub引导问题在Fedora 12下编译和调试RTThread下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

nodejs中使用node-sass

在原生nodejs中使用Sass 1.创建根目录文件名称为demo,运行 cnpm install(淘宝源安装)安装node_modules 2.安装express:cnpm install express 3.创建js文件命名为 app.js 并编写如下代码 var express = require('express'); var app = expr...

利用 Charles Proxy 下载旧版本 iOS App

一、软件准备 1、旧版本 iTunes1.IPSW Downloads:https://ipsw.me/2.百度网盘链接:https://pan.baidu.com/s/11kdHbhqP_6wvcMWDa3HZNg 提取码:hj81 2、抓包工具 Charles Proxy1.Charles官网链接:https://www.charlesproxy.co...

Mac下的类似apt-get的包管理工具Homebrew(笔记)

对于一个习惯了在 Ubuntu 的终端上通过 apt-get 来安装工具软件的我来说,也希望在Mac上找到类似的工具,能很方便的一条命令就能安装所需的软件,而不用手工的去查找下载编译,或者是折腾安装所需的一些依赖关系。很惊喜发现,Mac上也有类似的工具软件包管理器 --Homebrew。 Homebrew 并不是什么软件包都能装,它只是能装一些系统缺省的软...

FFMPEG 内部 YUV444p16LE-> P016LE

y 方向直接复制 1. hscale 2. vscale static void yuv2p016cX_c(SwsContext *c, const int16_t *chrFilter, int chrFilterSize, const int16_t **chrUSrc, const int16_t *...

Xcode10趟坑之路

https://www.jianshu.com/p/12558d39ba08 先默念别有太多坑啊 跑起来吧 结果没有跑起来 1.第一个坑 Showing Recent Messages :-1: Multiple commands produce '/Users/wanglei/Library/Developer/Xcode/DerivedData/JMT...

DataScope v1.0 多功能串口虚拟示波器使用介绍

DataScope v1.0 特性 1、无需安装,启动即用;2、支持同时刷新多达10个通道的单精度浮点型数据;3、支持多种格式的通道数据导入、导出及回放;4、支持全屏浏览;5、支持图表数据统计、测量及缩放;6、支持蓝牙适配器;7、支持各通道独立刷新;8、支持3D轨迹显示;9、3D立方体显示;10、航空仪表;11、灵活可屏蔽的快捷键支持。 ---软件下载见原...