GCP负载平衡器行为，带有终止的抢先实例

但是负载均衡器知道我的VM正在关闭吗？会吗继续向终止的VM发送请求？

是的，负载平衡器将继续向实例发送请求。

您将需要创建一个关闭脚本，并从负载均衡器中删除您的实例。

这并不是说负载均衡器不够聪明。负载平衡器不知道是否可以重试您的请求。该决定应由客户端/后端逻辑做出。

您的用例不是抢占式实例的好例子。先发制人的实例将每24小时终止一次。如果您的目标是节省成本，请将长期实例定价的成本与优先定价进行比较。节省的费用不足以证明工程、测试和QA成本的合理性。

体系结构应该是为失败而设计的，但我不会故意选择一个会不断失败的体系结构。在您的情况下，每24小时一次。还有一种风险是，您将无法启动另一个实例来弥补增加的负载。还有一种风险是，您的所有实例都将被终止。

我们也遇到过类似的问题。我们几乎已经通过负载平衡器健康检查解决了这个问题(在非常高的负载条件下有一些问题(。技巧是在抢占信号的10-15秒内，负载均衡器会将实例标记为不健康，并停止向该实例发送新请求。

解决方案：

1. 负载平衡器每3秒检查一次实例的运行状况，并在第三次运行状况检查失败后将实例标记为不健康。因此，负载均衡器在大约10秒内标记实例并停止发送新请求
2. Java中使用ContextCloseEvent (Spring boot)或Runtime.getRuntime().addShutdownHook()的Trap Preempt信号(在我的例子中，JVM收到信号需要几秒钟(
3. 将健康检查设置为失败，即健康检查端点将开始返回404
4. 在关机块中睡眠15-25秒，以便进行和完成新请求

5. 释放资源并进行关闭日志记录。

   
   @EventListener
   public void onShutdown(ContextClosedEvent event) {
   log.warn("shutdown event received {}", event.getSource().toString());
   log.warn("/ping will respond 404, Main thread will sleep for 20 seconds to allow pending tasks to complete");
   isShuttingDown = true;
   try {
   Thread.sleep(SLEEP_BEFORE_SHUTDOWN_MILLIS);
   } catch (InterruptedException e) {
   log.error("sleep before shutdown interrupted", e);
   }
   log.warn("Shutting down now, daemon threads will continue work");
   releaseResources(); 
   log.info("{} {} on {} stopped.", NAME, VERSION, HOSTNAME);
   }//运行状况终结点@RequestMapping(value="ping"，products=MediaType.TEXT_PLAIN_value(公共响应实体ping(({if(isShuttingDown((({log.warn("运行状况失败-即将关闭"(；返回新的ResponseEntity(HttpStatus.NOT_FOUND(；}return ResponseEntity.ok("pong"(；}