最近排查一个web服务的问题,webserver使用的nginx,最终发现是踩了nginx中proxy_pass的一个坑,这里记录下来。
踩坑经过
一个线上的http服务,示例nginx关键配置如下:
?
这里可以看到,请求 ligang.gdemo.com
时,nginx把请求反向代理到 ligang.proxy.gdemo.com 去做处理。
ligang.proxy.gdemo.com
这个服务在线上部署并解析到了A、B、C这3个机房,现在我想调整解析,去掉C机房,仅留A、B两个机房。
调整解析后,查看新的解析已经生效,但观察C机房的请求量,发现和之前一样,没有任何变化。
于是我观察C机房的nginx的log,发现请求来源还是 ligang.gdemo.com
的机器,域名解析调整后nginx那边依旧使用之前的IP。
于是我将 ligang.gdemo.com
的机器上的nginx全部reload后,C机房的请求终于没有了。
问题说明
上面的问题,说明在nginx的proxy_pass中如果使用了域名,那么nginx会把解析的结果缓存下来,貌似不会更新,因为上面的例子中,我调整解析后是几乎是隔了一天去看C机房的log发现流量没有任何变化的。
这样的话,如果你配置一个反向代理服务器,如果上游调整了域名,而你又没有得到通知,那么你的代理服务相当于不可用了。
从代码中看下nginx是如何解析主机ip的
有点好奇nginx是如何解析主机ip的,所以追踪下代码:
proxy_pass指令定义的地方(http/modules/ngx_http_proxy_module.c):
?ngx_http_proxy_pass方法(http/modules/ngx_http_proxy_module.c):
?这里继续追踪ngx_http_upstream_add方法(http/ngx_http_upstream.c):
?继续追踪ngx_parse_url方法(core/ngx_inet.c):
?然后是ngx_parse_inet_url方法(core/ngx_inet.c):
?然后是ngx_inet_resolve_host方法(core/ngx_inet.c):
?思考下如何解决这个问题
最简单的解决方法,我想到如下几种:
执行 nginx reload
这种方法优缺点都很明显:
优点:操作简单。
缺点:属于我们常说的后手,需要做好监控。
配置resolver
可以通过在nginx中配置resolver来动态更新解析,大致做法如下:
?这个方法优缺点如下:
优点:解析地址每隔一段时间自动更新,无需人工做 nginx reload 。
缺点:需要指定DNS服务器地址,如果这个服务器挂了,或是地址变了,则需要修改nginx配置后reload。
结束语
上面这两个方法是无须额外开发,直接简单可用的,成本上比较低,但都有不完美的地方。
这里我想到是否可以自行开发一个nginx扩展,用来动态更新从DNS获取的IP地址,这样就能解决这个问题了,但有一定的开发成本,但个人觉得对提升技术能力又很有价值。
如果大家有什么好方法,也欢迎来一起讨论。以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。
原文链接:http://blog.7rule.com/2018/06/03/nginx-domain-cache.html