nginx lua集成kafka的实现方法

第一步:进入opresty目录

?

说明:接下来我们关注两个目录 lualib 和 nginx

1.lualib: 是存放opresty所需要的集成软件包的

2.nginx: 是nginx服务目录

接下来,我们进入lualib目录一看究竟:

?

这里我们看到了redis和ngx集成软件包,说明我们可以之间使用nginx和redis而无需导入任何依赖包!!!!

下面看看resty里面有些说明呢????

?

这里我们看到了熟悉的mysql.lua和redis.lua,好了其他的先不要管

注意:这里的 kafka 这个包是没有的,说明opnresty么有集成kafka。此处我已经提前导入啦kafka集成包

我们看看kafka里面多有哪些包:

?

附上 kafka 集成包:kafka.rar

第二步:创建kafka测试lua文件

1.退回到openresty

?

2.创建测试文件

?

这里文件名自己取,文件位置自己定,但必须找得到!!!!!!!!!!!下面会用到!!!!!!!!!!

3.进入刚刚创建的文件夹并创建kafkalua.lua脚本文件

创建文件:vim kafkalua.lua或者touch kafkalua.lua

?

kafkalua.lua:

?

第三步:修改nginx配置文件nginx.conf

1.进入ngin/conf目录

?

2.修改nginx.conf

?

说明:location /kafkalua{...}这里的kafkalua是工程名,可以随意取也可以不取,但是必须要记住!!!

看到我们上面配置了两个location,第一个为location /{...}第二个为location /kafkalua{...}那么他们有什么区别呢???先向下看,迷雾将会慢慢揭开。

第四步:启动nginx

1.进入nginx/sbin

?

2.测试配置文件是否正确

?

3.启动nginx

?

4.查看nginx是否启动成功

?

5.浏览器访问nginx

在浏览器输入:node03/kafkalua

说明:如何么有配置hosts则输入openresty所在设备的地址如:192.168.52.120/kafkalua

nginx lua集成kafka的实现方法

在浏览器输入:node03/或者 192.168.52.120/

nginx lua集成kafka的实现方法

再在浏览器输入:node03:80/kafkalua 和 node03:80/试试 搬来nginx.conf来看看:

node03:80/kafkalua 这里的nide03是服务器的别名或者之间写文服务器地址,80是【listen 80;】配置的监听端口,80端口可以省略不写,如果这写成【listen 8088;】那么浏览器需输入 node03:8088/kafkalua (这里不能省略8088),kafkalua是工程名。

?

第五步:创建测试爬虫程序

1.创建maven工程导入依赖

?

2.伪爬虫程序

?

第六步:启动kafka

1.创建主题topic

?

2.开启kafka消费者

?

第七步:开启爬虫程序并观察结果

1.启动爬虫程序

2.观察消费者窗口如下

nginx lua集成kafka的实现方法

第八步:启动kafka-manager观察

1.启动kafka-manager

?

启动后的窗口:

nginx lua集成kafka的实现方法

2.浏览器访问

浏览器输入:node01:9000

nginx lua集成kafka的实现方法

kafka manager使用不做讲解,观察B2CDATA_COLLECTION1主题消费情况:

​ 有三个分区,每个分区消费的消息差多说明成功啦,

​ 如果不一样,则是kafkalua.lua 脚本中没有配置分区策略,默认分区会导致 数据倾斜 我们需配置自己的分区策略!

nginx lua集成kafka的实现方法

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。

原文链接:https://www.cnblogs.com/-xiaoyu-/p/11294905.html



相关文章
推荐文章
热门文章

微信公众号推荐

相关推荐