第一步:进入opresty目录
?说明:接下来我们关注两个目录 lualib 和 nginx
1.lualib: 是存放opresty所需要的集成软件包的
2.nginx: 是nginx服务目录
接下来,我们进入lualib目录一看究竟:
?这里我们看到了redis和ngx集成软件包,说明我们可以之间使用nginx和redis而无需导入任何依赖包!!!!
下面看看resty里面有些说明呢????
?这里我们看到了熟悉的mysql.lua和redis.lua,好了其他的先不要管
注意:这里的 kafka 这个包是没有的,说明opnresty么有集成kafka。此处我已经提前导入啦kafka集成包
我们看看kafka里面多有哪些包:
?附上 kafka 集成包:kafka.rar
第二步:创建kafka测试lua文件
1.退回到openresty
?2.创建测试文件
?这里文件名自己取,文件位置自己定,但必须找得到!!!!!!!!!!!下面会用到!!!!!!!!!!
3.进入刚刚创建的文件夹并创建kafkalua.lua脚本文件
创建文件:vim kafkalua.lua或者touch kafkalua.lua
?kafkalua.lua:
?第三步:修改nginx配置文件nginx.conf
1.进入ngin/conf目录
?2.修改nginx.conf
?说明:location /kafkalua{...}这里的kafkalua是工程名,可以随意取也可以不取,但是必须要记住!!!
看到我们上面配置了两个location,第一个为location /{...}第二个为location /kafkalua{...}那么他们有什么区别呢???先向下看,迷雾将会慢慢揭开。
第四步:启动nginx
1.进入nginx/sbin
?2.测试配置文件是否正确
?3.启动nginx
?4.查看nginx是否启动成功
?5.浏览器访问nginx
在浏览器输入:node03/kafkalua
说明:如何么有配置hosts则输入openresty所在设备的地址如:192.168.52.120/kafkalua
在浏览器输入:node03/或者 192.168.52.120/
再在浏览器输入:node03:80/kafkalua 和 node03:80/试试 搬来nginx.conf来看看:
node03:80/kafkalua 这里的nide03是服务器的别名或者之间写文服务器地址,80是【listen 80;】配置的监听端口,80端口可以省略不写,如果这写成【listen 8088;】那么浏览器需输入 node03:8088/kafkalua (这里不能省略8088),kafkalua是工程名。
?第五步:创建测试爬虫程序
1.创建maven工程导入依赖
?2.伪爬虫程序
?第六步:启动kafka
1.创建主题topic
?2.开启kafka消费者
?第七步:开启爬虫程序并观察结果
1.启动爬虫程序
2.观察消费者窗口如下
第八步:启动kafka-manager观察
1.启动kafka-manager
?启动后的窗口:
2.浏览器访问
浏览器输入:node01:9000
kafka manager使用不做讲解,观察B2CDATA_COLLECTION1主题消费情况:
有三个分区,每个分区消费的消息差多说明成功啦,
如果不一样,则是kafkalua.lua 脚本中没有配置分区策略,默认分区会导致 数据倾斜 我们需配置自己的分区策略!
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。
原文链接:https://www.cnblogs.com/-xiaoyu-/p/11294905.html