ES学习系列
核心场景:es5.x基于Flink-Connector-Elasticsearch实现EsSink
问题:添加权限控制,即x-pack相关实现。
解决:
ES5.x中,与es交互的client是TransportClient。
以下为flink-connector-es5源码:
@Override
public TransportClient createClient(Map clientConfig) {
Settings settings =
Settings.builder()
.put(NetworkModule.HTTP_TYPE_KEY, Netty3Plugin.NETTY_HTTP_TRANSPORT_NAME)
.put(NetworkModule.TRANSPORT_TYPE_KEY, Netty3Plugin.NETTY_TRANSPORT_NAME)
.put(clientConfig)
.build();
TransportClient transportClient = new PreBuiltTransportClient(settings);
for (TransportAddress transport :
ElasticsearchUtils.convertInetSocketAddresses(transportAddresses)) {
transportClient.addTransportAddress(transport);
}return transportClient;
}
PreBuiltTransportClient客户端中不包含x-pack相关实现,若要实现需要额外添加部分依赖
org.elasticsearch.client
transport
5.5.3
org.elasticsearch.client
x-pack-transport
5.5.3
【es|2022-ES学习与实践】重写Elasticsearch5ApiCallBridge类中的createClient方法:
@Override
public TransportClient createClient(Map clientConfig) {
Settings settings =
Settings.builder()
.put(CONFIG_CLUSTER_NAME, this.clusterName)
.put(CONFIG_KEY_TRANSPORT_SSL, false)
.put(CONFIG_KEY_TRANSPORT_SNIFF, true)
// .put(NetworkModule.HTTP_TYPE_KEY, Netty3Plugin.NETTY_HTTP_TRANSPORT_NAME)
// .put(NetworkModule.TRANSPORT_TYPE_KEY, Netty3Plugin.NETTY_TRANSPORT_NAME)
.put(clientConfig)
.build();
// PreBuiltXPackTransportClient需要导入x-pack包
TransportClient transportClient = new PreBuiltXPackTransportClient(settings);
for (TransportAddress transport : ElasticsearchUtils.convertInetSocketAddresses(transportAddresses)) {
transportClient.addTransportAddress(transport);
}
return transportClient;
}
小结:
es5的客户端为TransportClient而不是RestHighLevelClient,TransportClient需要指定集群名称,连接端口需要是transport.tcp.port而不是http.port,这两个问题都会导致集群连接失败。
解决es5权限认证相关问题分两步:
- 引入x-pack相关依赖
- 重写createClient方法,把transportClient的实现类改为PreBuiltXPackTransportClient。
.put(NetworkModule.HTTP_TYPE_KEY, Netty3Plugin.NETTY_HTTP_TRANSPORT_NAME)
.put(NetworkModule.TRANSPORT_TYPE_KEY, Netty3Plugin.NETTY_TRANSPORT_NAME)
推荐阅读
- 微服务|ElasticSearch由浅入深
- Docker|Docker系列之搭建ELK日志分析平台
- 数据结构|模拟栈的实现(JAVA)
- ElasticSerach|elasticsearch详解(一)——es是什么、能做什么()
- 搜索引擎Elasticsearch简介实践
- 小程序|微信小程序抓包
- Elasticsearch|Elasticsearch实战之搜索项目
- Flink|Flink HA模式环境搭建
- elasticsearch|使用canal实时同步MySQL数据到es