Skip to content

Latest commit

 

History

History
100 lines (85 loc) · 2.25 KB

es7-source.md

File metadata and controls

100 lines (85 loc) · 2.25 KB

一、介绍

ElasticSearch Source插件支持从现有的ElasticSearch集群读取指定index中的数据。 ​

二、支持版本

Elasticsearch 7.x ​

三、插件名称

类型 名称
Sync elasticsearch7reader
SQL elasticsearch7-x

四、参数说明

1、数据同步

  • hosts
    • 描述:Elasticsearch集群的连接地址。eg: ["localhost:9200"]
    • 必选:是
    • 参数类型:List
    • 默认值:无
  • index
    • 描述:指定访问Elasticsearch集群的index名称
    • 必选:是
    • 参数类型:String
    • 默认值:无
  • username
    • 描述:开启basic认证之后的用户名
    • 必须:否
    • 参数类型:String
    • 默认值:无
  • password
    • 描述:开启basic认证之后的密码
    • 必须:否
    • 参数类型:String
    • 默认值:无
  • batchSize
    • 描述:批量读取数据的条数
    • 必须:否
    • 参数类型:Integer
    • 默认值:1
  • column
    • 描述:需要读取的字段
    • 注意:不支持*格式
    • 格式:
"column": [{
    "name": "col", -- 字段名称,可使用多级格式查找
    "type": "string", -- 字段类型,当name没有指定时,则返回常量列,值为value指定
    "value": "value" -- 常量列的值
}]

2、SQL

  • hosts
    • 描述:Elasticsearch集群的连接地址。eg: ["localhost:9200"]
    • 必选:是
    • 参数类型:List
    • 默认值:无
  • index
    • 描述:指定访问Elasticsearch集群的index名称
    • 必选:是
    • 参数类型:String
    • 默认值:无
  • username
    • 描述:开启basic认证之后的用户名
    • 必须:否
    • 参数类型:String
    • 默认值:无
  • password
    • 描述:开启basic认证之后的密码
    • 必须:否
    • 参数类型:String
    • 默认值:无
  • bulk-flush.max-actions
    • 描述:一次性读取es数据的条数
    • 必须:否
    • 参数类型:Integer
    • 默认值:1

五、数据类型

是否支持 类型名称
支持 INTEGER,SMALLINT,DECIMAL,TIMESTAM DOUBLE,FLOAT,DATE,VARCHAR,VARCHAR,TIMESTAMP,TIME,BYTE
不支持 IP,binary, nested, object

六、脚本示例

见项目内FlinkX:Local:Test模块中的demo文件夹。