- Apache Flink 文档
- 概念
- 数据流编程模型
- 分布式运行时环境
- 教程
- API 教程
- DataStream API 教程
- Setup 教程
- 本地安装教程
- 在 Windows 上运行 Flink
- 例子
- 批处理示例
- 应用开发
- 项目构建设置
- Java 项目模板
- Scala 的项目模板
- 配置依赖关系,连接器,库
- 基础 API 概念
- Scala API 扩展
- Java Lambda 表达式
- Flink DataStream API 编程指南
- 活动时间
- 事件时间/处理时间/摄取时间
- 活动时间和水印
- 状态与容错
- 算子
- DataStream 转换
- 物理分区
- 任务链和资源组
- 流连接器
- 旁路输出
- Python 编程指南(流)Beta
- 测试
- 实验特点
- Flink DataSet API 编程指南
- 数据集转换
- 容错
- 在数据集中压缩数据元
- 迭代
- Python 编程指南 Beta
- 连接器
- Hadoop 兼容性测试版
- 本地执行
- 群集执行
- Table API 和 SQL
- 概念和通用 API
- 流处理概念
- 连接到外部系统
- Table API
- SQL
- 内置函数
- 用户定义的源和接收器
- 用户定义的函数
- SQL 客户端测试版
- 数据类型和序列化
- 为 Flink 程序注册自定义序列化程序
- 管理执行
- 执行配置
- 程序打包和分布式执行
- 并行执行
- 执行计划
- 重启策略
- 类库
- FlinkCEP - Flink 的复杂事件处理
- 风暴兼容性 Beta
- 项目配置
- 执行 Storm 拓扑
- 在 Flink 流程序中嵌入 Storm 算子
- Flink Extensions
- Storm 兼容性示例
- Gelly:Flink Graph API
- 图 API
- FlinkML - Flink 的机器学习
- 最佳实践
- API 迁移指南
- 部署和运营
- 集群和部署
- 独立群集
- YARN 设置
- Mesos 设置
- Kubernetes 设置
- Docker 设置
- 亚马逊网络服务(AWS)
- Google Compute Engine 设置
- 先决条件
- 在 Google Compute Engine 上部署 Flink
- MapR 设置
- Hadoop 集成
- JobManager 高可用性(HA)
- 状态和容错
- 检查点
- 保存点
- 状态后台
- 调整检查点和大状态
- 配置
- 生产准备清单
- 命令行界面
- Scala REPL
- Kerberos 身份验证设置和配置
- SSL 设置
- 文件系统
- 升级应用程序和 Flink 版本
- 调试和监控
- 度量
- 如何使用日志记录
- 历史服务器
- 监控检查点
- 监测背压
- 监控 REST API
- 调试 Windows 和事件时间
- 调试类加载
- 应用程序分析
- 使用 Java Flight Recorder 进行性能分析
- 使用 JITWatch 进行分析
- Flink Development
- 将 Flink 导入 IDE
- 从 Source 建立 Flink
- 内幕
- 组件堆栈
- 数据流容错
- 工作和调度
- 任务生命周期
- 文件系统
- 实现
- 坚持保证
- 更新文件内容
- 覆盖文件
- 线程安全
文章来源于网络收集而来,版权归原创者所有,如有侵权请及时联系!
流连接器
预定义的源和接收器
Flink 内置了一些基本数据源和接收器,并且始终可用。该 预定义的数据源 包括文件,目录和插座读书,并从摄取集合和迭代器的数据。该 预定义的数据接收器 支持写入文件,以输出和错误,并插槽。
捆绑连接器
连接器提供用于与各种第三方系统连接的代码。目前支持这些系统:
- Apache Kafka (源/汇)
- Apache Cassandra (接收器)
- 亚马逊 Kinesis Streams (源/汇)
- Elasticsearch (接收器)
- Hadoop 文件系统 (接收器)
- RabbitMQ (源/汇)
- Apache NiFi (源/汇)
- Twitter Streaming API (来源)
请记住,要在应用程序中使用其中一个连接器,通常需要其他第三方组件,例如数据存储或消息队列的服务器。另请注意,虽然本节中列出的流连接器是 Flink 项目的一部分,并且包含在源版本中,但它们不包含在二进制分发版中。可以在相应的小节中找到进一步的说明。
Apache Bahir 中的连接器
Flink 的其他流处理连接器正在通过 Apache Bahir 发布,包括:
- Apache ActiveMQ (源/汇)
- Apache Flume (水槽)
- Redis (水槽)
- 阿卡 (水槽)
- Netty (来源)
其他连接到 Flink 的方法
通过异步 I / O 进行数据丰富
使用连接器不是将数据输入和输出 Flink 的唯一方法。一种常见的模式是在一个 Map
或多个 FlatMap
中查询外部数据库或 Web 服务以丰富主数据流。Flink 提供了一个用于 异步 I / O 的 API, 以便更有效,更稳健地进行这种丰富。
可查询状态
当 Flink 应用程序将大量数据推送到外部数据存储时,这可能会成为 I / O 瓶颈。如果所涉及的数据具有比写入更少的读取,则更好的方法可以是外部应用程序从 Flink 获取所需的数据。在 可查询的状态 界面,允许通过 Flink 被管理的状态,按需要查询支持这个。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论