Spark Structured Streaming: output Mode 输出模式(append,update,complete)

kamisamak 发布于 2020-04-23 1616 次阅读


  • complete,把所有的DataFrame的内容输出,这种模式只能在做agg聚合操作的时候使用,比如ds.group.count,之后可以使用它
  • append,普通的dataframe在做完map或者filter之后可以使用。这种模式会把新的batch的数据输出出来,
  • update,把此次新增的数据输出,并更新整个dataframe。有点类似之前的streaming的state处理。
此作者没有提供个人介绍。
最后更新于 2020-04-23