Flink附带了一个集成的交互式Python Shell。 它既能够运行在本地启动的local模式,也能够运行在集群启动的cluster模式下。
为了使用Flink的Python Shell,你只需要在Flink的binary目录下执行:
{% highlight bash %} bin/pyflink-shell.sh local {% endhighlight %}
关于如何在一个Cluster集群上运行Python shell,可以参考启动章节介绍。
当前Python shell支持Table API的功能。 在启动之后,Table Environment的相关内容将会被自动加载。 可以通过变量“bt_env”来使用BatchTableEnvironment,通过变量“st_env”来使用StreamTableEnvironment。
下面是一个通过Python Shell 运行的简单示例:
查看Python Shell提供的可选参数,可以使用:
{% highlight bash %} bin/pyflink-shell.sh --help {% endhighlight %}
Python Shell运行在local模式下,只需要执行:
{% highlight bash %} bin/pyflink-shell.sh local {% endhighlight %}
Python Shell运行在一个指定的JobManager上,通过关键字remote
和对应的JobManager 的地址和端口号来进行指定:
{% highlight bash %} bin/pyflink-shell.sh remote {% endhighlight %}
Python Shell可以运行在YARN集群之上。YARN的container的数量可以通过参数-n <arg>
进行 指定。Python shell在Yarn上部署一个新的Flink集群,并进行连接。除了指定container数量,你也 可以指定JobManager的内存,YARN应用的名字等参数。 例如,在一个部署了两个TaskManager的Yarn集群上运行Python Shell:
{% highlight bash %} bin/pyflink-shell.sh yarn -n 2 {% endhighlight %}
关于所有可选的参数,可以查看本页面底部的完整说明。
如果你已经通过Flink Yarn Session部署了一个Flink集群,能够通过以下的命令连接到这个集群:
{% highlight bash %} bin/pyflink-shell.sh yarn {% endhighlight %}
{% highlight bash %} Flink Python Shell 使用: pyflink-shell.sh [local|remote|yarn] [options] ...
命令: local [选项] 启动一个部署在local的Flink Python shell 使用: -h,--help 查看所有可选的参数 命令: remote [选项] 启动一个部署在remote集群的Flink Python shell JobManager的主机名 JobManager的端口号
使用: -h,--help 查看所有可选的参数
命令: yarn [选项] 启动一个部署在Yarn集群的Flink Python Shell 使用: -h,--help 查看所有可选的参数 -jm,--jobManagerMemory 具有可选单元的JobManager 的container的内存(默认值:MB) -n,--container 需要分配的YARN container的 数量 (=TaskManager的数量)
-nm,--name 自定义YARN Application的名字 -qu,--queue 指定YARN的queue
-s,--slots 每个TaskManager上slots的数量
-tm,--taskManagerMemory 具有可选单元的每个TaskManager 的container的内存(默认值:MB) -h | --help 打印输出使用文档 {% endhighlight %}
{% top %}