离线预测
预测命令
预测导出模型
torchrun --master_addr=localhost --master_port=32555 \
--nnodes=1 --nproc-per-node=2 --node_rank=0 \
-m tzrec.predict \
--scripted_model_path experiments/multi_tower_din_taobao_local/export \
--predict_input_path data/taobao_data_eval/\*.parquet \
--predict_output_path experiments/multi_tower_din_taobao_local/predict_result \
--reserved_columns user_id,adgroup_id,clk
–scripted_model_path: 要预测的导出模型
–predict_input_path: 预测数据的输入路径
–predict_output_path: 预测结果的输出路径，如果输出为MaxCompute表，且表不存在，会自动新建MaxCompute表
–reserved_columns: 预测结果中要保留的输入列
–output_columns: 预测结果中的模型输出列
–batch_size: 预测的batch_size，默认为训练时pipeline_config中指定的batch_size
–predict_threads: 离线预测的线程数
–dataset_type: 读数据的Dataset类型，默认用data_config.dataset_type
–writer_type: 写数据的Writer类型，默认用data_config.dataset_type对应的Writer
–predict_steps: 离线预测的步数，默认为完整的输入表
–is_profiling: 是否进行离线预测性能的Profiling
注：
该预测方式预测的模型前向逻辑已经固化在导出模型中，预测结果不受模型代码的变更影响
不支持DynamicEmb等无法被torch.jit.script导出的模型
预测Checkpoint
torchrun --master_addr=localhost --master_port=32555 \
--nnodes=1 --nproc-per-node=2 --node_rank=0 \
-m tzrec.predict \
--pipeline_config_path experiments/multi_tower_din_taobao_local/pipeline.config \
--checkpoint_path experiments/multi_tower_din_taobao_local/model.ckpt-10
--predict_input_path data/taobao_data_eval/\*.parquet \
--predict_output_path experiments/multi_tower_din_taobao_local/predict_result \
--reserved_columns user_id,adgroup_id,clk
–pipeline_config_path: 模型配置文件
–checkpoint_path: 模型预测的checkpoint路径，如不填，默认为model_dir下的最新的模型
–predict_input_path: 预测数据的输入路径
–predict_output_path: 预测结果的输出路径，如果输出为MaxCompute表，且表不存在，会自动新建MaxCompute表
–reserved_columns: 预测结果中要保留的输入列
–output_columns: 预测结果中的模型输出列
–batch_size: 预测的batch_size，默认为训练时pipeline_config中指定的batch_size
–dataset_type: 读取数据的Dataset类型，默认用data_config.dataset_type
–writer_type: 写数据的Writer类型，默认用data_config.dataset_type对应的Writer
–predict_steps: 离线预测的步数，默认为完整的输入表
–is_profiling: 是否进行离线预测性能的Profiling
注：该预测方式预测的模型前向逻辑受模型代码的变更影响，最好保证训练和预测用同一个版本的代码