forked from thunlp/Prompt-Transferability
-
Notifications
You must be signed in to change notification settings - Fork 0
/
train_cross_model.sh
105 lines (74 loc) · 2.58 KB
/
train_cross_model.sh
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
gpus=7
###########################################
#laptop: from T5Base to RobertaBase########
###########################################
DATASET="laptop"
#SOURCE_PROMPT
#MODEL_PROMPT="Bert-base"
#MODEL_PROMPT="Roberta-base"
MODEL_PROMPT="T5-base"
#SOURCE_MODEL to TARGET_MODEL
SOURCE_MODEL="T5"
TARGET_MODEL="Roberta"
source_model="t5"
target_model="roberta"
CUDA_VISIBLE_DEVICES=$gpus python3 train_cross.py --config config/crossPrompt${TARGET_MODEL}_${DATASET}_100_${source_model}_to_${target_model}.config \
--gpu $gpus \
--model_prompt $MODEL_PROMPT
#####################################################
#restaurant: from RobertaBase to RobertaLarge########
#####################################################
DATASET="restaurant"
#DATASET="MNLI"
#SOURCE_PROMPT
#MODEL_PROMPT="Bert-base"
MODEL_PROMPT="Roberta-base"
#SOURCE_MODEL to TARGET_MODEL
SOURCE_MODEL="RobertaBase"
TARGET_MODEL="RobertaLarge"
CUDA_VISIBLE_DEVICES=$gpus python3 train_cross.py --config config/crossPrompt${TARGET_MODEL}_${DATASET}_100.config \
--gpu $gpus \
--model_prompt ${MODEL_PROMPT}
###########################################
#MNLI: from BertBase to RobertaBase########
###########################################
DATASET="MNLI"
#SOURCE_PROMPT
MODEL_PROMPT="Bert-base"
#MODEL_PROMPT="Roberta-base"
#MODEL_PROMPT="T5-base"
#SOURCE_MODEL to TARGET_MODEL
SOURCE_MODEL="Bert"
TARGET_MODEL="Roberta"
source_model="Bert"
target_model="Roberta"
CUDA_VISIBLE_DEVICES=$gpus python3 train_cross.py --config config/crossPrompt${TARGET_MODEL}_${DATASET}_100.config \
--gpu $gpus \
--model_prompt ${MODEL_PROMPT}
############################################################
#MNLI: from BertBase to RobertaBase (With LayerNorm)########
############################################################
#DATASET="restaurant"
DATASET="nli"
#SOURCE_PROMPT
MODEL_PROMPT="Bert-base"
#MODEL_PROMPT="Roberta-base"
#SOURCE_MODEL to TARGET_MODEL
SOURCE_MODEL="BertBase"
TARGET_MODEL="RobertaBase"
CUDA_VISIBLE_DEVICES=$gpus python3 train_cross.py --config config/crossPrompt${TARGET_MODEL}_${DATASET}_100.config \
--gpu $gpus \
--model_prompt ${MODEL_PROMPT}
###########################################
#All task: from BertBase to RobertaBase####
###########################################
DATASET="all"
MODEL_PROMPT="Bert-base"
#SOURCE_MODEL to TARGET_MODEL
SOURCE_MODEL="Bert"
TARGET_MODEL="Roberta"
source_model="Bert"
target_model="Roberta"
CUDA_VISIBLE_DEVICES=$gpus python3 train_cross.py --config config/crossPrompt${TARGET_MODEL}_${DATASET}_100.config \
--gpu $gpus \
--model_prompt ${MODEL_PROMPT}