DPO的训练能否像SFT一样mask掉user，只计算assistant的loss

[charliedream1]

请问：DPO的训练能否像SFT一样mask掉user，只计算assistant的loss

[yiyepiaoling0715]

请问：DPO的训练能否像SFT一样mask掉user，只计算assistant的loss

可以的

[charliedream1]

咱们的代码目前支持吗？怎么用？

…

---原始邮件--- 发件人: ***@***.***> 发送时间: 2024年7月22日(周一) 晚上11:27 收件人: ***@***.***>; 抄送: "Optimus ***@***.******@***.***>; 主题: Re: [yangjianxin1/Firefly] DPO的训练能否像SFT一样mask掉user，只计算assistant的loss (Issue #278) 请问：DPO的训练能否像SFT一样mask掉user，只计算assistant的loss 可以的 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: ***@***.***>

[yiyepiaoling0715]

咱们的代码目前支持吗？怎么用？
…
---原始邮件--- 发件人: @.> 发送时间: 2024年7月22日(周一) 晚上11:27 收件人: @.>; 抄送: "Optimus @.@.>; 主题: Re: [yangjianxin1/Firefly] DPO的训练能否像SFT一样mask掉user，只计算assistant的loss (Issue #278) 请问：DPO的训练能否像SFT一样mask掉user，只计算assistant的loss 可以的 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>

我8月份准备实现这块， 大体思路是: target_mask user, 即可

[yiyepiaoling0715]

咱们的代码目前支持吗？怎么用？
…
---原始邮件--- 发件人: @.> 发送时间: 2024年7月22日(周一) 晚上11:27 收件人: @.>; 抄送: "Optimus @.@.>; 主题: Re: [yangjianxin1/Firefly] DPO的训练能否像SFT一样mask掉user，只计算assistant的loss (Issue #278) 请问：DPO的训练能否像SFT一样mask掉user，只计算assistant的loss 可以的 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>

wechat:yiyepiaoling0715,可以交流细聊

[charliedream1]

好，期待 天天高兴！ ***@***.***  

…

------------------ 原始邮件 ------------------ 发件人: "yangjianxin1/Firefly" ***@***.***>; 发送时间: 2024年7月24日(星期三) 晚上8:52 ***@***.***>; ***@***.******@***.***>; 主题: Re: [yangjianxin1/Firefly] DPO的训练能否像SFT一样mask掉user，只计算assistant的loss (Issue #278) 咱们的代码目前支持吗？怎么用？ … ---原始邮件--- 发件人: @.> 发送时间: 2024年7月22日(周一) 晚上11:27 收件人: @.>; 抄送: "Optimus @.@.>; 主题: Re: [yangjianxin1/Firefly] DPO的训练能否像SFT一样mask掉user，只计算assistant的loss (Issue #278) 请问：DPO的训练能否像SFT一样mask掉user，只计算assistant的loss 可以的 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***> wechat:yiyepiaoling0715,可以交流细聊 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: ***@***.***>