小不点儿,一转眼,都这么大了。
再也不是抱着妈妈的腿哇哇哭着要抱抱的小路头了。
“早点睡吧,明天还得开车,你让小张多开点,我看他比你靠谱。”
周敏摇了摇头,似乎也不打算再深入这个话题了,她轻轻拍了拍韩路一的后背,转身走回了卧室。
等到妈妈走进卧室了,韩路一才把头回过来,他又看了看摆在柜子里的财神像,明白妈妈还是多了一层担心和牵挂。
但是有妈妈关心的感觉——
真好。
……
回到海城,第一件事就是和赵文渊对进度,没想到赵文渊给他带来了一个惊喜。
两人没去办公室,而是在赵文渊家附近找了个咖啡馆。
初五下午,大部分人都还在放假,咖啡馆里比平时工作日要热闹多了。
三个人找了张桌子坐下来,一人点了一杯热拿铁。
韩路一和张彪刚开完长途车,看起来都有点儿疲惫。赵文渊倒是精神头十足。
“韩总,好消息!预训练的进度这两天稳定下来了。”赵文渊兴奋地说,“下一步就是退火了。”
张彪已经在旁边掏出了笔记本,乍一听这个名词,还以为是自己听错了。
他现在也主动多了,知道这些东西自己早晚都得接触,就算不懂原理,也要了解一下大概。
所以他举起手,动作像一个在课堂上提问的小学生。
赵文渊看看张彪,说:“怎么了?”
“什么叫退火?”张彪问道。
“退火就是——”赵文渊想了想,“annealg。”
张彪的头上写满了问号,你这个解释和没解释有什么区别?
韩路一在旁边没忍住笑了一声,开口解释道:“退火本来是冶金里面的术语,因为形象,所以模型训练的时候也借鉴了过来。”
张彪想了想,说:“就是铁匠打铁,往水里「嗤」的那一下?”
赵文渊忍不住纠正道:“你说的那个是quenchg,中文叫淬火,要的是急速冷却。退火不一样,是慢慢冷却。”
韩路一说:“不用纠结这个,就是一个比喻,差不多就是那个意思。”
然后韩路一从张彪手里拿过笔记本和圆珠笔,在上面边画边说道:“咱们说过,模型训练分为预训练和后训练。但是在预训练的最后阶段,还有一个特殊的阶段,就是退火。”
说到这,韩