要求: LLM 速成法? interview oriented
背景:
a. leetcode刷了600多道题目, 刷过3边以上.
b. deep learning 懂皮毛 (CNN, RNN, Resnet 都学过玩过)
c. pytorch, sklearn 都会
d. 数学基础(e.g., algebra, pde数值求解, 统计概率) , 一个decade之前都学过(至少是学过皮毛)
要求: LLM 速成法? interview oriented
背景:
a. leetcode刷了600多道题目, 刷过3边以上.
b. deep learning 懂皮毛 (CNN, RNN, Resnet 都学过玩过)
c. pytorch, sklearn 都会
d. 数学基础(e.g., algebra, pde数值求解, 统计概率) , 一个decade之前都学过(至少是学过皮毛)
唯独没碰过transformer是吧
的确没有
可能是上个时代的遗老,也很正常。
不过特地写了个“会 sklearn”给我整不会了,这看着也不像上个时代的深度学习遗老啊。
现在 llm 的工作岗位那么多了吗?大面积扩招?
认真点说,transformer和dl的基础数学理论,还有怎么manage大规模data
多谢指教!
“transformer和dl的基础数学理论”
// 这个, 我也许可以自己找到
“还有怎么manage大规模data”
// 这个, 应该如何入门?
备注: spark/flint/kafka 这些我玩过用过deploy过.
能手写一遍gpt1然后讲通就可以了
到底是懂怎么work,还是懂怎么搭积木?
第二个的话,各种数据库以及多卡训练framework吧,比如pytorch lightning?
我也就一搞机器人的
你想多了
做llm app
LLM方向感觉现在很少有从头手写新的transformer的把,基本上懂transformer原理,自己从头实现过一遍就好了
你没有相关经验 简历关都过不了吧。。。
leetcode三遍厉害
问题是这方向根本不care lc
lc 三百遍不如一篇jmlr 我说的
名校phd?
或者相关经验丰富?
皮毛我也会啊,lc刷了2000多道呢,还有acm背景,不觉得我可以做llm
lz是工作党吧,我确实见过有些工作党没有相关背景突然就能转LLM,只是不清楚他们背后付出了多少。
学生尤其是phd想搞LLM,现在找实习都必须有相关paper,哪怕是蹭别人挂名也行,我还没见过反例
前女友统计phd,一篇jmlr,找了很久没找到LLM相关实习,去做applied scientist了,感觉虽然逼格很高,真找工作可能不如ACL之类对口的好使
借楼问问,在给客户做定制agent的有没有出路,有没有跳槽机会
可以做application,不必盯着infrastructure
你那要看具体是啥方向的了,LLM基础架构研发还是 application 了。
我敢说做 LLM Application 的 90% 不懂啥是 transformer ,95%以上估计都没听说过。