大模型应用开发入场券:Q&A

最近的几篇帖子都是关于大模型应用开发的,很多朋友也加入了交流学习,大家最关心的几个问题,这里简要概括一下:

如何区别大模型开发岗和大模型算法岗?

很多人会把大模型定为一个岗位,一部分公司的岗位在岗位JD中也会把它们混为一谈。大模型算法岗主要负责的是模型的更新迭代,更关注模型的效果。而大模型开发岗主要是使用算法岗产出的模型去解决一些实际问题,使AI应用落地,工程侧进一步优化模型的落地使用。
有的公司会把这两个岗位合并为一个“AI工程师”类似于前后端都会的“全栈工程师”。

学历门槛是否高?

首先大模型用开发它是属于一个开发岗,所有能做前后端开发、测试开发等岗位的学历都可以参与进来。学历这点把它当做一个普通开发岗就好,门槛不是很高。记住,这是开发岗,相比算法岗和其他大模型岗位,可能这个要求会比较低,毕竟算法岗的BG要求,大家有目共睹。

需要掌握模型底层、深度学习、机器学习和transformer等知识吗?

再次重申,大模型应用开发属于开发岗位。目前市场上有很多的大模型应用相关的岗位没有明确要求必须上面的知识内容。基本上都作为候选人的一个加分项,并非必选项。
另外涉及到模型的改变以及模型的底层理论上应该是由算法团队来负责,当然不排除一些小公司或者小团队,要求岗位为“AI全栈”,及算法岗和开发岗都会。

市场行情怎么样?岗位多不多?

目前来说这个岗属于一个新兴岗,是在大厂中这种岗位的比例会更高一点,如果你的目标是大厂,可能这种岗位的竞争压力会比传统的前后端开发要低,上案几率更高(当然,如果说有算法岗的同学愿意降级来开发岗,那就不一定了)。几乎大公司都在搞自己的应用开发工具来提升效率。眼见为实,自己在市场上去找一下相关的岗位。

待遇怎么样?是不是真的比普通开发岗开的高?

其实就待遇而言,我并没有觉得会比普通的开发岗位待遇更高,它本质上依旧属于开发。但是我拿到的大模型应用开发相关offer,基本都超过了普通的开发岗的涨幅。薪资这块感觉还是和面试中的个人表现相关。
ps:本人校招算法岗,社招大模型应用开发岗。

是否需要掌握后端开发知识?

目前市面上的大模型应用开发岗基本上都是后端的技术栈加AI应用开发的技术栈,毕竟目前好落地的rag和agent应用基本上是需要在后端串流程的,很多面试官也是后端开发转向大模型应用开发的。在上一篇中,我们也提到了大模型应用开发岗的技术栈=后端开发技术栈+AI落地相关技术栈,当然,只会AI落地相关技术栈也是可以面一下的,具体看之前的笔记。

当然也会有一些岗位要求算法相关的一些知识,例如模型微调,transformer等,个人认为对于大模型应用开发这一些内容属于加分项,非必备项。

用什么开发语言和技术栈?

目前大模型应用开发的主流语言还是Python。像JAVA和Go语言等也在逐渐完善,但相比之下还是没Python这么流行。Java或者Go语言后端开发可以学习一下Java的springai和langchain4j,go的Eino等框架,详细的技术栈看之前的笔记。

面试难度怎么样?

我本人面的是社招的大模型应用开发岗位(高级工程师title),就大模型应用开发相关的八股,项目而言,比普通的后端开发问题要简单。个人认为主要原因如下:

  • 多数面试官也是刚刚接触这个岗位,有的是刚从后端转到大模型应用开发岗,对相关的技术和知识了解也不是很多。
  • 这个岗位是一个新兴的岗位,任何问题都没有一个标准的答案,整个面试过程中没有一个面试官够肯定你给出的答案是错误的。
  • 目前从开发转到大模型应用相关的人比较少,属于上升期,缺口比较大,可能比较缺人?(感觉算法岗的人不屑于转到大模型应用相关的开发)。