讲讲湾区AI Engineer的真实感受（顺便ref
偏应用和agent方向一点，平时主要在做LLM workflow、RAG、tool calling这些相关的东西
前几周基本都在熟各种系统和pipeline：query从哪里进来、retrieval怎么做、context怎么拼、response最后怎么返回给用户。有时候看一条request trace都能看很久，因为中间会经过好多service和tool。刚开始最容易迷糊的是，你会发现LLM只是整条链路里的一个环节，真正复杂的是前后各种workflow
慢慢开始接项目后，会发现这个岗位其实特别偏工程化。比如一个看起来很简单的AI feature，背后可能要做好几层东西：prompt design、memory、evaluation、fallback logic、monitoring，还有各种guardrail
不是prompt调通就结束了，上线之后还要一直盯效果。模型输出稳不稳定、hallucination多不多、latency会不会太高、cost有没有爆。有时候一个prompt只改了一句话，整体结果都会波动得很明显
.
早上一般会先看monitoring和一些eval结果，比如response success rate、tool call accuracy、latency这些指标。有时候某个API provider突然抽风，整个workflow都会被影响
上午大多数时间还是在写Python，更多是围绕LLM orchestration、retrieval pipeline、或者接各种internal tool。有时候也会写一些evaluation script，比如对比不同prompt、不同model的效果，或者抽样看输出质量
慢慢会发现，很多时候问题根本不在模型能力，而是在context design和workflow本身。明明换个retrieval strategy或者tool routing，效果可能就能差很多
下午sync会比较多。经常要和product聊这个agent到底该自动化到什么程度，或者和backend / infra对deployment、scaling、cache这些问题。有时候也会被拉去讨论一些为什么AI突然变笨了的问题
，最后查半天发现是某个context长度超了技术栈其实还是Python为主，外加LangChain、vector database、embedding、evaluation framework这些常见工具。不会天天碰特别底层的model training，更多还是围绕应用落地和系统稳定性
如果对AI application / agent / LLM infra这种方向感兴趣，其实湾区现在机会还是很多的，而且成长速度会特别快。最近身边也有一些AI / infra / platform相关机会在看，如果背景比较贴的话
留学生求职 大模型 打工度假 海外留学生 美国求职 留学生找工作 ai 人工智能发展 AI人工智能