李晟出身于武将世家，其祖父两代李恭与李钦均担任陇右军裨将。年少丧父，侍奉母亲十分孝顺，受到家风影响，性格雄烈，善于骑射，勇猛绝伦。李晟十八岁入伍河西军，后跟随河西节度使王忠嗣征讨吐蕃，遇到吐蕃猛将据城力战，唐军久攻不下，却伤亡较大。于是河西节度使王忠嗣招募军中善于射箭的军士，李晟应征前往，一箭射杀吐蕃猛将，扬名军中。战后李晟获得王忠嗣重赏，并认为其为“万人敌”的猛将。因受到凤翔节度使高升雅的赏识，被征召担任列将，曾率部平定叠州（今甘肃迭部）与宕州（今甘肃舟曲）羌人作乱，因功累迁为左羽林大将军同正。