蓝玉是安徽定远人，开平王常遇春的妻弟。当初隶属于常遇春的帐下，对敌作战勇敢，是个常胜将军。常遇春多次在朱元璋面前称赞他。

洪武二十年，蓝玉以征虏左副将军的身份跟着大将军冯胜征讨纳哈出，在通州驻扎。听说有元兵驻扎在庆州，蓝玉趁着大雪，带领轻骑兵袭击攻破元军，杀了平章事果来，生擒果来的儿子不兰溪回来。适逢大军进发至金山，纳哈出派遣使者到冯胜的军营投降，蓝玉前往接受投降。纳哈出率领几百骑兵到达军营，蓝玉非常高兴，设酒宴招待他。纳哈出斟满酒杯敬蓝玉酒，蓝玉脱下自己的汉服给纳哈出穿，说：“请穿上这件衣服再喝洒。”纳哈出不肯穿，蓝玉也就不喝酒。争执持续了很长时间．纳哈出把酒倒在地上，看着他的部下很气愤地嚷叫，将要离去。郑国公常茂在席间，径直上前，砍伤纳哈出，都督耿忠架着（纳哈出）去见冯胜。纳哈出的手下惊惧混乱，（冯胜）派元军投降的将领观童去规劝他们投降。明军回师至亦迷河，招降了纳哈出剩余的部队。适逢冯胜有罪，太祖收去了他的大将军印，命令蓝玉行使总兵官的职务，不久在军中授蓝玉为大将军，蓝玉移兵驻扎到蓟州。

当时元顺帝的孙子脱古思帖木儿继承帝位，侵扰边塞。洪武二十一年三月，太祖命令蓝玉率领十五万大军去征讨。军队出了大宁，来到庆州，蓝玉通过谍报得知元帝在捕鱼儿海，就从小路日夜兼程，进军至百眼井。离捕鱼儿海还有四十里，没有见到敌军，蓝玉想要领兵回去。定远侯王弼说：“我们率领十万多士兵，进入漠北腹地，一无所得，匆忙率兵回去，将用什么来回复皇上的诏命？”蓝玉说：“对！”命令将士们在地下挖洞做饭，不要露出炊烟和火光。又趁着夜晚来到捕鱼儿海南边，敌人的军营还在捕鱼儿海东北八十多里的地方。蓝玉命令王弼做前锋，快速进军，迫近敌营。敌军认为明军缺乏水源和粮草，不能深入进击，就没有防备。加上当时起了大风，卷起黄沙，白天亦昏暗无光。大军前行，敌人没有发觉，明军突然到达元军营前，元军大惊，匆忙迎战，明军大败元军。杀了太尉蛮子等人，招降了他手下的士兵。