拓跋遵年少时壮勇，不拘小节。拓跋圭登位之初，有辅佐他的功勋，赐爵略阳公。

太元二十年（公元395年）七月，后燕帝慕容垂命太子慕容宝、辽西王慕容农、赵王慕容麟等率军八万攻魏，并以范阳王慕容德、陈留王慕容绍等率一万八千骑兵为后援。魏军接获消息后，则是先将主力部队后撤，然后在五原(今内蒙古包头市)一带的黄河与燕军隔岸对峙。魏军复又假传慕容垂已死的消息，使慕容宝等闻讯后军心动荡，后来燕军中又有将领阴谋发动兵变拥慕容麟为帝，更导致军心涣散，士气低落，慕容宝不得已只好趁夜撤退。然而时值严冬，气温急降，河水结冰，北魏派拓跋遵领骑兵七万，堵塞燕军南归之路。拓跋圭立即亲率精兵二万骑渡河，追击燕军，取得参合陂之战大捷。到了攻陷中山后，拜尚书左仆射，加侍中，领勃海之合口。到了博陵时，勃海群盗四起，拓跋遵又讨平群盗。拓跋圭迁他为州牧，封常山王。

拓跋遵好酒，天赐四年（407年），坐醉乱失礼于太原公主，被拓跋圭赐死，葬以庶人之礼。

有子拓跋素，官至平原王、拜假节、征西大将军，谥曰康，陪葬金陵，配飨庙庭。