徐俌生于明代宗景泰元年十月二十日(1450年11月23日),籍贯南直隶凤阳县(今安徽省凤阳市),是明初开国元勋、中山王徐达的四世孙,曾祖父徐辉祖、祖父徐钦、父亲徐承宗均袭封魏国公爵位。
天顺八年(1464年)十月,明宪宗命徐俌袭封魏国公,食禄五千石。
成化十五年(1479年),徐俌出掌南京左军都督府事,每年定期奉祀孝陵。
弘治九年(1496年)初,守备南京的成国公朱仪逝世。同年闰三月,明孝宗命徐俌接任南京守备,并掌南京中军都督府事。南京守备地位尊崇,但在徐俌接任时,协同守备、怀柔伯施鉴却位在他之上。徐俌深感不平,向朝廷控诉,孝宗遂下诏,规定南京诸守备勋臣以爵位高低为次序。
弘治十二年(1499年),给事中胡易、御史胡献借灾异上疏触怒明孝宗,被下狱贬谪。徐俌闻讯,自南京上章,请求宽赦二人。
弘治十三年(1500年)七月,徐俌因发生灾异,请求辞去守备之官,孝宗允准,仍命其掌南京中军都督府事。十二月,又请辞军职,请求“专奉孝陵祭祀”,孝宗仅命其改掌南京左军都督府事。
正德五年(1510年),徐俌再次以年老为由请辞官任,明武宗因他是世臣勋旧、“公廉著闻”,故而不允辞官,特地加授为太子太傅,以示优眷之意。
正德六年(1511年)九月,南京守备、成国公朱辅告老。十月,明武宗命徐俌再次出任南京守备,兼掌南京中军都督府事。
正德(1505年—1521年)年间,武宗喜好游猎,徐俌上疏劝谏,言辞切直。
正德十二年七月十二日(1517年7月30日),徐俌在南京病逝,享年六十八岁。武宗闻讣讯,赠其家布、粟等助丧物,依例赐祭葬,追赠他为光禄大夫、右柱国、太傅,谥号“庄靖”(明《谥法》称:威而不猛曰庄,宽乐令终曰靖)。十二月二十日,徐俌葬于南京钟山父祖墓旁。