进入行伍

郭崇威（后改名郭崇）为人稳重宽厚，沉默寡言，又颇有谋略。他的父祖都是代北地区的酋长。郭崇威在二十岁时，凭借自身的勇力，应募进入行伍。

后唐末帝清泰（934年－936年）年间，郭崇威升为应州骑军都校。

后晋天福二年（937年），后晋高祖石敬瑭将燕云十六州割让给契丹，这其中便包括应州。郭崇威耻于为契丹臣子，于是弃官南归，历任郓州、河中、潞州三镇的骑军都校。

渐获迁升

后晋出帝开运（944年－946年）年间，郭崇威奉命在太原驻守。天福十二年（947年）二月，河东节度使刘知远（后汉高祖）在太原称帝反辽，建立后汉政权。郭崇威转仕后汉，并作为前锋，南下收取汴州开封府。郭崇威收复汴京后，被改授为护圣左第六军都校、郢州刺史，后改领富州刺史。

后汉隐帝乾祐元年（948年）八月，枢密使郭威奉命西征，负责讨平河中、凤翔、永兴三镇叛乱。郭崇威随郭威平乱，立下功勋，升任果州防御使、护圣右厢都指挥使。此后郭威出镇邺都，郭崇威领邺都行营马军都指挥使，兼天雄军都巡检使。

兴周功臣

乾祐三年（950年）十一月，隐帝诛杀权臣杨邠、史弘肇等，并密诏郭崇威等诛杀郭威。郭威得知此事后，召郭崇威等前来，陈说杨邠等人冤死及密诏的事宜，假意请他们“奉行诏书，取吾首以报天子”。郭崇威等早已会意，一边哭泣，一边表态，愿意随郭威“入朝自诉”，清除隐帝身边的“鼠辈”。同月，郭威派郭崇威率骑兵作为先锋，南下“清君侧”。癸未日，郭崇威等与刘承祐所派的慕容彦超部在刘子陂遭遇。甲申日，慕容彦超领轻骑出击，郭崇威与前博州刺史李荣率骑兵将其击退，其余各部朝廷军见状，士气大挫，相继向北军（郭威军）投降。隐帝出逃，不久被杀。郭威自此掌握了后汉朝廷。北军进入开封后，大肆劫掠，终日不止。郭崇威与近臣王殷劝谏郭威说：“如果不阻止剽掠，今夜只剩下一座空城了。”郭威这才命诸将严禁劫掠。事后，郭崇威因功被补授为侍卫亲军马军都指挥使。

之后，郭威派宰相冯道等在徐州迎接湘阴公刘赟，假意迎立他为帝。此时据称辽军南侵，郭威于是北征，途中在澶州被军队推戴为帝。枢密使王峻在开封听到事变，派郭崇威率领七百骑兵东行，抗拒正在前来的刘赟，在睢阳相遇。郭崇威列阵于官署外，刘赟畏惧，登上门楼，唤来郭崇威说：“你们这些人为什么忽然来到这里？”郭崇威回答：“澶州军兵变，郭公派我来保卫陛下，没有有别的目的。”刘赟召郭崇威上楼，他不敢上，就派冯道下来与之交谈，郭崇威这才登楼，详细说明了军心已有归属、帝位已经确定的事实，刘赟握着郭崇威的手哭泣，低下头很长时间。不久，郭崇威暗中招降了负责保卫刘赟的护圣指挥使张令超所部，并将刘赟软禁到馆舍，杀其心腹董裔、贾贞等人。

兼领节镇

广顺元年（951年），郭威建立后周政权，即后周太祖。郭崇威为避郭威之名讳，而改名郭崇。旋即升领武定军（治洋州，今陕西洋县）节度使、检校太傅，仍典理禁军；又任京城都巡检使、修城都部署兼知步军公事。

广顺二年（952年）七月，太祖重新升陈州（今河南淮阳）为节镇，设置镇安军，改命郭崇为节度使，仍掌禁军。次年（953年）二月，加检校太尉。

显德元年（954年）正月，太祖亲自郊祀圜丘，调郭崇为镇宁军（治澶州，今河南濮阳县南）节度使，加同中书门下平章事。随后太祖病重，催促郭崇返回镇所。同月，太祖驾崩，其养子柴荣登基为帝，即后周世宗。

南征北伐

世宗即位之初，北汉联合辽朝南侵潞州，郭崇与天雄军节度使符彦卿出兵固镇，阻拦辽军南下。柴荣亲自出征后，他又为符彦卿副将任行营都部署。后周军班师后，加官兼侍中。不久后改为真定尹、成德军（治今河北正定）节度使。

显德四年（957年），辽朝趁柴荣第二次亲征淮南之机，派出一万多骑兵劫掠边境。柴荣闻讯，命镇宁军节度使张永德领兵北上抵御。郭崇率军反击，攻下束城县（治今河北束城。此据《辽史》，《宋史》误作束鹿县），斩首数百级，俘获颇多。

显德五年（958年），郭崇在“天清节”（柴荣生辰）时入京朝见，并上表辞官。柴荣不允，赏赐他袭衣、金带、器币及鞍勒马，遣返镇所。

显德六年（959年），柴荣北征燕云地区，途经静安军时，郭崇前来朝见。同年，柴荣病逝，后周恭帝柴宗训继位，郭崇获加官检校太师。

入宋及逝世

北宋建立后，郭崇加兼中书令，旋即入朝觐见。当时宋太祖赵匡胤改调淮南节度使李重进出镇平卢军，李重进抗命叛乱，于是让郭崇改镇平卢军。

乾德三年（965年），郭崇去世，享年五十八岁。太祖闻讯后震惊哀伤，追赠他为太师。

郭崇的孙女郭氏（即郭皇后）是宋仁宗的第一任皇后，至天圣三年（1025年），郭崇被加赠为尚书令兼中书令。天圣六年（1028年），再追封为英国公。