早年曾被荐于州官,因父年迈,辞职事亲。晋武帝太康六年(285年),举秀才,任太常博士,太康八年任高陆令,隔年转任淮南王司马允镇东参军。晋惠帝元康二年(292年),任太子舍人(太子詹事府属官),外调宛(南阳)令。元康八年,升尚书郎(负责朝廷文书诏令等事务),二年后转著作郎(编修国史)。赵王司马伦篡位,奸臣孙秀当权,潘尼借病乞假归里。齐王司马冏起兵伐赵王,至许昌,潘尼前往,任参军兼管书记,深得信任。赵王之乱平后被封为安昌公。惠帝太安元年(302年)任黄门侍郎(掌管诏令等事)。后连年升迁,先后任散骑常侍(随从皇帝出入)、侍中(主管机要)、秘书监(承办朝廷案卷、诏令等)、中书令(相当于丞相)。晋怀帝永嘉三年(309年),转太常寺卿(主管朝廷祭祀大典)。永嘉五年,刘聪作乱,危及洛阳,潘尼携眷东归原籍中牟,行至成皋,被乱军所阻,病死于坞壁(豪强聚集宗族乡党,依山筑垒,平地建坞,据以自守的防御建筑)。