1930年入北平燕京大学国文专修科。
1931年入北平辅仁大学历史系。
1932年转入燕京大学历史系。
1935年毕业后入燕京大学研究院肄业一年。
1936—1937年任中央研究院历史语言研究所助理员。
1939年到美国哈佛大学研究院,入远东语文系,主修日本语言文学,并学梵文。太平洋战争爆发后,兼在哈佛大学陆军特别训练班教日语。
生活(20张)1944年获博士学位。
1944—1946年任哈佛大学日语教员。1946—1947年回国任燕京大学中文系副教授,1947—1949年任清华大学外文系教授,1949—1952年转任历史系教授,并曾兼系主任。1952年以后任北京大学历史系教授,兼任中国古代史教研室主任、亚洲史(后改亚非史)教研室主任、系副主任、主任。曾任联合国教科文组织主持的《人类科学文化史》第三卷编委会编委、中国史学会理事、中国日本史学会名誉会长。
1952年加入中国民主同盟。
1956年加入中国共产党。
1973年10月北大、清华大批判组成立时,周一良、魏建功等同被委为“梁效”写作班子顾问,“和群众一同批林批孔”,
1976年10月,四人帮失势,梁效写作班子解散,其亦遭关押审查。1977年至1979年被列为反革命集团成员,受到批判,要求“说清楚”“与‘四人帮’的关系”,背靠背对其进行批判。
2001年10月23日逝世。遗体告别仪式于10月29日上午11点在八宝山举行。