1901年10月28日，于道泉生于山东省青州府临淄县葛家庄一户书香之家。1920年，于道泉以优异的成绩毕业于山东省甲种工业学校，当年考入著名学府齐鲁大学，主攻西洋史、社会学，并自觉旁听数学课。

1924年，于道泉经考试正式获得官费留美求学的资格，斯时适逢印度诗人泰戈尔在济南做学术报告，大家一致推荐于道泉担任即席翻译，泰戈尔发现于道泉精通英语、学识渊博，且对印度语言文化有浓厚兴趣，遂产生爱才之心，高兴地约请他一道前往北京，向有关部门提名推荐于道泉到印度国际大学深造。由于在北京大学任教的帝俄科学院院士钢和泰教授的诚恳挽留，于道泉只好留下来担任钢教授的课堂翻译，同时跟钢教授学习藏文和梵文，故未去美国和印度留学。是年，经许地山先生介绍，于道泉参加了有瞿秋白、叶圣陶、谢冰心、朱自清等社会名流荟萃的文学研究会。为了攻下藏语文关。

1925年，于道泉毅然离开北京大学的楼房，搬进古刹雍和宫的小平房，拜藏族朋友为师，苦学苦练二年，大大提高了藏语文听、说、读、写、译的实践能力，同时又跟雍和宫的蒙古族喇嘛学习了蒙古语文。1927年，经袁同礼先生推荐，他来到北海图书馆（即北京图书馆），担任满、蒙、藏文图书的采集和编目工作，抽暇自学了满文。北京图书馆特藏部的少数民族文字典籍，大约三之二是于道泉和彭色喇嘛、李德启三人采集而来，可以想见他付出了多么大的精力和心血。根据于道泉的学术成就，经清华大学陈寅恪教授主动推荐，当时刚成立的中央研究院历史语言考古研究所聘他任助理研究员。1934年，被派往法国巴黎大学现代东方学院，学习土耳其文。留法期间，应聘在中英文化研究所为法国学生讲授汉文。

1938年，于道泉应聘赴英国伦敦大学东方非洲学院任高级讲师，讲授汉、蒙、藏等语言课程，长达年之久。这期间，于先生身在海外，胸怀祖国，密切关注着中国革命的形势，曾把赵树理的名著《李有才板话》和《小二黑结婚》译成法文，向外国朋友传送中国解放区的信息。

1946年8月3日，北京大学校长胡适致函伦敦大学，欢迎道泉先生回国，到北京大学东方语文系担任蒙、藏文教授。胡适诚恳的态度，促使他下了归国服务的决心。但是，在欢庆抗日战争胜利的爆竹声中，内战全面爆发了，他只能继续滞留英国，但他坚信：中国共产党一定会在这一场战争中取得彻底胜利。之后，辽沈、平津、淮海三大战役取得了决定性的胜利，特别是北平的和平解放，极大地鼓舞了他，道泉先生当即决定从欧洲动身回国。

1949年4月，解放了的北平，从事着各行各业的人们，都有着一种朝气蓬勃的新面貌。在极短的休息之后，道泉先生迫不及待地与当时担任北大东方语文系主任的季羡林先生见面、磋商，确定在东方语文系开设藏语专业，季羡林先生推请道泉先生担任组长，并立即开始招生。此时，担任新闻出版总署第一任署长的胡乔木听说了于道泉先生的轶闻故事，也知道他通晓多种语言，而且是留学欧洲多年的专家，于是把筹办藏语广播这一重要工作交给了他，请他协助中央人民广播电台设立藏语翻译和播音小组。中央人民广播电台聘请道泉先生，以及由他推荐的李永年、李春先(又名曲吉洛卓，拉萨藏族旅京人士)和图丹尼玛喇嘛等人作为藏语广播组第一批成员。1950年4月10日开始工作， 5月22日晚上正式播音。

当时解放大军正在向大西南挺进，川康各地军事行动十分迅速。为了尽早尽快培养一批藏语人才以适应紧迫形势的需要，筹备成立中央民族学院工作的刘春，与季羡林和于道泉共同商量，从国内若干高校文科中抽调一些在校学生集中到北京，用速成的方法突击学习藏语，以应当前工作之急需。1951年6月，中央民族学院成立，道泉先生担任该院藏文教授，并担任了藏语教研组组长。在教书之余，还负责《藏汉词典》的编纂工作，1983年该词典由民族出版社出版，填补了中国藏、汉语对照词典的空白，也实现了于先生多年的夙愿。他十分认真地说：“编好一部词典，其作用不亚于培养20名教授。”

1992年4月12日，蜚声海内外的藏学家、教育家、语言学家、中央民族学院教授于道泉先生，因病于在北京西山医院逝世，终年90岁。