渐得重用

祖约家族世代担任俸禄二千石级别的官职，是北方州郡中的世族。父亲祖武，曾任晋王司马睿的副官、上谷太守。祖约兄弟六人，哥哥祖该、祖纳、祖逖等都豁达爽直而有才干。

祖约最初以孝廉的身份担任成皋县县令。永嘉五年（311年），发生永嘉之乱，祖约随兄长祖逖渡江，被晋王司马睿引为掾属，与陈留人阮孚齐名。后转任从事中郎，主管人才选拔和推荐。祖逖北伐建功后，祖约也逐渐得到重用，升任侍中。

接替兄职

太兴三年（321年），祖逖病死，祖约接替祖逖职位，担任平西将军、豫州刺史，并接管祖逖的部众。祖约与祖逖是同母所生，祖约与祖逖十分亲近。祖约与祖纳是异母兄弟，祖纳得知祖约接管了祖逖的部众，心中很是不满，就秘密向晋元帝司马睿报告说：“祖约怀着凌驾于君主之上的禀性，应压制而使用他。现在他侍奉在君王身边地位显赫，如果给予他权势，将会成为作乱的阶梯。”晋元帝认为祖纳妒忌其弟祖约显贵得宠，没有听信。当时人们也认为祖纳、祖约不是一母所生，祖纳忌恨弟弟的显贵得宠，便有这一席话。但祖约没有安抚控制部下的能力，士卒多不依附与他。

自从祖逖死后，后赵屡次侵犯黄河以南地区。永昌元年（322年），后赵夺取东晋的襄城、城父，围攻谯郡。祖约因抵挡不住，便退守寿春。于是，后赵攻取陈留，梁州、郑州地区的形势又变得动荡不安。

太宁二年（324年），王敦举兵反晋，祖约回京保卫京都建康（今江苏南京），率军进驻寿阳，驱逐王敦任命的淮南太守任台，因功被封为五等侯，进号为镇西将军，受命屯驻寿阳，成为守卫北部边境的主力。

渐生怨望

太宁三年（325年），晋明帝司马绍去世，遗诏命太宰、西阳王司马羕，司徒王导，尚书令卞壸，车骑将军郗鉴，中书令庾亮，领军将军陆晔、丹阳尹温峤辅佐朝政。祖约自认为名气和资历不在郗鉴和卞壸之下，却没有得到晋明帝的临终顾命，他又希望开府，还有多次上表所请的事都没有获准，因此心怀怨恨。

咸和元年（326年），后赵石聪率军进攻寿春，祖约多次上表请求朝廷派兵援救，但朝廷没有出兵支援。石聪久攻寿春不下，于是进犯淮南诸地，杀掠五千多人，建康大震。朝廷忙命王导为大司马、假黄钺、都督中外诸军事，驻军江宁，以抵御后赵。历阳内史苏峻派部将韩晃击退石聪后，朝廷准备在江南修筑涂塘以防御后赵。祖约闻知后认为自己被朝廷抛弃了，心中愈加怨恨。

举兵叛乱

咸和二年（327年）十一月，庾亮欲削苏峻兵权，遂征其为大司农，加散骑常侍，位特进。苏峻不应命，并联络祖约以讨伐庾亮为名起兵。祖约对朝廷怨恨已久，遂派侄儿沛国内史祖涣与淮南太守许柳领兵与苏峻会合。

咸和三年（328年）二月，苏峻攻陷建康，执掌朝政，自任骠骑将军、录尚书事，以祖约为侍中、太尉、尚书令。四月，庾亮、温峤推陶侃为盟主，起兵讨伐苏峻、祖约，并陈述其罪状。六月，石勒派石聪南侵，并进攻祖约。由于部将背叛，祖约大败，逃奔历阳。

咸和四年（329年）正月，冠军将军赵胤派部将甘苗率军猛攻历阳。祖约弃城北逃，将领牵腾则率众献城投降。

宗族被灭

祖约北逃后，率宗族及亲信数百人投降后赵天王石勒。石勒十分鄙薄祖约，久久不愿接见他。

咸和五年（330年），后赵右仆射程遐进言于石勒：“天下初定，应明罚敕法，显示顺逆。从前汉高斩丁公，赦季布，便是此意。大王自起兵以来，褒忠诛逆，中外归心，惟江左叛臣祖约，犹存我国，窃为不解。且约大引宾客，又占夺先人田里，地主多衔怨切骨，大王何尚事姑容，不申天罚呢？”

石勒于是派人送书信给祖约，表示：“祖侯远来，未得欢会。今幸西寇告平，国家无事，可邀集全家宗族子弟，来京一见。”但在当天石勒却称病推辞不见，改让程遐会请祖约。祖约自知大难临头，饮酒至醉。祖氏一族百余人全部在市集被杀，妇女被分赐诸胡为妾婢。