天保14年5月12日(1843年6月9日)生于鹿儿岛县,父亲为鹿儿岛藩士。参加过萨英战争、曾就读于幕府海军操练所。
伊东祐亨明治维新后加入政府海军,1871年(明治4年)任海军大尉,1877年任日进号舰长辅。1882年任海军大佐,先后任龙骧、扶桑、比睿等舰只舰长。1885年任横须贺造船所长兼横须贺镇守府次长、同年任建造中浪速号回航委员长。该舰服役后任舰长。1886年封海军少将。就任海军省第一局长兼海军大学校校长。接待了来访的清国舰队,在参观了定远舰后承认是:“如果现在和清国开战,没有胜利的可能,只要‘定远’和‘镇远’两舰就能把全部常备舰队送到海底。”1892年升海军中将,横须贺镇守府长官。1893年(明治26年)任常备舰队长官。