胡祖谦（1793—1854），字仲牧，号平山，一号洁生、雨香。庐江人。江西盐巡道胡稷子，官至工部屯田司员外郎，能诗善画。嘉庆二十三年（1818年），官至工部屯田司员外郎，循声重一时。随护嘉庆皇帝巡幸热河并受御赏。道光水灾，能账灾救民。因告老回籍，适遭兵祸，以练首身份多次与太平军作战。咸丰四年（1854年）正月，庐江团练策划进攻庐江县城。守庐江城的太平军将领李典闻有炮击之声，自知势单力薄，率领守城的太平军连夜逃跑。在籍的工部员外郎胡祖谦与吴廷香等率乡勇民团夺回庐江城。太平军迅速调集兵力，于二月二十四日在廖姓检点的率领下，指挥林盛粮等大军围攻庐江城。胡祖谦集守城团丁、乡勇拼死抵抗，太平军在几个城门楼堆柴积薪，用火攻之法，第二天就把庐江城又攻打下来。庐江陷落后，胡祖谦被俘，太平军劝降不成，将其槛送安庆，拘禁六、七个月，死于狱中。