李铁山、陈赛鹏等先后在宁远、新田、桂阳等县成立“失业军人同乡会”、“新民学术协进会”，以此为掩护，宣传进步思想，策反敌军武装，组织民枪，开展对敌斗争。1949年5月15日，李铁山、乐志、陈赛鹏等，根据罗杰从江汉军区带回的迅速成立游击武装，策应大军渡江的指示，在桂阳与新田交界的永桂城召开军事会议，宣布正式成立中国人民解放军江南军区司令部（简称江南军区司令部，又叫湘南游击总队），成铁侠任司令，李铁山任副司令，萧键任名誉政委，罗杰任政委。江南军区司令部辖第一（桂阳）、第二（新田）、第三（宁远）3个分区和直属部队，共540人，280支枪。