吐峪沟霍加木麻扎是游客进入南谷口见到的第一个的古代宗教遗迹。据说已有1300多年历史。吐峪沟霍加木麻扎，传说公元七世纪初，穆罕默德创立了伊斯兰教后，其弟子、古也门国传教士叶木乃哈带5名弟子最早来中国传教，历尽艰辛，终于东行来到吐峪沟。在携犬的当地牧羊人的帮助下，叶木乃哈等6人便长住此地继续传教，伊斯兰教在吐峪沟开始盛行。后来，叶木乃哈等6人和第一个信仰伊斯兰教的中国人（牧羊人）去世后，被埋在山洞里，即现在的吐峪沟麻扎。据德国探险家冯·勒柯克著作记载，直到20世纪初，仍有来自土耳其、印度等国的穆斯林到这里旅游。现在，每年都有来自南北疆、宁夏、青海、甘肃、土耳其、港澳台等地游客来此旅游。