Küçük Mustafa öğrenim çağına gelince Hafız Mehmet Efendi'nin mahalle mektebinde öğrenime başladı, sonra babasının isteğiyle Şemsi Efendi Mektebi'ne geçti. Bu sırada babasını kaybetti (1888). Bir süre Rapla Çiftliği'nde dayısının yanında kaldıktan sonra Selânik'e dönüp okulunu bitirdi. Selânik Mülkiye Rüştiyesi'ne kaydoldu. Kısa bir süre sonra 1893 yılında Askeri Rüştiye'ye girdi.