13世纪，蒙古人兴起于漠北高原，他们征服了亚洲和东欧，建立了蒙古帝国。天山以南及中亚广大地区是成吉思汗次子察合台的封地，察合台死后，蒙古宗王为了争夺继承权，引起了长期的军事纷争。从14世纪末到16世纪末的两百年间，察合台的封地(察合台汗国)分裂为许多互不统属的小王国和“地面”，相互征战。为了躲避战乱，人们纷纷外逃。其时的蒙古贵族是封建农奴主，他们大量掠夺贫民为奴，在自己的部落、庄园里从事劳动，充实自己的军队，刀郎人就产生于这些难民和奴隶。(在察合台时期，“刀郎”一词是“集中”、“成堆地聚在一起”的意思。)他们不堪忍受欺侮，为了反抗压迫剥削和躲避战争的灾难，就逃到叶尔羌河下游平原荒无人烟的大漠胡杨林里，聚在一起过着自由自在的迂徙流浪生活，于是就有了“刀郎”的称谓。
刀郎人反抗压迫，争取自由幸福的信念，吸引了不同地方不同民族的穷苦人加入他们的行列，“刀郎”不断壮大。初时的刀郎人是蒙古杜格拉特部与维吾尔人融合而成，后来的刀郎人已并不限于某个民族的人了，而是各民族下层阶级的组合，并成了反抗统治者而自立的人的代名词。
在漫长的岁月中，刀郎人在远离人世的荒漠旷野、原始胡杨林中狩猎游牧，或从事落后的农耕，与大目然作着不息的抗争，过着艰苦的生活。在闭塞的环境里，刀郎人形成了独特的生活习俗、语言、文化、艺术和心理特征。到清朝初年，已与其他维吾尔人迥然有别。“此等回人，以迁徙为常，性与各城有异"，已成为“回子中别一种了”(椿园《西域风土记》)。
阿瓦提县在叶尔羌河流域，叶尔羌河夏秋季节洪水泛漫，到处都是原始胡杨林和广袤的草地荒原。“胡桐杂树，漫野成林，自生自灭，枯倒相积，小山重复其闻，多藏猛兽。水草柴薪，实称至足。”(清朝肖雄《听园西疆杂述诗》)“今阿克苏之西，地名‘树窝子’，行数日程，尚在林内，皆胡桐也。”(清朝吴其浚《植物名实图考》卷三十五《木类胡桐泪》)便是对当时阿瓦提境内原始胡杨林的写照。
20世纪五六十年代，人们还习惯地称阿瓦提县为“树窝子”。林中和荒野、河沼草地上有老虎、野猪、狼、黄羊、马鹿、野骆驼、猪熊、狐狸、野兔、野鸡、野鸭、大雁、鹤类等飞禽走兽，“密林遮苇虎狼稠，幽径寻之麋鹿游”。这样的地方，自然成了刀郎人狩猎游牧的理想之地。
15世纪末，刀郎人就开始在今阿瓦提县乌鲁却勒乡等地及叶尔羌河畔生活，后来随人口的增加，逐渐向北扩散，并从事农耕生产。