1430年(宣德五年)，宁远城(今辽宁兴城)筑成当年，原籍安徽的军官祖庆率全家老小迁居至此，世代繁衍，世袭明朝宁远卫军职并不断提升，成为宁远望族。祖大寿的父亲祖承训，号双泉，是明朝万历年间镇守宁远的援剿总兵官祖仁的次子。随辽东(今辽宁东部和南部及吉林省的东南部地区)总兵官、宁远伯李成梁东征西伐，因抵御蒙古骑兵作战有功，不断得到提拔，出任辽东副总兵。祖大寿于1620年(泰昌元年)为官，授职靖东营游击，曾被经略熊廷弼上奏表彰。1621年(天启元年)为广宁(辽宁北镇)巡抚王化贞部属，任职中军游击。
1622年(天启二年)，后金与明朝发生了广宁之战，明军战败，后金努尔哈赤占领了广宁，祖大寿带领部队避到觉华岛。大学士孙承宗督师，以大寿辅佐参将金冠守觉华岛。1623年(天启三年)，孙承宗和袁崇焕修筑宁远城墙，祖大寿负责宁远城工程，将城墙加高增厚，加强防守功能。1626年(天启六年)正月，努尔哈赤攻宁远，被守城的祖大寿的将士用大炮炸伤，大败而退的努尔哈赤不久后伤重不治，皇太极继位。大败后金军之后，祖大寿以军功升副总兵。