父亲何文渊，是永乐十六年(1418年)进士。授御史职，历任山东巡按、四川巡按、刑部右侍郎，督察两淮盐税、吏部左侍。而景泰年间代宗的易储诏书中“父有天下传之子”语出自文渊，有人传言朝廷下令逮捕文渊，其父自缢而死。时年何乔新已考中景泰五年(1454年)进士，任南京礼部主事，回乡奔丧。同乡人曾任侍郎的揭稽曾经师从文渊，而与何乔新兄弟不和，他就诬奏文渊死实际是由于被诸子逼迫而自杀，又逼嫁父亲爱妾。何乔新也揭发揭稽任巡抚时曾经举荐黄，并且代为起草易换皇储疏。两人都被受审。文渊妾为此断指，为何乔新兄弟诉冤，官司得以缓和。英宗也以揭稽所犯之事先前已赦免，就释放他不再问罪。事完以后，何乔新又为母亲守丧，守丧期满，改任刑部主事，调任广东司郎中。锦衣卫兵犯法，何乔新按律处理，一点也不宽恕。都指挥袁彬托他办事，何乔新执意不从。袁彬发怒，派人找诬告他的把柄，一无所得。由此何乔新名声大震。
成化四年(1468年)，他调升福建副使。所辖寿宁的银矿被非法开采，聚众千余人，到处劫掠，何乔新募兵出去，擒获其首领。福宁豪族尤氏杀人，出入带着保镖和武器，拒捕二十年。福清薛氏经常出海与异国商人做生意，事发后，策谋叛乱。都被何乔新捕捉杀掉。福安、宁德银矿很久就无矿可开，有关部门仍征收矿税，很多百姓以致破产。何乔新出来说话，减税三分之二。兴化百姓自洪武初曾向官府租用耕牛，直到这时每年仍要求纳租税，乔新上奏予以免除。清流、归化里界于沙县、将乐之间，依恃地势险要，而不交赋税，何乔新告诉都御史设置归化县，此地百姓才开始受到约束。何乔新调升河南按察使。河南发生大饥荒，按旧例，救济借贷到秋季为止，何乔新说：“秋季，是说可以依靠秋收，今年秋季能依靠吗?”于是救济到第二年麦熟才停止。都御史原杰到南阳招抚流民，带何乔新前去协助。以前，项忠驱赶流民过头，流民一听说原杰到了，更是躲进山谷。何乔新亲自前往招抚，登记簿籍的有六万多户。升任湖广右布政使。荆州百姓为徭役所苦，何乔新验实人口贫富，分为九等，使百姓得到好处。