李世民随即反对，说：“兵贵神速，趁如今节节胜利，四方豪杰加入，军心振奋，最好一鼓作气直取长安，就如摧枯拉朽一样容易；如果久攻不下，军心必乱。且关中有那么多兵马豪杰，可招抚为我所用。即使屈突通有廉颇之志，也无力回天。”
李渊觉得两人讲的都有道理，最后干脆折中吧：一部人马继续围攻河东，自己则亲率大军直取长安。
不久，义军渡过黄河，抵达同州朝邑，法曹靳孝谟打开蒲津、中单二城投降。就在同一天，华阴县令李孝常也来降。
这个李孝常不简单，他是隋朝大将李园通的儿子，也是李渊妻子窦惠家族的女婿。在江都的杨广知道他投降李渊后，将他的弟弟全部杀死。
得到一个大将还不说，李渊没花一兵一卒就得到当时京师附近的重要粮仓--永丰仓。要知道，杨玄感之所以敢决心反叛，重要的一个原因就是攻下了永丰仓。
永丰仓储备有隋帝国大量的粮食，不仅解决了李渊义军的军粮问题，还可赈济饥民，安定民心。因此，李渊睡觉时还偷着乐。
此外，丢了永丰仓，杨广想返回长安的希望就破灭了，而随他前往江南旅游的那些关中将士，老婆孩子家人都尚在关中，怎么可能会跟着杨广继续待在江南呢？
听说李渊开仓放粮，四面八方饿得发慌难民纷纷涌向军营，特别是男人们，吃饱了就报名参军。李渊的义军一下猛增至二十多万。
有如此实力，一些关中英雄豪杰也都愿投到李渊麾下，如长孙无忌、窦轨、于志宁（八柱国之一战略家于谨的曾孙，预修过《隋书》）和颜师古（名儒颜之推的孙子）。
军队有了，军粮也解决了，李渊让李建成、刘文静等率数万人驻军永丰仓，兼守潼关；同时命李世民率数万人在渭北。
一切安排就绪后，李渊继续兵指长安。