随时有可能对自己产生威胁。因此，后来李密设计杀死翟让的时候，徐世勣险些丢了性命。幸亏的是，王伯当等众将及时阻止，徐世勣才捡回了一条命。但是，自此以后，徐世勣便与李密产生了嫌隙。
再到后来，徐世勣更是一味抗上，与李密发生了不可调和的矛盾。徐世勣因此受到打压，被打发到黎阳驻守。李密兵败之时，曾经想过前往黎阳，投奔徐世勣。可是，却遭到了手下谋士的反对。本来，徐世勣就与李密就面和心不和，翟让之死，他更是九死一生。在谋士的劝说，李密便打消了投奔徐世勣的想法。
千万不要小看了徐世勣，此人堪称隋末唐初的一位传奇将才。徐世勣，字懋功，曹州离狐人，隋末时举家迁居于河南滑州。根据相关史籍的记载，年轻时候的徐世勣，表现得与众不同，一看就是个英雄豪杰：
家多僮仆，积粟数千钟，与其父盖皆好惠施，拯济贫乏，不问亲疏。(《旧唐书·李勣传》)
这段记载是说，徐世勣他们家是当地有名的富户，家中蓄养了不少僮仆，囤积了大量粮食。但是，徐世勣却不是那种鼠目寸光的守财奴。他对天下大势看得很透，当时，天下大乱，各地烽烟四起。在这样的一个乱世，留着这么多的粮食、钱财，并没有太大的用处。倒不如用这些东西，成就一番大业。
于是，徐世勣与父亲徐盖，经常慷慨解囊，非常乐善好施，救济贫困百姓。因此，徐世勣在乡里乡亲中口碑甚好，积攒了很高的人望。正是因为有了这样的口碑、人望，很快，在遍地狼烟的隋末乱世中，徐世勣便拉起了一支属于自己的人马。然而，有一个地方，却是徐世勣真正施展抱负的摇篮，——瓦岗寨。
大业十二年(616年)，翟让在瓦岗寨举兵反隋。那一年，徐世勣十七岁。看到翟让揭竿而起，徐世勣觉得，自己大显身手的机会到了。随后，徐世勣带着自己的那支武装，参加了翟让的瓦岗军。从此，徐世勣就成为了瓦岗军的一员干将，一代名将崛起于隋末唐初的乱世，开始了他的戎马生涯！
翟让刚开始举兵的时候，立足未稳；再加上，翟让本身就是一介武夫，毫无远见。所以，起兵之初的瓦岗军，不知何去何从，陷入了一个彷徨、徘徊的尴尬境地。就在瓦岗军前途未卜的关键时刻，徐世勣起到了至关重要的作用。什么重要作用呢？徐世勣向翟让主动献上一计：
今此土地是公及勣乡壤，人多相识，不宜自相侵掠。且宋、郑两郡，地管御河，商旅往还，船乘不绝，就彼邀截，足以自相资助。(《旧唐书·李勣传》)
这条计策，为瓦岗军的发展赢得了“第一桶金”。徐世勣建议翟让，可以在运河两侧扎根，打劫来往米船，以此扩充力量，逐渐坐大。翟让本来脑子就不灵光，一向人云亦云，对徐世勣的建议言听计从。于是，翟让带着部众，埋伏在运河两岸，专门负责打劫来往商船。果然，翟让趁机发了一笔“横财”，获得了大量的粮食，瓦岗军的实力逐渐开始壮大。
随着瓦岗军的崛起，大有燎原之势，在中原地区渐成气候。隋王朝感到如鲠在喉，必须要拔掉这颗钉子。为了消灭瓦岗军，隋朝派出了一员悍将，前去率兵征剿。这位悍将是谁呢？齐郡通守张须陀。
张须陀率领两万隋军，围剿瓦岗军。不得已，翟让只能组织瓦岗军，抵挡张须陀的进攻。当时，李密已经成为了瓦岗军的二号人物。所以，李密全权负责抵挡张须陀，亲自指挥了著名的“大海寺之战”，一举全歼张须陀所部，斩杀隋军悍将张须陀。此战，瓦岗军取得了空前的胜利。
在瓦岗军进行“大海寺之战”，全歼张须陀的整个过程中，徐世勣是立下了首功的。根据《旧唐书·李勣传》的记载，“勣与频战，竟斩须陀于阵”。按照《旧唐书》的说法，大海寺之战，徐世勣率部一举击破隋军主力，并且亲自将张须陀斩于阵中。因此，这一仗的首功，徐世勣当之无愧。
通过以上叙述，可以看出，徐世勣是隋末唐初一位杰出的传奇名将。此人文韬武略，极具远略，又颇有军事才能，是一员不可多得的大将之才。那么，在李密投唐之后，大部分瓦岗旧部归附李唐之时，徐世勣又在做些什么呢？身为瓦岗军硕果仅存的名将，徐世勣又是在怎样的情形下，率部归顺唐朝？
可以这样说，此时的徐世勣，仍旧处于观望状态，对于唐朝对自己的态度，拿捏得不准。前文说过，徐世勣因为和李密发生矛盾，被派往黎阳镇守。所以，北邙山决战，徐世勣并没有参加。
李密兵败北邙山，瓦岗军主力损失殆尽，一路退至虎牢，直到投奔李唐。李密在洛阳惨败后，瓦岗军在河南的大部分地盘，基本上都被王世充占领。唯独徐世勣的辖区，完好无损。而且，李密退走后，徐世勣顺势接管了李密在河南仅剩不多的领地，总算保住了瓦岗军在中原最后的种子：
其旧境东至于海，南至于江，西至汝州，北至魏郡，勣并据之，未有所属……(《旧唐书·李勣传》)
客观来讲，徐世勣是瓦岗军在河南最后的代表，也是唐王朝极力争取的对象。如果徐世勣归顺唐朝，则崤山以东的局势，基本能够底定。大唐东进中原，便多了一筹