大业十年，隋炀帝杨广派禁军统领李渊担任太原道安抚大使，军政一把抓，可以不用汇报提拔罢免辖属官员。大业十二年，隋炀帝在雁门关被突厥人围困，情况比当年汉高祖刘邦被匈奴人围困还要紧急，幸亏李渊带了本部人马奋力勤王获免。隋炀帝去了江都，就派李渊留守太原备边。李渊本来不想跟突厥人死磕，但是圣旨难违，跟部下发牢骚，其实对付突厥人最好的方法就是和亲，打仗不是首选。
但是牢骚归牢骚，该打还得打。李渊也有御敌之道，他跟搭档王仁恭说，突厥人擅长的就是骑马射箭，见利纷纷向前，知难作鸟兽散。风驰电掣，没有固定阵营。后世称作麻雀战。弓箭就是他们的手和脚，铠甲就是他们的休闲服。队伍不成行列，军营居无定所。追逐着有水有草的地方居住，牛羊马匹就是他们的军粮。战胜了赶紧抢一番财物就跑，战败了也没有羞愧之色。半夜没有巡逻放哨的劳苦，远征没有运粮筑壁的的耗费。但是咱们中原地区的用兵跟他们恰恰相反，所以打起仗来很少占便宜。现在我们不如跟他们学学，他们咋办咱们咱办，突厥人一看无利可图，也就不来了。如果我们不赶紧想点办法，就会被突厥人吃掉。王仁恭军事能力不行，听了李渊的建议。
李渊从五千兵马中精选善于骑射者两千人，饮食居止和突厥人一模一样，追逐水草多派间谍，每次看到突厥人的巡逻兵过来，旁若无人，照样骑马射猎，耀武扬威。李渊的箭术尤其高明，每次见到飞禽走兽，无不一发击中。偶尔于突厥的精锐部队相遇，就让骁勇者编成几队，持满弓箭蓄势待发，不打第一枪。突厥人每次看到这支特种部队，都觉得跟自己的行事一模一样，不敢贸然攻击，多次之后，士兵们胆壮，敢跟突厥人一较高下了。后来李渊带着这支队伍平定了历山飞农民起义军的叛乱，攻克了长安城。后来这支部队一部分跟着李世民攻打洛阳，编为玄甲军，一部分宿卫长安，编入了禁卫军。
李世民在洛阳之战中为了对付前来支援王世充的窦建德，组建了一支玄甲军队伍，两千五百人。这支队伍所向披靡，四个小队队长分别是程咬金，秦琼，尉迟恭，徐懋公。一部是原有李渊的仿突厥兵和薛举的骑兵整编的，尉迟恭率领，剩下的基本都是原瓦岗寨的人马改编的，三位瓦岗寨大拿率领。后来参加玄武门之变的秦王府府兵，就是这些玄甲军的精锐。
李建成在武德七年也组建了一支两千人的特种兵，由于驻扎在长林门附近，所以叫长林兵。这支队伍的主要成员是长安城的游侠。李建成训练这支队伍就是想找个机会攻入秦王府把李世民杀死，可惜一直没法下手。他还训练了三百突厥兵在太子府中，更是精锐中的精锐，没想到被李世民的内线侦知，被李渊勒令解散了。
那么李渊李建成李世民父子是在不同情势下由不同成员组建的特种部队，为何上限都是两千五百人，而不是五千或者二万五呢，原因有二。第一太费钱。特种兵需要最好的装备，最好的兵员，最好的补给，最好的待遇，总之一切都是上上之选。有人算过一笔账，每个骑兵按照1长矛1腰刀1铠甲1马鞍计算，折合现在人民币，战马3万长矛3000腰刀2000铠甲5000马鞍5000=4.5万元，加上骑兵口粮马匹口粮工匠工资杂役工资等等费用，无疑一笔巨资，只有土豪才能养得起，估计李渊李世民李建成的财力上限也就只能养得起两千五百人。第二，兵不在多在于精。特种兵么，都是参加特别行动的，人数多了容易暴露目标而且不利于统一指挥。所以两千五百人还得分四队，四队还得分好多小队，各自为战依然战斗力十足。
