李渊和李世民在晋阳准备起兵谋反时，李建成并没有闲着，只是他当时人不在晋阳，而是在河东老家秘密联络有志之人。真正起兵的时候李建成已经到了晋阳，和李世民一起统领军队。两人真正开始拉开差距应该是李建成被立为太子之后。
关于李渊晋阳起兵的记载，一直以来就是一个争论的焦点，一种观点是包括两唐书和《资治通鉴》在内的史书的记载，说的是李渊本没有起兵的想法，是李世民同刘文静密谋，然后又联合裴寂设计李渊入了圈套才不得不起兵，实际上李渊并没有什么能力，全靠着英明神武的李世民才造反成功，建立了大唐；另一种观点也是现在普遍认可的一种观点，在温大雅的《大唐创业起居注》中，说的是李渊早就有起兵自立的想法，晋阳起兵也是李渊同自己的支持者们策划的，李世民起到的作用并不明显，或者说李世民只是执行父亲派下来的任务。当时李建成和李世民被大家呼作大郎、二郎。一起领兵作战。
无论是哪一种观点，有一点是很明确的，就是李渊在晋阳谋划准备起兵的时候，李建成并不在晋阳，那么他在什么地方呢？
我们知道李渊起兵是在617年，这一年李渊成为太原留守。这一年，李渊52岁，李建成29岁，李世民20岁，李元吉15岁，李智云15岁（四姑娘写文一般都是写的虚岁）。当时李渊的妻子窦氏已经去世，李渊赴任的时候只带着二儿子李世民夫妻。其他的儿子都留在家里，由李渊的长子李建成抚养。当时的李建成应该是有官职在身的，毕竟李家是关陇贵族，李渊又和杨广是表兄弟，即便杨广对李渊有猜忌之心，该给的官职还是会给的。当初杨坚立国后，十六岁的唐国公李渊就成为千牛备身。所以按照常理来说，李建成少说也已经进入官场十年了。可惜，关于李建成的资料太少，617年之前的历史更是一片空白。
617年，李渊在带着李世民在晋阳为官，而李建成带着李家人在河东（山西南部）居住，李渊决定起兵后，即让李建成在河东秘密联结有志之士，拉拢可能的官员和士兵加入到义军中。等到起兵前夕，李渊派人到河东让李建成到晋阳起兵，李建成带着李元吉就跑到了晋阳，远在长安的柴绍(平阳昭公主的驸马）也秘密逃到晋阳一起举事。
六月，李建成到了晋阳，等李渊和突厥达成协议后，造反就轰轰烈烈开始了，李渊命李建成和李世民各领一军，首先向西河发起攻击。二人担心刚招到的兵马未经训练不利于进攻，于是立下军法，整肃三军，另大军在路上秋毫无犯，路边的瓜果蔬菜必须买了才能吃，即便军中有人提前吃了，二人也要派人找到主人然后给钱，有什么吃的喝的，二人也会同大军分享。等到了西河城下，二人亲自说明来意，劝西河人投降，而且有人进城的时候，大军也不会加以阻拦，城内之人看到大军如此宽容纷纷投降。斩首了唯一不肯投降的高德儒，这一仗只用了九天，可以说是一个很好的开始。
之后，李渊父子一直攻进了长安城，扶立杨侑为帝，李渊自封唐王，李建成为唐王世子。第二年，李渊登基，成为大唐的第一位皇帝，李建成被立为太子，李世民为秦王。也就是从这开始，李建成逐渐淡出了战场，而李世民则成为平定天下的主力。李建成做为太子不宜建立太多的军功，而且还要学着处理政务，必要的时候留守长安，总之会有很多束缚。
李世民军功章越来越多，权力欲越来越强烈，两人开始争储，最终在626年，李世民杀死李建成，逼迫李渊下台而自己做了大唐的皇帝。
