其实早在唐朝建立前,李世民与李建成的关系就已经势同水火了,不过李建成毕竟是太子,有着天然的优势,他看到李世民手下人才济济,心里非常恐慌,手下人就给他支招,把他们都调离秦王府,调到山高皇帝远的地方,那么李世民就没有威胁了,于是乎,李建成就通过各种方式说服李渊,秦王府的幕僚就一个个的调走了,这时候担任秦王府记室的房玄龄对李世民说:府中幕僚虽然被迁往外地的人比较多,但是没有什么好可惜的,只有这个人绝不能放走,他有王佐之才,将来一定有大用。李世民也深以为然,于是也上书李渊,终于保住了他。
在贞观十七年,李世民让阎立本画长孙无忌、房玄龄、杜如晦等二十四人的画像置于凌烟阁,他位于第三位。后世的唐宋八大家之一的曾巩,清朝的曾国藩都对他有极高的评价,而咱们最了解的恐怕还是那句“房谋杜断”吧。