但就在李世民讓人卜算是否應該采取行動時，恰好秦王幕府的僚屬張公謹從外面進來，奪過龜甲，便將龜甲扔在地上大聲說道
“占卜是為了決定疑難之事，現在事情并無疑難，還占卜什么
如果卜算的結果是不吉利的，難道就能夠不采取行動了嗎”
其實李世民也是向鬼神求個心安而已，現在被張公瑾阻止，也就沒有必要了。
于是，大家便定下了采取行動的計劃。
李世民讓長孫無忌秘密地將房玄齡等人召來，房玄齡等人卻說“敕書的旨意是不允許我們大家再事奉秦王的。
如果我們現在私下去謁見秦王，肯定要因此獲罪致死，因此我們不敢接受秦王的教令”
這其實已經怪不得大家遲疑了，一是李世民的態度不明，他們不可能將自己身家性命全部壓在李世民身上；
二是，事情到了此時，大家都看到了李世民已經沒有什么機會了，而李世民這次所做的事，已經可以說是謀反了，事情稍有不諧，就滿盤皆輸的下場。
李世民沒想到會發生這樣的事，但事已至此，箭在弦上不得不發。
就對尉遲敬德說道“房玄齡與杜如晦難道這是要背叛我嗎”
他摘下佩刀交給尉遲敬德說“您前去察看一下情況，如果他們沒有前來的意思，您可以砍下他們的頭顱，帶著回來見我。”
由此可見李世民的果決，只要下定決心，他就不會再有猶豫。
尉遲敬德前去，與長孫無忌一起曉示房玄齡等人說道“秦王已經將采取行動的辦法決定下來了，您們最好趕緊前去秦王府共同計議大事。”
房杜二人看到如此情形，哪有不明白的道理。
但他們也看到了李世民不成功便成仁的決心，對視一眼，都從對方眼中看到了驚懼。
但事到如今，只能一條道走黑了，要不然看尉遲恭的樣子，不答應，今日就是他們的死期，于是就跟隨尉遲恭和長孫無忌準備前去。
但是它們四人乃是秦王的心腹，同時出現在大街上，必然引人注目。
為了隱蔽行蹤，于是讓房玄齡與杜如晦穿上道士的服裝，與長孫無忌一同進入秦王府，尉遲敬德由別的道路也來到了秦王府。
六月初三，太白星再次白天出現在天空正南方的午位。
傅奕秘密上奏說“太白星出現在秦地的分野上，這是秦王應當擁有天下的征兆。”
李淵卻將傅奕的密狀交給了李世民，以此來試探李世民的態度。
此時，李世民暗中奏陳李建成與李元吉婬亂后宮嬪妃，而且說“我自問沒有對不起哥哥與元吉的地方，現在他們卻打算置我于死地，似乎是要為王世充和竇建德報仇。
如今我含冤而死，永遠離開父皇，魂魄回到地下，如果見到王世充等人，實在感到羞恥”
李淵望著李世民，大怒不已，回答說“明天就審問此事，你最好及早前來朝參。”
初四，李世民率領長孫無忌等人入朝，將兵力埋伏在玄武門。
張婕妤暗中得知了李世民上表的大意，急忙前去告訴李建成。
李建成將李元吉叫來商議此事，李元吉說道“我們應當統率好東宮與齊王府中的軍隊，托稱有病，不去上朝，以便觀察形勢。”
李建成說“軍隊的防備已很嚴密了，我與你應當入朝參見，親自打聽消息。”
于是，二人一起入朝，向著玄武門走來。
當時，李淵已經將裴寂、蕭瑀、陳叔達等人召集前來，準備親自查驗這件事情。