這句成語見於《資治通鑒·唐則天皇后·久視元年》：「天下桃李悉在公門矣。」
唐代武則天當皇帝時，有一個宰相叫狄仁傑，字懷英，太原（今屬山西）人。此人德高望重，敢於直言相諫，深得武則天賞識。武則天稱他為「國老」（武則天即位時，狄仁傑已八十多）而不直呼其名。就是上朝時，武則天也不讓他跪拜，說：見狄公下拜，我渾身都痛。武則天常對其他大臣說：「不是特別重要的軍國大事，你們不要去麻煩狄老。」
武則天為了鞏固自己的統治，採取多種措施，廣羅人才，並讓狄仁傑給他推薦能擔任將相的人才。狄仁傑推薦了張柬之、姚崇等數十人，這些人後來多成了名臣。有人對狄仁傑說：「你真是位了不起的人物，朝廷裡有才能的大臣都是你推薦的，真是桃李滿天下啊。」狄仁傑說：「推薦有才能的人為國家效力，不是為私，是我應該做的。」
公元700年，九十三歲的狄仁傑病死，武則天痛哭流涕。自此以後，每當朝廷有大事而眾人又不能解決時，武則天常歎息說：「老天爺為什麼這麼早就奪去了我的國老啊！」
「桃李滿天下」這句成語，常用來比喻一個人到處都有學生。桃樹和李樹，比喻所培植的優秀人才。