徐樹錚字又錚、幼錚，號鐵珊，江蘇蕭縣人。少有神童之譽，年廿二間關至山東投靠袁世凱，踵轅上書，值袁喪居，命道員朱鍾琪代見，未得結果，住在濟南的高昇店，旅居無聊，在廳堂寫楹聯，時值嚴冬，徐僅著夾袍，可是並沒有寒酸氣。這天段祺瑞剛好到高昇店訪友，見徐氣宇不凡，乃探問其姓名，徐告以投友不遇，盤纏用罄，正在等候家款。段問其願就事否？徐答以：「值得就則可就」。段乃約徐長談，聘徐擔任文牘工作，從此畢生追隨段祺瑞。袁世凱任北洋大臣，段督辦陸軍各學校，徐雖擔任文員職務，但時與兵士習跑步，同操作，後赴日本入士官學校，回國後仍在段左右，領袖群僚，不僅是段的靈魂，簡直是段的化身。段一生剛愎，有人說段是剛愎「他」用，這他，就是指徐樹錚。
北洋時代有大徐小徐，大段小段，所謂大徐是徐世昌，小徐就指徐樹錚，大段是段祺瑞，小段是指段芝貴。
小徐如何影響段祺瑞，如何操縱運用，可自一則筆記中看出，這是段的另一智囊曾毓雋所敘袁世凱稱帝時和段祺瑞鬧僵的一幕，曾毓雋因為是段身邊所親信的人物，他的描敘自然很近事實：
（曾毓雋言：）項城蓄謀帝制之始，合肥微窺其隱，即召余（曾自稱）及又錚諸人秘商曰：「項城帝制自為之跡，已漸顯露。我當年曾採取共和之電，如今又擁項城登基，國人其謂我何？且恐二十四史中，亦再找不出此等人物！所以論公，我寧死亦不參與，論私，我從此只有退休，決不多發一言」。
後來帝制形成，合肥養病京郊。一夕，項城忽召余曰：「松坡已離京轉滇，芝泉亦知之乎？為我轉告芝泉，此時忍坐視我滿頭白髮，遭人摧毀欺負耶？」繼又忿然曰：「沒有我，恐怕也沒有你們！我今年逾五十，位極元首，個人尚有何求？然不能不為此一團體打算，我們不能讓人家打到大門口來！即有錯誤，第一個瞭解我，又能諒解我的，應該是芝泉。今乃剛剛相反，芝泉竟是第一個不瞭解我，不諒解我的。實令人不解！汝可轉告他」。
繼又曰：「最好芝泉能親自來見我」。於是提筆草就一函。交余遞段。段閱後決定仍不往見，囑余擬稿，加以矯正，交余面呈項城。於是我又往謁項城，作第二次之密談。袁拆函一瞥，隨命余曰：「汝且退，明日此時，可再來此」。
余謁段報告見袁經過，段曰：「汝明日復謁項城，不必多費一詞，只聽其發付可也。生死且不計，何有於得失！」
余歸，竟夕不能成寐，想找又錚諸人一商，則又錚實為與合肥同一鼻孔出氣之人。且合肥此種堅決態度，十之七八受又錚影響為多。乃作罷。
余謁合肥，請其在可能範圍內予以便宜行事。段鄭重聲明曰：「除不擁護項城做皇帝，及暫不謁見外，其他均可便宜行事。」又承相告曰：「昨晚又錚來稱：項城左右，已亟謀不利於我，並及又錚。聞他們只待上面點頭，便採取行動。我料此乃想當然事，但亦不可不防範之。」
我離合肥處後，頗有歧路徘徊之感。繼思又錚畢竟權奇倜儻人也，不如試一探詢其本意，然後請其相助。因逕往某俱樂部見又錚，坦白告以一切經過。又錚笑曰：「閣下誠坦白，但尚隱有一事，即項城大罵徐樹錚該死是也。」余亦笑曰：「事誠有之，何必贅述，以攖君之怒。」我乃更告以項城與合肥各執一端，無法向項城覆命之苦，請智多星為我設想。又錚先說笑……見余若有不豫色然者，始正經為計曰：「閣下明日仍先謁項城，告以合肥擬俟稍愈，即親謁面呈密要。項城能得與合肥面談，必喜且不勝，然後吾人徐圖補救。茲事體大，不可造次。」余覺又錚所言極是，次日再謁項城。……
此次謁項城為第三度。見袁後即告曰：「段以茲事體大，決俟病體稍愈，躬親請謁，而呈一切。」又故意加重語氣，重說曰：「親來密商，比較方便。覺其病狀已好轉，大約最短期內即可應命前來。」項城聽到最短期內可以會晤，立刻變為喜悅。我正想乘機告退，但項城準備發言了。他一發問，問題便多。我暗中在咎又錚：凡所作計，總帶幾分冒險性質。正在冥想，見項城檢交馮華甫親筆函曰，汝試一閱，必覺其真有進步。我讀後，記函中警句云：「京以外事，倘有所命，決不敢辭。惟京內事，則極望菊人、芝泉諸兄能切實秉命而行，不要為其左右所誤。……」此一語明明系指合肥之信任又錚，最中項城之忌。我不待項城發言，即批評該函云：「無論東海、河間、合肥，皆屬國家柱石，似應同心協力，三位一體。……如相互猜忌，則恐禍起蕭牆，非國家之福。」項城云：可為我將華甫此意，轉告芝泉。旋又急曰：「且慢，又錚其人，亦小有才，如循正軌，可期遠到。但傲岸自是，開罪於人特多。芝泉如愛之，不應反以害之。……亦可為我轉加勉勵，並可將去此函共閱。」
余自公府辭出後，即見合肥，告以已代為權允病癒後往謁面談。並遞上河間致項城手函。合肥看罷，即擲之於地曰：
「馮華甫本來是狗，現在看來，簡直連狗不如！」
我說既已權允病癒往見，則不能稱病到底，事先應有準備才好。合肥曰：「又錚來過，亦為此事擔心，汝可找又錚共商。」
我找到又錚，出示馮函，又錚曰：「我們還是抓定自己的原則，即第一：不論直接間接，積極消極，均反對帝制到底。第二：欲項城中途取消稱帝野心，據張季老相告，已完全失望。所以合肥還是始終稱病不見為上。」我反駁曰：「不見固佳，但不能稱病到底。」又錚思之有頃，忽拍案叫曰：「得矣，我可派人揚言於梁燕孫、楊皙子輩：『只要合肥願見項城，項城可答允合肥一切要求，所謂要求，包括人事調整』云云。彼輩一聞此言，恐被指名調整，必多方設法以緩項城與合肥之見面，則吾人可從容坐視其變。」
余每暗服徐之勇邁而兼有雅量。因一再相約曰：「一切如君所論，但請從速進行。」
果然，此後多日，項城不再召我，又錚之謀告成矣。
忽一夕梁燕孫過訪……曰：「頃間項城相告，謂據足下轉陳，合肥已允病癒往謁。果能如此，何事不可商量。第一，馮華甫即不敢再如目前之作壁上觀，而將一切責任推諸合肥身上。第二，東南西南各省督使，對我方必立刻改變觀念，而有所顧慮，以共尋求緩衝之道。則項城做不做皇帝，均得有時間從長計議。……」我答曰：「合肥已決定病癒往謁，但項城左右，恐非每個人都如閣下想法。……合肥個性，閣下所知，決不可供群小玩弄。」梁氏云：「足下之言是也，容將此意往陳項城，得其瞭解，再來就商。」
梁去後，余即往告又錚，徐曰：「有我徐某在，決不令此獠猖獗禍國也。」
我問曰：「君謂南皮項城，是半豪傑，作何解？」徐曰：「南皮一生，以罵人起家。項城一生，以騙人起家。非豪傑不敢以罵人，非豪傑不足以騙人。然真豪傑，則既不罵人，更不騙人。今南皮與項城一罵人，一騙人，吾故曰半豪傑也。豪傑而曰半者，其他一半，屬屠沽故也。」徐氏述畢，關於梁燕孫與我晤談之應付，又錚毅然曰：「我料梁氏旨在窺探吾人意向，暫時決不會慫恿項城召見閣下。因我所做工夫重點，即在投彼輩所好，可使項城一時更不圖見合肥，請君高枕看我好謀。」我深信又錚之能，遂亦置之。
項城欲與合肥見面，終因又錚窺破項城左右意圖，略施拖延小計。不久蔡松坡雲南起義，項城亦勢成騎虎，不能登其大寶。
某夕。又錚過訪，謂項城又有請合肥復出相維之意，幸為其左右所阻。繼又曰：「只要我們能消極到底，軍事方面，久持必生變，雖倒河傾海，亦無能為力。」河海雲者，指河間與東海也。又錚只堅持此一策略，以成合肥再造共和之局，合肥亦能動心忍性，以增益其所不能。
又錚最重視者，為項城將來如何收場，合肥又如何出而善後，我們為其左右者之如何預籌也。又錚之中心主張，為佛頭上著不得一點糞。無論項城以何種名義授合肥，縱使實際上授以全部軍權，亦不能接受。一接受，則頭上著糞，永遠難洗。反之，縱使空虛到委蛇伴食，予以間曹，也當拒絕。不拒絕，頭上又著到糞了。故吾人不能輕易授人以口實。則項城之敗，敵人不一定能收全功，而我們則操勝算之一半。後來事實演變，一如其所料。雖以東海之善於操縱，河間之亟思染指，而北洋軍權，始終控制於合肥手上者，胥又錚此一堅決主張，為奠定其基。
當袁氏取消帝制，手令東海，請合肥同籌善後，一切請合肥處理，惟不能再用徐樹錚。合肥一開此言，大怒曰：「事到如今，尚一點不放鬆。我寧不幹，我又如何能幹！」
曾氏又云：「大徐最怕小徐，但有時亦愛小徐，且想利用小徐，而小徐終其身，只接受其怕，不接受其愛，更談不到利用。而合肥則不然，能使小徐終其身不見其愛，只見其信任。不見其怕，更不見其利用。信任矣，愛何加焉。利用矣，怕必隨之。然則大徐之智出合肥下矣。」
黎元洪就職總統後，任命段祺瑞為國務總理，這是段的第三次組閣。段組閣時有一個老問題，就是要任命徐樹錚為國務院秘書長，黎也是堅決不同意的，段把這意思請張國淦向黎去講，袁死前段亦是請張國淦向袁要求派徐為秘書長而被拒。張知道黎也不會同意，可是又不能不講，才向黎一提，黎就沉下臉來說：「請你告訴總理，一萬件事我都依從他，就這一件我辦不到。」張不好把這話對段講，就去請教徐世昌，徐怕黎、段兩人因此鬧僵，乃親自去見黎說：「我以為你一萬件事都可以不依從他，這一件非依從他不可，不要怕又錚跋扈，芝泉已經夠跋扈的了，多一個跋扈也差不了多少。」徐世昌的話一點也沒有錯，在當時的情勢，段有沒有徐樹錚都是一樣，他的眼中根本就沒有黎元洪。
當黎同意徐樹錚為國務院秘書長時，有一個保留條件，就是規定國務院秘書長來見總統陳事時，須先知會總統府秘書長一同入見。這個規定也是令人不解的，原來黎做總統後，段從不以總理身份去見總統，而是由國務院秘書長前往。徐樹錚見黎時也並不尊敬，黎有時問起某一件公務時，他總是這麼說：「現在是責任內閣制，有總理負責，總統不必多問。」
小徐有才氣但任性，段能倚信小徐，實在很難得，可是小徐的缺點是跋扈，很難與人共事，像張國淦這樣能夠忍讓的人，亦無法和小徐相處，竟於8月1日辭職，由丁世嶧繼任。丁鑒於張的失敗，所以採取不讓步態度對小徐，並提出府院辦事手續草案，建議：「大總統得出席閣議發表意見，但不得參加表決；大總統對國務自由行使其職權。如用人不同意，得拒絕蓋印。閣員應隨時向總統面商要政，國務會議前須將議事日程陳報，會議後須將議事紀錄呈閱。」
黎自丁世嶧入幕後，聲勢一振，其左右如哈漢章、金永炎、黎澍、蔣作賓等，亦附和丁的建議。段一怒而請假不視事，賴徐世昌等調和，段才稍稍讓步，於八月廿六日手諭徐樹錚：「本院呈請大總統核閱文件，應責成該秘書長躬自遞呈，用印後繼回，無論風雨黑夜，不得假手他人，以昭慎重而免差異。」又呈報黎：「逐日文件，均由樹錚躬遞。該員伉直自愛，不屑妄語，其於面對時，凡有聲明為祺瑞之言者，祺瑞概負全責。」對有關府院權限問題，亦議定折衷辦法，即
（一）國務會議議事日程先期呈閱，事後送呈議事紀錄；
（二）國務會議散會後，推國務員一人入府報告議決事項；
（三）每星期五，國務員齊集總統府會商政務。舉行聚餐；
（四）總統對國務會議議決案如有認為不合者，得命總理及主管閣員說明其理由，如仍認為不合，得交復議一次；
（五）未經國務會議議決之命令，總統得拒絕蓋印。府院職權因此明確劃分。
徐樹錚不只和總統府秘書長對立，在國務會議中也引起了極大的麻煩。在第一次閣議中，內務總長孫洪伊就和徐樹錚吵了起來。照法理講，國務院秘書長只能列席內閣會議，並無發言權，那次閣議中，討論到廣東李烈鈞和龍濟光的糾紛，徐主張電令閩、粵、湘、贛四省會剿李烈鈞，孫主張去電和解，其他閣員皆贊成孫的主張，不過為了段的面子，沒有制止小徐發言，小徐竟於閣議後，將會剿李烈鈞的電報拍發，待四省復電國務院，閣員們才知其事，孫洪伊遂在閣議席上指責小徐，小徐也反唇相譏，兩人幾乎拍桌吵鬧，而段卻有左袒小徐的意思。
總統和國務院職權劃分後，國務院大權幾全集中於徐樹錚之手，不止孫洪伊不滿，其他閣員也不滿意，不久發生了任命郭宗熙為吉林省長和查辦福建省長胡瑞森案，遂使內閣的火藥氣氛接近爆炸。這兩案都是徐樹錚擅行決定，得段同意辦理，既未經閣議審查，又沒有主管內務總長副署，徐即以國務院名義徑行咨復國會。孫洪伊認為小徐眼中完全沒有內務總長，段也不尊重自己，乃當面質問段：凡與各省民政長及有關的問題，內務總長是否無權過問？院秘書長是否有權擅自處理？段無言回答，只說了一句：「又錚荒唐。」吩咐把胡瑞森一案的咨文追回，可是國會已經印發了出去，無法追回，孫乃於八月三十日憤而辭職。段一面派許世英致意慰留，一面調整內閣辦事程序五點：（一）凡答覆議會之質問書，須由主管部起草；（二）頒布命令須由國務員副署；（三）院令須經國務會議通過；（四）閣議通過者，秘書不得擅改；（五）各項法令非經總理及主管部總長副署，不得發出。黎聞知此事，乃於十月一日召見孫，面予懇留。
不久，孫以裁汰內務部員司，為被汰人員祝書元等28人借口不合文官任免休職條件，控拆於平政院，平政院決定受理，限孫五日內提出答覆。孫認為平政院是袁所設，其本身地位有問題，因而置之不理。10月7日平政院認為內務部非法，任免令一律取消，由院呈請大總統下令執行。孫則力斥平政院非法設立，不在民元《約法》內。雙方爭執甚為激烈，孫認為這是徐樹錚幕後策劃出來的。
孫和總統府秘書長丁世嶧同為國會中的韜園系，這一繫在國會中頗有力量，所以孫亦有恃無恐，與丁聯合對抗小徐。丁對小徐處處防範抵制，不似張國淦那麼隨和，因此遂使當時政治空氣緊張。
10月18日，徐樹錚忽然手持「孫洪伊著即免職」的命令請黎蓋印，黎為之駭然，堅決不肯蓋印。此後，徐一連到公府催促四次，最後一次公然很不禮貌地說：「總統不蓋印，就只能不准伯蘭（孫）出席國務會議」！此時，黎一肚子的火大喝一聲：「你說的是一句什麼話」！徐冷冷地回答說：「這是總理說的」。
這次政潮的範圍非常之廣。國會議員王玉樹等提出對政府的質問案，認為要罷免一個總長，應該由國會提出彈劾，而不能准許國務總理獨斷獨行。孫洪伊本人則認為「國務員對總統應負聯帶責任，內閣可以總辭，不能單獨免一個閣員的職。」
10月24日，很少到公府來的段忽然來到了公府，親自請黎在免孫的命令上蓋印。黎仍然拒絕。段乃氣勢洶洶地說：「總統不肯免孫伯蘭的職，就請免我的職吧」！黎被他這一將軍抵擋不住，便又無可奈何地說：「可以讓伯蘭自動辭職，免職令還是不下的好」。但是孫洪伊表示除非總統下令免職，自己決不自動辭職。
10月27日，黎請參謀總長王士珍與孫同到公府來商量這個問題。王士珍勸孫讓步，以一個專使的名義出洋考察，不開去內務總長的職，由次長代理部務，以便和緩政潮。孫表示不願出洋。
國會中韜園派議員呂復、褚輔成等提出了彈劾院秘書長徐樹錚案，並且還擬進一步彈劾國務總理段祺瑞。徐看見問題鬧大了，不免情虛膽怯，便表示「只要伯蘭辭去內務總長，維持總理的威信，可以調任為全國水利總裁，或者外放省長」。孫表示：「什麼官我都不要，只要維持我的人格」。段聽了孫不辭職，不出洋，不外調的話，不禁怒沖沖地說：「好，我們大家都辭職，讓孫洪伊一個人去幹」！
一方面表示決不辭職，一方面表示不把他逐出內閣就不能維持總理的威信，可是如果維持了總理的威信，勢必又會影響到總統的威信，這個問題糾纏不清，始終找不出一個適當的解決辦法來。於是黎的策士主張電召「隱居」衛輝的徐世昌到北京組織內閣以代段。他們認為，段的政治資本是北洋派，而徐世昌在北洋派中的資望遠在段之上，並且張勳對徐抱有特殊好感，因此以徐代段不會引起嚴重後果。黎也覺得傀儡總統和蓋印機器做得太苦了，不如痛痛快快地幹一下，就採納了策士們的建議，派王士珍到衛輝迎接徐世昌來。
從10月下旬到11月，徐世昌突然變成「解決時局的中心人物」。北京傳出來的消息異常混亂，一會兒說徐即將來京，一會兒又說他不肯來。最後，他提出了「擁護元首」、「維持合肥」、「不入政界三個條件，要黎答應後才肯動身。
徐世昌於11月16日到北京，當天並不到公府謁見黎。17日，黎親自到五條胡同拜訪他，希望從他取得一些安慰，但是他只向黎說了一些海闊天空漫無邊際的話，黎十分掃興地回到公府來。府秘書長丁世嶧勸黎不要因此灰心，他認為：「半推半就是人之常情，徐世昌不會爽爽快快地表示自己願意做總理。段是個心地狹小的人，先發表命令，必然會負氣出走，徐就可以從容上台了」。黎不以這個意見為然。另外有人建議電召馮國璋、陸榮廷晉京，然後下令免段的職，黎也不以為然。那些策士不滿於這種畏首畏尾的態度，因此，他們沒有取得黎的同意，就打電報給馮國璋，假造「菊老已允出山」的消息，請馮發電為之捧場。可是馮的消息很靈通，早已知道徐世昌不敢取段而代，同時馮自己正因為當選副總統，地位在段之上而感到侷促不安，想找一個機會應酬段一下，因此回電說，內閣仍以維持原狀為宜。這樣，就使黎的逐段計劃多了一層阻力。徐世昌上台多了一層顧慮。
17日，徐世昌到府提出府院威信雙方兼顧的辦法，就是孫洪伊、徐樹錚兩人同時免職，並且推薦張國淦繼任院秘書長。他認為張國淦以前做過府秘書長，又做過段內閣的閣員，這樣一個與雙方都有良好關係的人繼任秘書長，一定能夠融洽府院感情。此時黎既沒有勇氣拒絕徐世昌的意見，而捨此之外又無更妥善的辦法，就於20日下令罷免了孫洪伊的內務總長。
22日，徐樹錚拿了免他自己的職的一道命令入府蓋印。黎一面蓋了印，一面又覺得忐忑不寧，要聘徐做公府軍事顧問，還說了一些安慰他的好話。
24日，段向公府提出三點質問：一、現在府方一切措施，是否與責任內閣制的精神完全相符？二、府方經常延擱國務院的呈閱公文，倘有貽誤，其責任應當誰屬？三、經國務會議通過應當發佈的命令，府方經常拒絕蓋印，能否說明其理由？
孫洪伊仍然退回到國會，仍然不斷利用國會黨團的力量打擊段。6年1月14日，步軍統領江朝宗忽然派兵到羊肉胡同孫宅進行搜查，據說孫宅藏有「危險分子」八人，孫洪伊有「陰蓄死士進行暗殺」的嫌疑。這樣，孫便只得逃往南京托庇馮國璋。
一般人都以為府院政潮已因黎之軟化而告解決，但是段的看法不一樣，他認為孫洪伊免職僅僅是內閣內部的問題，不能視為府方的讓步，院秘書長徐樹錚既然去職，府秘書長丁世嶧也該去職。黎本想拒絕段的這個無理要求，可是忽然張勳來一個痛斥丁世嶧的電報，因此黎只好同意段的要求，2月25日派夏壽康繼任府秘書長。
丁世嶧辭秘書長後，發表辭職書有云：
「國務會議以前無議事日程，會議以後無報告，發一令總統不知其用意，任一官總統不知其來歷，國務總理恆匝旬不一晤總統，惟見秘書長傳達於其間，有所詢則以事經閣議，內閣負責為對抗。大總統無見無聞，日以坐待用印為盡職。……曹汝霖使日事，一月以前日外務省早經奏明日皇，而我大總統至時尚未盡知其事。內閣與章公使往來十餘電報未一呈閱。
……」