說起古建築考察來，可以說是梁思成和林徽因及營造學社成員對中國文化最大的貢獻。中國文化的一大特徵是：重文史，薄技藝。詩詞義典，浩若煙海；匠作之書，廖若晨星。尤其是建築，在士大夫文人看來，是器物之術，不值得研究。因此，儘管中國的古建築巍峨聳峙、斗拱飛簷，十分獨特壯觀，但關於古代建築的理論總結卻幾乎缺失，雖然有兩部關於建築的古書留傳下來，一部是宋代《營造法式》，一部是清代的《清工部工程做法則例》，但這兩部書，由於缺乏傳承和註釋，已經彷彿天書，無人能懂。
早在梁思成在美國哈佛大學讀建築學研究生的時候，梁啟超就將《營造法式》寄給他，希望兒子能破解它。然而要破解這部天書，就必須找到宋以前的建築，對照實物、尋找答案。因此，當梁思成和夫人建築學家、詩人林徽因回國後，便與營造學社的幾名成員一起，開始了在中國大地上的古建築考察。這在中國歷史上是破天荒的第一次。
１９３２年１０月，把事業當做自己生命的林徽因從家務中掙脫出來，和梁思成一道對北平郊區古建築進行考察。他們的第一個目標是京郊的臥佛寺。原來，作為一個遊客遊山的時候，林徽因較少注意到它的建築格局，現在卻從這熟悉的牌樓殿堂中看到了它獨特的建築。考察完畢，他們夫婦倆又合作完成了《平郊建築雜錄》一文，發表在《中國營造學社彙刊》１９３２年１１月第３卷第４期。她在這次考察報告《平郊建築雜錄》的開篇中寫道：
這些美的存在，在建築審美者的眼裡，都能引起特異的感覺，在「詩意」、「畫意」之外，還使人感到一種「建築意」的愉快。這也許是個狂妄的說法。
但是，什麼叫做「建築意」？我們可以從下面林徽因描寫自己的感受的文字中找出一個比較近理的含義或解釋來。
頑石會不會點頭，我們不敢有所爭辯，那問題怕要牽涉到物理學家，但經過大匠之手藝，年代之磋磨，有一些石頭的確會蘊含生氣的。天然的材料經人的聰明建造，再受時間的洗禮，成美術與歷史地理之和，使它不能不引起賞鑒者一種特殊的性靈的融會，神志的感觸，這話或者可以算是說得通。
無論哪一個巍峨的古城樓，或一角傾頹的殿基的靈魂裡，無形中都在訴說，乃至於歌唱，時間上漫不可信的變遷；由溫雅的兒女佳話，到流血成渠的殺戮。他們所給的「意」的確是「詩」與「畫」的。但是建築師要鄭重的聲明，那裡面還有超出這「詩」、「畫」以外的「意」的存在。
眼睛在接觸人的智力和生活所產生的一個結構，在光影可人中，和諧的輪廓，披著風露所賜予的層層生動的色彩；潛意識裡更有「眼看他起高樓，眼看他樓塌了」憑弔與興哀的感慨；偶然更發現一片，只要一片，極精緻的雕紋，一位不知名匠師的手筆，請問那時銳感，即不叫它做「建築意」，我們也得要臨時給它製造個同樣狂妄的名詞，是不？
從前面牌樓一直到後殿，都是建立在一條中軸線上。從遊廊向東西方向，再折而向北，其間雖有方丈客室和正殿的東西配殿，但一氣連接，直到最後面，又折而東西，回到後殿左右，這一周的廊，東西１９間，南北４０間，成一個大方形，中間雖立著天王殿和正殿，卻不像普通的廟殿，將全部寺院用「四合頭」式，前後分成幾進是少有的。
文章強調要「慧眼識珠」，要從眾多平庸的建築中尋找真正的藝術傑作，北平郊區的古建築非常多，但大多是明清時期的，真正遼元時期的很少，也就是說，真正具有歷史、藝術價值的並不是很多。因而，這要求他們必須做到「慧眼識珠」。在文中他們指出：臥佛寺的「平面佈置，在唐宋時代很是平常，敦煌壁畫裡的伽藍都是如此佈置。在日本各地也有飛烏平安時代這種的遺例。在北平一帶（別處如何未得詳究），卻只剩這一處唐式平面了。所以人人熟識的臥佛寺……值得遊人將來重加注意的」。
從臥佛寺出來，林徽因和梁思成一行人又驅車直奔香山之南的法海寺。法海寺在香山通八大處馬路的西邊不遠處，是一個很小的山寺。這座袖珍般的寺院，建在山坡上，寺門卻在一里多遠的山坡下，走路的人很少注意到山谷碎石堆裡的那座小建築物。
這座寺院建於明正統四年，為御用太監李童集資興建的。雖歷經修繕，仍具明代早期的建築特點。殿宇依山勢層迭而上，氣度軒昂。山門即護法金剛殿，寬三間，保存有明代前期的旋子彩畫。山門裡面的高台上，有天王殿的遺址和伽藍、祖師二堂。正中的大殿，面寬五間、黃瓦廡殿頂，金碧輝煌，掩映在蒼松翠柏之間。殿內有明代巨幅神像壁畫，栩栩如生，很為精湛。
林徽因卻意外地發現了這座寺院拱門的建築特色，她在《平郊建築雜錄》中寫道：
因為這寺門的形式是與尋常的極不相同：有圓拱門洞的城樓模樣，上邊卻頂著一座喇嘛式的塔——一個縮小的北海白塔。這奇特的形式，不是中國建築裡所常見。
這圓拱門洞是石砌的。東面門額上題著「敕賜法海禪寺」，旁邊陪著一行「順治十七年夏月吉日」的小字。西面額上題著三種文字，其中看得懂的中文是「奄巴得摩烏室尼渴華麻列（造字「口牛」）吒」，其他兩種或是滿蒙各佔其一個。
他們又驅車直奔香山之南的法海寺。法海寺門的特點，「主要的卻是它的式樣與原先的居庸關相類似。從前居庸關上有一座塔的，但因傾頹已久，無從考其形狀，不想在平部竟有這樣一個發現。雖然在《日下舊聞考》裡法海寺只佔了兩行不重要的位置，一句輕淡的『門上有小塔』，在研究居庸關原狀的立腳點看來，卻要算個重要的材料了」。
至於杏子口的「三座小龕，雖不能說是真正的建築遺物，也可以說是與建築有關的小品。不止詩意畫意都很充足，『建築意』更是豐富，實在值得停車一覽。至於走下山坡到原來的杏子口裡往上真真瞻仰這三龕本來莊嚴峻立的形勢，更是值得」。
由此可見，梁思成和林徽因有著豐富的建築史知識和獨到的審美眼光，能見人所未見，發人所未發。行文生動活潑，這篇考察報告，甚至可以稱作遊記散文。記述準確而又有條理，文筆活潑生動，妙趣橫生，讀起來絲毫沒有學究氣。
１９３３年９月，林徽因和梁思成、劉敦真、莫宗江等人前往大同考察古建築。幾年之前，他們就有前往大同考察的願望，因為那裡是南北朝佛教建築藝術的中心，有許多有價值的古建築，是研究古建築的學者必去之地。
他們乘坐一輛破舊的汽車，一路顛顛簸簸，好不容易才到達大同。下車後，又找不到一間乾淨的旅館安身。只好到梁思成在美國時的同學李景熙（大同火車站站長）家裡住宿。而一日三餐的飲食，則在一家酒樓吃一大碗湯麵（這還是向大同市當局求援得到的）。
他們著重對華嚴寺和善化寺作了測繪，並有可喜的發硯。如華嚴寺的大雄寶殿是在已知道的古代木建築中體形最為巨大的。薄伽教藏是公元１０３８年建成的佛經圖書館。又如善化寺三聖殿建成於公元１１２８到１１４３年，也有自己的特點。這些發現，都對遼金建築嬗變的研究有價值。對此，林徽因感到非常高興。她曾說：「回想在大同善化寺暮色裡面向著塑像瞠目結舌的情形，使我愉快得不願忘記那一剎那人生稀有的，由審美本能所觸發的銳感。」
考察完華嚴寺和善化寺後，林徽因、梁思成等人到雲岡考察石窟。雲岡石窟建造在綿延的峭壁上，在一個又一個的石窟裡，是一座座精美的佛像等石雕藝術品。它是「中國早期佛教史跡壯觀」，「更是後魏藝術之精華——中國美術史上一個極重要時期中難得的大宗實物遺證」。
但是多年來，對雲岡石窟的研究卻少之又少，直到近代才陸續有學者進行研究。例如日本人伊東忠太，我國著名歷史學家陳垣等，但他們的研究大都致力於考察雲岡石窟所受的外來影響，從純建築藝術角度進行研究的，林徽因和梁思成等則是開了首例。
當林徽因一行來到雲岡石窟時，面前的景像一片荒涼。周圍的山上光禿禿的，沒有樹，連草都很少。地裡的莊稼矮小而又雜亂，一片荒蕪的景象。看來，很少有人來這裡遊覽。果然，他們連住的旅館都沒有，只好在一家農戶的一間連門窗都沒有的屋子裡住了三天。當地氣候讓他們難以忍受。中午炎熱，晚上寒冷，吃的當然只能湊合，土豆和玉米麵糊糊已經是不錯了。
在這樣艱苦的環境下，他們每天不顧風吹日曬，爬到石窟前進行認真的測繪、考察，堅持將雲岡石窟的建築藝術作了系統的研究，而且很快寫出了論文《雲岡石窟中所表現的北魏建築》，發表在《中國營造學社彙刊》１９３３年１２月第３卷第３、４期上。
該文是一篇嚴謹的學術論文。作者以豐富的中外建築知識和中國歷史知識，運用比較研究的方法，以實事求是的科學態度對雲岡石窟作了三個方面的研究：一是石窟建造的年代、其佈置與構造；二是石窟中石刻上所表現的北魏建築物，如塔、柱、斗拱、屋頂等等；三是石窟中飛仙的雕刻以及上面的雕飾花紋的題材、樣式等。林徽因等人將雲岡石窟和敦煌石窟，以及希臘、日本的建築藝術作了比較，得出這樣的結論：
「雲岡石窟所表現的建築式樣，大部為中國固有的方式，並未受外來多少影響，不但如此，且使外來物同化於中國，塔即其例。……在結構根本原則及形式上，中國建築兩千多年來保持其獨立性，不曾被外來影響所動搖。所謂受印度、希臘影響者，實僅限於裝飾雕刻兩方面，在雕刻上只強烈地觸動了中國雕刻藝術的新創造。其精神、氣魄、格調，根本保持著中國固有的，而最後卻在裝飾花紋上，輸給中國以大量的新題材，新變化，新刻法，散佈流傳直至今日，的確是個值得注意的現象。」
林徽因和梁思成從日本學者的調查中得知，在應縣有一座１１世紀的寶塔，當地人稱作「應州塔」。為了在出發前確定這座塔到底還在不在，梁思成在沒有電話的情況下，想出一個好辦法。他寫信到「山西應縣最高等照相館」，弄到一張應縣木塔的照片。林徽因看到照片後說：「阿彌陀佛！虧思成傾心的不是什麼電影明星，要不，憑他的執著勁，全都能追得到。」有趣的是，這家照相館索要的酬金很特別，只是要一點北京的信紙和信箋，因為他們那兒沒有紙店。一座雲岡石窟他們整整看了三天，搞了許多素描和拓片。然後，他們又考察遼、金時代的巨剎華嚴寺和善化寺。這項工作結束以後，梁思成和莫宗江要去應縣考察木塔，林徽因和劉敦楨返回北平，整理資料。
１９３４年夏天，林徽因、梁思成繼去年９月雲岡石窟考察之後，又來到山西呂梁山區的汾陽。他們去了縣城東北霍山南麓考察廣勝寺。洪洞縣距廣勝寺約４０里，前２０里雖是平原，但地勢漸高，路懸谷中。林徽因抬頭望望，左右土崖遍是青苗，頭上一線藍天，烈日當空，心中實在乏味；後２０里漸漸斜坡，盤繞上下，直上高崗，再回頭看看低矮的農舍，又極富詩情畫意。快到廣勝寺時，又是一片平原，滿地石片，如同一道乾涸的河床，幾乎一棵茅草也不長，但氣象開朗宏闊，展現出北方風景粗獷的性格。
廣勝寺院建於東漢建和元年（公元１４７年），經唐、宋、元歷代重修，明清兩代又予以補葺，分上下兩寺和水神廟三處。他們從霍泉出發，進入廣勝下寺，這是一座很別緻的元代建築，前殿五開間，懸山式，殿內僅有兩根柱子，梁架施大爬梁，承形如人字柁架，構造奇特。梁思成大叫，歎為觀止。