師道1935年初，胡適南下接受香港大學頒贈的名譽博士學位，他向校方提議，港大中文學院中國文學系的主任應由中國學者擔任，此人應畢業於英國大學，對中西文化有精深造詣，在學術界享有權威，而且還應是南方籍貫，諳閩粵方言。校方採納了這項建議，經胡適介紹，許地山於1935年秋受聘香港大學，主持中國文學教學。
許地山出任中文系教授後，港大學風劇變，孕育出一股新的學術氣象。許地山學貫中西，知識淵博，待人接物總是抱著一片和藹與真誠，永遠保持熱情，因而深得同仁的敬重與青年的愛戴。不少學生因許地山的到來獲益良多，著名史學家金應熙在《悼許地山師》一文中追憶：「先生卻是最恨敷衍了事的，他對每一課都認真預備。有幾次我到中文學院上課，比預定上課時間早，已經看見先生在教室認真預備，翻抄上課時需用的參考書籍了。在上課的時間，有時偶遇一兩個意義不明的詞，先生也從來不肯放過，總要找到解釋才休的。」
許地山以「五四」闖將的姿態與熱情，致力改革中文系，他把當時的「中文部」正式改為「中國文學系」，開辦文、史、哲、翻譯等課程，隨後又分設文學、史學、哲學三系，合組成中文學院。他還著手革新課程，充實內容，積極倡導新文學、新文化、新思想，倡導漢字簡化，改革八股文，力倡白話文，並把中文學院招生的作文全部改用白話。1941年7月，針對錢穆的《新時代與新學術》，他在《大公報》發表了《國粹與國學》一文，反對抱殘守缺，主張「一個民族的文化的高低是看那民族能產生多少有用的知識與人物，而不是歷史的久遠與經典的充斥」。
苦研1915年，許地山考進燕京大學，曾在文學院和神學院求學。在此後五年間，他成天出進於圖書館。
燕京大學圖書館藏書豐富，尤其是中外民俗學、宗教學圖書，許地山在圖書館讀了很多中國民間故事、傳說；因為兼通梵文，他通過比較作研討，發現其中不少乃自印度輾轉流入，若干年後，許地山就此翻譯了《孟加拉民族故事》；而在圖書館裡，他更多的是研讀各種佛經。1918年，寫給新婚妻子的小品《願》《香》等篇章，都分別用了佛經詞語和典故。燕京大學圖書館深化了他對圖書館的需求，此後每到一處，無論居住長短，許地山大半時間都用到了跑圖書館上。
五四運動以後，大學停課，很多學生逛嬉於遊樂場所，或無所事事，許地山卻成天在圖書館流連忘返。燕京圖書館藏書已不能滿足他的求知慾了，就到其他圖書館去。可以說北京城裡城外所有掛牌子的圖書館，他都跑遍了，他的同學日後回憶說：「北京的圖書館，沒他沒去過之處，一去就是一整天。他身上滿是書香。」因為博覽群書，知識面廣，許地山在燕京大學圖書館也就出了名，人們認定他是一個一點也不癡的真正的「書癡」。
1923年，許地山與梁實秋、謝冰心等同赴美國留學，他進紐約哥倫比亞大學研究院開讀宗教哲學。在大學僅一年，而大半時間卻都在圖書館度過。到寫作自傳體小說——《讀〈芝蘭與茉莉〉》，也是借用了圖書館若干藏書，並在圖書館的413號檢討室裡寫成的。在此期間，許地山還查閱、摘錄了圖書館收藏的歐美學者研究中國道學文化的著作和調查報告，準備寫《中國道教史》。後來在上海商務印書館1934年推出的這部書的扉頁上，許地山為感念當年圖書館提供的閱讀便利，還特地寫下「美國哥倫比亞圖書館」等字樣以紀之。
翌年9月，許地山轉入英國牛津大學曼斯菲爾學院研究印度宗教比較學和民俗學。牛津大學圖書館歷史悠久，藏書更為豐富，吸引著這個來自東方的學子深入寶山不願返。他在牛津大學兩年，日後回憶這段有益的圖書館生活，許地山頗有關山度若飛之感，還特地在自稱為「牛津書蟲」的文章裡稱：「牛津實在是學者的學國，我在此地，兩年的生活，盡用於波德林圖書館、印度學院、阿克蘭屋（社會人類學講室）及曼斯菲爾學院中，竟不覺歸期已近」。老捨後來追憶說：許地山只要在圖書館中坐下，就不用再希望他還能看看鐘錶。他到了圖書館，是永遠不記著時刻的。倫敦雖大，許地山行跡所在卻只是兩個點，那就是大英博物館皇家圖書館和學校圖書館。老捨說，在倫敦要找許地山很容易，「他獨自出去，不是到博物院，必是入圖書館，進去，他就忘了出來。有一次，在上午八九點鐘，我在東方學院圖書館樓上發現了他。到吃午飯的時候，我去喚他，他不動。一直到下午五點，他才出來，還是因為圖書館已到關門時間的緣故。找到了我，他不住地喊餓，是啊，他已餓了十個點鐘了」。
1926年，時在巴黎留學研究近代中國史的羅家倫，擬開創「中國近代史」課程，他寫信給許地山，請求幫助搜集中英鴉片戰爭時期的英國文書、檔案。許地山當即自牛津大學波德林圖書館查閱這些塵灰滿面的文字。他朝出夜歸整整花費了一個月時間整理、抄錄。由於這些原始檔案大多是缺頭斷尾，在抄錄過程中，許地山還作了必要的考證和註釋。他終於比較完整地搜集了1840年鴉片戰爭前後的中英交涉史料，寄交了羅家倫。
許地山在波德林圖書館搜集原始檔案，也引發了自己對鴉片戰爭題材的興趣。過去在國內見到的都是中國一方的文字，未及其他，易產生以偏概全的結論，而此正是治學大忌。因而許地山在波德林圖書館搜集檔案結束後，余意未了，又赴英國其他圖書館尋找，果然獲得更多的資料。當他回國前夕，竟抄錄、整理了厚厚一本的英國鴉片戰爭檔案文書。它就是1928年由上海商務印書館推出的《達忠集（鴉片戰爭前中英交涉史料）》。
1927年，許地山離英歸國。回燕京大學宗教學院任教。他的學識淵博，能開不少其他教師教不了的課，如《佛教文學》《佛教哲學》《道教哲學》和人類學、社會學等。即便如此，他仍習慣於以大量時間在圖書館讀書，按題搜集資料，其中很多選題是他人想像不到的，像搜集各種門神像等。有個時期他還熱衷在圖書館尋找傳統文化裡被人們鄙視的扶箕迷信種種樣式，後來竟然編了一冊《中國扶箕文化研究》，羅列了100多種迷信樣式，用以揭露、批判社會的陋習。
許地山1935年升任教授後，學院為他設置研究室。這間掛有「面壁齋」匾額的研究室，除了一面牆掛匾，三面牆都被連接天花板的書架遮住了。其中有兩隻書架上，還擺著學者自海外圖書館抄錄的梵文學習筆記和抄錄歐洲中古時代僧侶所寫的聖經以及其他稿本。當時，許地山想有條不紊地整理它們，以便完成八年前回國途經印度應泰戈爾建議，編出一部《梵文字典》的承諾。可是筆記整理完竣之後，他尋遍北平各大圖書館，發現藏梵文的中西書籍罕有，遑論涉及梵文的工具書了。由於資料的缺乏，這項有意義的研究隨1935年許地山赴香港大學任教而中斷了。
許地山在香港大學期間，仍醉心於出入圖書館抄書編書，大小學問都做。因為家裡飼養了幾隻貓，他大感興趣，就想到做貓的文字。他就此跑了多次圖書館，搜集中國和世界各地有關貓的神話、故事、人文與自然知識，寫了一篇近兩萬字的《貓乘》，他說：「作者一向愛貓，故此不憚其煩地寫了這一大篇給同愛的讀者。」