做一流的研究院！做有影響力的研究院！這是一個宏大的理想，還是堂吉訶德式的幻想？整整兩年，全力以赴的拚搏成了我們的主旋律。
研究院的目標是作基礎研究。基礎研究就是研發一些現在不可能成為主流的成果，我們期望它們在5到10年之後成為主流。這並不是一個很長的時間。
作為研究院負責人，我的第一任務就是擬定研究方向。當時，我們可以看到幾個用戶可能碰到的巨大問題：比如如何在多媒體（視頻、3D）崛起時處理帶寬供不應求的問題；如何在互聯網無序信息爆炸時讓無序信息變得有序；如何讓中國用戶用更自然的方式使用電腦。針對這些問題，我們開啟了六個團隊：
網絡多媒體組——張亞勤的組開始進行最新的網絡壓縮研究，希望將多媒體信息的索取變得更為便捷、快捷、經濟。
多媒體計算組——張宏江的組開始做多媒體的有序化，比如說從照片中找人臉，把照片自動分類，從視頻中判斷視頻的內容。
形象計算組——沈向洋的組開始研究電腦中的「虛擬3D」，研究如何把計算機視覺、圖形學與數字視頻相結合，以實現「互動式多媒體」。
多通道用戶界面組——王堅的組開始設計各種新用戶界面，從新的拼音輸入到新的數字筆。
自然語言組——黃昌寧的組開始做自然語言理解的工作，來讓電腦能夠教用戶英語，糾正錯誤的語法，建立強大的數據庫和統計語言模型。
音字技術組——我自己帶領一個團隊做語音識別和語音合成，並且把這些技術轉移到手寫體輸入和拼音輸入裡面，幫助輸入困難的中國用戶增加效率。
除此之外，凌小寧的軟件開發組和陳宏剛的高校關係組也成功地招兵買馬，小有規模。
這個時候，研究院的人員已經到位，但是如何讓中國的研究院成為亞洲第一？如何在微軟美國和英國的研究院的「巨大規模」下證實自己？在微軟中國研究院成立之初，我們就知道，單憑實現夢想的蠻力，根本無法達到全球領先的遠大目標。
美國研究院有計算機界很多著名的大師，而我們這六位項目帶頭人在學術界的名聲，遠遠不及這幾位真正的大師。除了項目的質量，美國研究院的項目數量也遠遠超過我們，他們有30多個項目，300多名研究員，我們只有6個項目，20多個剛畢業的學生。無論怎麼衡量，我們連他們的「小弟弟」都算不上。
因此，我們不可能靠論文取勝，也不可能靠人數取勝，我們一定要有特色。我和我的團隊經過反覆商量，得出結論：我們要做一個更「有用的」研究院，做一個更像「兵團」的研究院。
「最重要的不是創新，而是有用的創新。」失敗的蘋果語音識別、SGI三維瀏覽器都還歷歷在目。不能為了酷，為了前無古人，為了發表論文而作研究，一定要定位在有用的研究上。
微軟的首席技術官奈森·梅爾沃德曾經說：「微軟研究院所進行的理論性研究可能在10年後才能有結果，有些有可能100年才出結果。如果我們不冒這個風險，我們可能一無所有。如果我們的項目都成功了，那我們反而失敗了，因為我們冒的風險不夠。」他這句話就是微軟的美國和英國研究院定位的基礎。
我們要做的不一樣。雖然微軟中國研究院也是要做基礎研究，但是我認為，基礎研究的目的依然不是單純地寫出一些論文或專利，最終的目的還是要讓上億人享受到你的成果。這才是研究院人員的最大成就感。我們要做更實際，更有近期產品潛力，更能被用戶理解、被產品部門接受的研究。我們的目標不放在10年，而放在3∼5年。
實際上，我們和微軟美國研究院不同的地方就是：我們做一個項目的時候，應該清楚，如果做成功了，這有什麼應用，對用戶有什麼好處？我們評價項目的時候，不僅僅評價「這有多新？」也要評價「這有沒有用？能否給用戶帶來巨大的價值？」
所謂兵團，就是針對大部分研究院的問題所使用的一種帶領隊伍的方法。在微軟的美國和英國研究院裡，我們發現，儘管每個人都非常出名，但是整個研究院都處於一種散兵游勇的狀態。研究員之間的關係不夠緊密，儘管每個研究員都被充分放權，但是大家都認為自己是大師，應該擁有自己的研究方向。所以，有些組裡有各種不同的研究，每個成員的看法都不一樣，項目之間的重複、衝突都不小，誰都不願意聽誰的。另外，沒有人願意做枯燥的技術轉移工作，往往寫完論文後技術就擱下來了。
我希望改變這種狀態。在微軟中國研究院，我們要放棄各自為政，要兵團作戰。這個兵團有六個將軍，他們參考大家的意見然後擬定「有用的項目」。一旦擬定，大家就全力以赴地投入戰鬥。因為我們有很好的團隊合作文化，每個團隊的副研究員都很「服」他們的司令，而且每個人都知道只是一個獨特的機會，無論對個人還是對中國，所以他們不懼辛苦，也願意下一番苦功夫。
現在回想起來，在微軟中國研究院的前兩年，大家確實是在用一種拼的精神去對待工作。一批世界一流的科學家，帶領一批聰明、拚命的年輕人，形成一個研究兵團，他們創造了奇跡，結出了碩果。