他在家電公司當副經理的時候，曾經被派到德國去考察，當地一家冰箱公司利勃海爾（Liebherr）有意願向中國輸出製造技術和設備合同，張瑞敏抓住這件事不放，向青島市和北京的輕工部再三要求，終於被允許引進利勃海爾的技術，成為輕工部確定的最後一個定點生產廠。轉產和引進技術的決定對這家資不抵債的小工廠的意義將很快呈現出來，它後來一次次更名，最後定名為「海爾」，都可以從這裡找到衍變的痕跡。張瑞敏作為偉大企業家的魅力將在下一年散發出來，某日，有個朋友到張瑞敏那裡買台冰箱，但挑了很多台都存在著這樣那樣的毛病。
朋友走後，張瑞敏把庫房裡的400多台冰箱全部檢查了一遍，結果發現有76台冰箱都不同程度存在問題。面對這種情況，有人提議把這些冰箱以低價格處理給職工。把殘次品低價格處理是很多生產廠家都採用的「好辦法」，都認為這樣既有益職工又有利企業。但張瑞敏不這麼認為。他一聲令下，76台冰箱被砸成了廢鐵。當時，一台冰箱的價格是800多元，相當於一個職工兩年的工資，很多職工砸冰箱時都心疼地留下了眼淚。「張瑞敏砸冰箱」成為這家日後中國最大的家電公司的第一個傳奇，它跟幾年前魯冠球把40多萬元的次品當廢品賣掉的故事如出一轍，表明了出現於商品短缺時期的第一代企業家的自我蛻變正是從質量意識的覺醒開始的。
1984年的中關村開始初顯繁榮景象。在上一年，新創刊的《經濟日報》對陳春先進行了連續的報道，他被塑造成一個勇敢的「弄潮兒」，他的實踐證明走出實驗室的科技人員將大有作為。於是，在這種聲音的鼓動下，一批批的科技人員跳進了商品經濟的大海。在此前的一年，科海、京海等公司已經相繼出現，而到第二年，四通、信通和聯想等公司又先後建立。冬天，柳傳志決定告別每天讀報的清閒如水的生活。他出身書香門第，外祖父當過軍閥孫傳芳的財政部長，父親是共產黨最早的金融家之一。這一年，柳傳志剛好40歲，對於這位外表文雅內心卻十分躁動的上海人來說，他深深知道「四十而立」對一個中國男人意味著什麼。少年柳傳志的理想是當一名空軍飛行員，在中學畢業後，他充滿信心地報考空校卻最終落選，這成為他人生中的第一次挫敗。後來，他考進西安一所軍事電子工程學院，讀的學科是雷達。畢業後，他輾轉半個中國，甚至在廣東一個農場種過水稻，在1970年，他被分配到了中國科學院計算所。
計算所是當時最權威的計算機研究專業機構，中國發射的原子彈和人造衛星所需要的計算機均由這個研究所參與研製。在這個擁有1500名研究人員的科研機構裡，柳傳志一直默默無聞，跟他的很多同事相比，他缺少科學家的天賦和沉靜心。他的職務是磁記錄技術工程師，事實上他對此毫無興趣。當年進入該所，完全是為了找到一個機會攜妻牽女回到父母身邊。在這個計算所工作的14年裡，他始終對科學研究提不起興趣來，倒是對中國每天正在發生的一切充滿了興趣，他常常和幾個要好的同事躲在一個空房子裡討論林彪的墜機事件、「四人幫」的猖獗、毛澤東為什麼要選擇華國鋒當接班人等等，跟沉悶的計算機相比，這些政治話題才能讓他滿臉通紅，激動不已。1984年的中國科學院正處在膨脹和轉型的邊緣，在過去的幾年裡，各種名目的研究所層出不窮，已達到123個之多，而所開展的各項研究卻似乎離國際水平越來越遠。
計算所舉全所之力，花了八年時間研製的大型計算機「757工程」宣告完成了，並獲得中科院「重大科技成果一等獎」，但是它擁有的每秒千萬次的運算速度與國際水準相比已令人汗顏，而其以軍事為目標的研究思路更是得不到市場的響應。它從誕生的第一天起就成為了「棄兒」。「757工程」的尷尬命運讓計算所走到了原有發展路徑的盡頭，來自軍事部門的研究計劃停止後，再也沒有任何資金從上面撥下來了，何去何從的問號擺在這家吃慣了行政撥款的清高的科研所面前。於是在這一年，所長，也是中國第一代自己培養的計算機專家曾茂朝帶頭組建了一家信通計算機公司，由另外一位所領導、科技處處長王樹和發起，則成立了新技術發展公司，一直鬱鬱不得志的柳傳志被選中擔任主管日常經營工作的副經理。在計算所裡，他的學術才能從來沒有顯現出來，但是他的管理才幹卻得到了同事們的認可，對於經營工作，中國的科技人員從來缺乏自信和熱情，柳傳志卻正好相反。在上任前，中科院副院長周光召找柳傳志談話，問他對公司有什麼打算，他信誓旦旦地說：「將來我們要成為一家年產值200萬元的大公司。」柳傳志的這間公司誕生在一間20平方米、分成裡外間的小平房裡，這裡原來是計算所的傳達室。很多年後，在中國，它常常與惠普的那個著名的斯坦福車庫一起被相提並論。柳傳志後來回憶說，「它的位置在計算所西大門的東邊，房子是磚頭砌起來的，外面是深灰色的，裡面被隔成兩間，水泥地面，石灰牆壁，房子裡沒有寫字檯也沒有電腦。外屋有兩個長條凳，沿牆角一字排開，裡屋有兩張三屜桌，桌子條凳都不用花錢買，是人家不要的破東西。」全公司有11個人，全數超過了40歲，唯一的技術專家是另一個副經理張祖祥。當柳傳志下海的時候，中關村已經有40家科技企業，並在北京城裡擁有了「電子一條街」的名聲。在當時的中關村，最出名的是陳春先，而最知名的公司是「兩通兩海」，信通、四通、京海、科海，它們的創辦人無一例外都是中科院的科研人員。在知識分子成堆的中關村，這是一群個性張揚的另類，京海的創建人王洪德是計算所的工程師，在給中科院的報告中，他毅然決然地寫道：「無論什麼方式，調走，聘請走，辭職走，開除走，只要能出去，都行。」而創辦了四通公司的萬潤南，則到處張揚自己是「民辦企業」和「無上級主管」。跟這些創業者相比，那時還寂寂無名的柳傳志則顯得要低調得多，善於借力和妥協的個性讓他比其他的人都要走得遠。從一開始，柳傳志就沒有完全割斷公司與計算所之間的「母子關係」，他不但不想那麼做，甚至在很多時候更希望強化這種若即若離的血緣。當時，公司的啟動資金是計算所撥給的20萬元，聯想的資產性質是「國有企業」，王樹和、柳傳志等人的任命都要獲得中國科學院的批准，公司的員工可以在計算所內繼續享有在專業技術職務和工資方面晉級的權利，公司可以無償使用計算所的研究成果，甚至可以使用所內的辦公室、電話及所有資源。在將近十年的時間裡，公司從銀行貸款，全部以中科院計算所為「合同的申請借款單位」，又以中科院開發局為「擔保單位」，這自然解決了早期的資金來源問題。在充分享受了國有資源的同時，柳傳志則在財務、人事和經營決策的權力上，享有相當的自主權。這是一種十分混雜的狀態，似乎沒有人想把它理清楚，只有當聯想日後逐漸壯大之後，它的資產歸屬才變得敏感了起來。
從本質上來說，這是一個臍帶連著母體的新嬰兒。在公司創辦的頭幾個月裡，柳傳志並沒有顯現出他後來那種運籌帷幄的領導才能，背靠著中國最權威的計算機研究機構，他卻找不到一個可運作的項目，每天他騎著自行車在北京城裡像沒頭蒼蠅一樣地亂闖。他先是在計算所的大門旁邊擺攤兜售電子錶和旱冰鞋，然後又批發過運動褲衩和電冰箱。如果說三年前陳春先辦起中關村第一家公司時，還心懷打造「中國硅谷」的理想，那麼，此時的柳傳志滿腦門在想的卻是如何賺錢養活公司裡的十幾號人。有一回，他聽說江西有個女人手上有大批的彩電，只要購進一倒手每台可以賺上1000元，便急忙派人匯款過去，誰知道那竟是一個騙局，計算所撥給他的20萬元開辦費，一下子就被騙走了14萬元。跟20多年前報考空校落榜相比，柳傳志這一次的挫敗感更為切膚，要知道那時候，計算所的高級教授月工資不到200元，柳傳志的工資則只有105元。柳傳志早期的倒爺生涯就這樣黯然地落幕了。公司真正賺到的第一筆「大錢」，來自每天被柳傳志們抱怨和不滿的中國科學院。
1985年初，中科院購買了500台IBM計算機，其中的驗收、維修和培訓業務交給了公司，從而帶來70萬元的服務費。也正是通過這個業務，柳傳志跟剛剛成立的IBM公司中國代表處搭上了線，成為後者在中國的主要代理公司，為IBM做銷售代理成為日後聯想公司最重要的利潤來源，這一淵源可以一直延續到20年後聯想以16億美元收購IBM的PC事業部。對柳傳志來說，另一個最重要的成果是，他說服了中科院出名的計算機專家倪光南加盟他的公司，擔任總工程師的職務，這是在1985年的春天。倪光南是中國漢字信息處理的開路者，跟熱情外向的柳傳志不同，他性情專注，不修邊幅，擁有科學家的天賦，《聯想為什麼》的作者陳惠湘描述說，柳在和人聊天的時候總是海闊天空，而倪則喜歡用技術性很強的難題來考問對方。80年代以來，個人計算機的市場已經日漸甦醒，IBM的計算機如潮水一樣湧了進來，一台比286型還要低檔的「PC/XT」機型進入中國的口岸價就達兩萬元，而到中關村一倒手就要四萬元，而這些昂貴的計算機又無法識別漢字和操作中文系統，於是，開發適合中國市場的「漢字系統」便成了當務之急的科研項目。
當時，國內已經有很多人在從事這一研發，包括後來到深圳搞得風生雲起的史玉柱等人，這些「漢字系統」（它又被形象地通稱為「漢卡」）的原理和運作過程大同小異，而倪光南的與眾不同之處是，他發明了「聯想功能」，倪氏漢卡利用中國文字中詞組和同音字的特性，建立起自己的漢字識別體系，與其他漢卡技術相比，它把兩字詞組的重複率降低50%，三字詞組降低98%，四字以上的詞組幾乎沒有重複，這對於計算機的漢字輸入技術來說，無疑是一個劃時代的進步。
1985年初，倪光南已經完成了這項技術的所有研究，並將之命名為「聯想式漢字系統」。柳傳志也正是聽說了這個消息，才迫不及待地找上了倪光南。在當時，中科院的另一家名聲更大的公司信通也瞄上了倪光南，不過，最終還是被柳傳志捷足先登了。柳說服倪的理由只有一條：「我保證把你的一切研究成果都變成產品。」對於一位充滿濟世情懷的中國科學家來說，這大概是最直指內心的一個誘惑了。倪光南的加盟徹底改變了公司的航向，他的聯想I型漢卡當年就銷售了300萬元，「聯想」最終還成為了這家公司的新的名稱。需要留存的一個事實是，倪光南的研究成果從實質上來說是屬於中科院的，它被柳傳志以零的價格轉移到了自己的公司中。