2004年，作家羅納德·洛奇在《高等教育黑人雜誌》中撰文對奧巴馬進行了報道，標題叫做「奧巴馬的崛起」。當羅納德採訪巴拉克時曾經問道：現在他選擇了從政，並將一個以黑人為主的郊區社區作為自己的政治鋪墊，那麼他認為自己做社區組織工作的經歷對於做出這個從政選擇究竟會有多大的影響。巴拉克回答說：「我成為一個社區組織者是我大學期間學習和工作經歷的直接結果，因為我受民權運動的影響很大……我覺得回到芝加哥可以讓我充分挖掘自己的潛力。我把這種經歷看作是大學教育的繼續，因為我在課本上學習到的知識我都會試著去付諸實踐。雖然實踐起來並非像我想像的那麼容易，但卻堅定了我的信念，那就是必須幫助廣大民眾把握自己的命運。而且我在從事社區組織工作的那幾年中所形成的價值觀念一直指導著我日後的工作。」然後當作家又問到在大學法學院當教授的經歷對自己從政又有什麼影響的時候，巴拉克說：「要想做一位稱職的法學院教授，必須有能表達出辯論雙方觀點的能力。教學過程中，我一直在鍛煉自己要看到問題的所有方面，還要盡可能表達出各方的觀點。這會讓我懷疑自己的自我臆測，還能使我更容易與那些和我意見不一致的人們產生共鳴。」
當巴拉克這個民主黨人當選為參議員時，當時的國會還在共和黨人的控制之下。大家都知道巴拉克是個有著自由主義思想的民主黨人。不久後他在自己出的書中寫到，他將國家政治理解為「一項有著激烈身體對抗的運動，運動員們對於猛烈的肘擊或是不時的暗拳都不以為意。」伊利諾伊州斯普林菲爾德的說客，也是前眾議員的保羅·威廉姆斯評價巴拉克說，他是「抱著一番做實事的想法踏入政壇的」，而且將巴拉克的態度概括為：「不錯，很有道理，聽起來也很棒。就好像說我的目標是登上月球，但目前我的燃料只夠我走這麼遠。」
作為一位州參議員，巴拉克服務於議會的公共健康與福利委員會和司法與地方政府委員會。雖然他還只有三十多歲，卻已經成為了一個風格鮮明的領導者。他做事井井有條、考慮全面並且講究實效。當他與共和黨人一起工作時，他的作用也不可忽視，因為他要參與制定兩黨共同的立法和醫療改革措施。他還致力於改變伊利諾伊州的「種族臉譜化」現象，以讓死刑的判決更加公正。來自共和黨的州議員科克·迪勒德說：「當你剛來到議會，尤其當你還是個新手的時候，致力於道德改革方面的工作未必會讓伊利諾伊州議會的元老們對你有好感。而處理『種族臉譜化』問題的工作也是極富爭議的，但巴拉克的工作方法不僅讓人佩服，還會避免引起人們的非議。」伊利諾伊州政治改革運動負責人辛迪亞·凱娜麗這樣評價巴拉克：「他並不是個自行其是的人。如果他想表明自己的觀點，他會事先徵求其他議員們的意見。只顧大聲嚷嚷引起大家的注意可不是他的風格。」此外，巴拉克的工作還包括處理與婦女生育權、槍支管制以及禁止攻擊性武器等有關的議題。
當巴拉克還在斯普林菲爾德的時候，他每天都加班加點地工作，專心處理每天的事務。在他擔任參議員的前兩年，就自己單獨提出或與別人共同提出了56項議案，其中14項已經成為法律。他還致力於進行金融和道德立法的活動、推動對犯罪受害者進行經濟補償的措施以及改革一項禁止對持槍重罪犯緩刑的法律。到了第三年，他向議會提交的議案更多，大概接近60項，議會通過了其中的11項並立法。巴拉克在議會的工作如此出色，很大程度上與他能夠與共和黨人進行愉快合作的能力有關。在議會工作的那些年，巴拉克說服了很多共和黨人與他一起發起新的活動，並且能夠得到他們的支持。巴拉克談起自己那幾年的工作時說，他在斯普林菲爾德能夠做到的最重要的事就是使每件事的利益各方都參與進來，進行公開討論，讓每一方都能充分表達自己的意見。他說，這種能力還是他在做社區組織者工作的時候鍛煉出來的，那時候他要學著怎樣才能把問題解決。
就像他的同事們一樣，巴拉克也喜歡打高爾夫，打籃球，參加很多聚會活動。大家也都知道他每週都會和議員、說客們一起打撲克。他的一個同事，州議員拉裡·華爾士評價他酷愛競爭，也很謹慎，讓人很難捉摸。他說：「有一天我們一起玩撲克……我的手氣很好，但還是輸給了巴拉克。我氣的把牌一把摔在了桌子上說『真該死！巴拉克，如果你玩牌的時候再隨意點兒，工作的時候再保守點兒，我們的關係肯定會好得多！』」
他剛來到州議院的時候，民主黨人在其中還是少數，但他已經雄心勃勃地開始著手解決最有難度的工作。他支持對競選法進行大規模的改革，包括限制捐贈競選經費的金額。根據南伊利諾伊大學公共政策研究所主任的說法，巴拉克與反對黨成員的合作能力以及他對於競選財政改革的堅定想法都讓人印象十分深刻。他還注意到巴拉克總是願意讓自己意識到達到自己的每個目標是不可能的。
五年後，巴拉克提出一項新的議案，要求對罪犯的審判過程進行強制性錄音。這一議案遭到了檢察官、警察機關和州長的一致反對，但巴拉克堅持說不能讓無辜的被告成為死刑犯，也不能讓有罪的被告逃脫法律的制裁。最終，這項議案在伊利諾伊州議院得到全票通過。當州長在這個問題上改變了自己的立場時，伊利諾伊州成為美國第一個明文規定要對審判過程進行錄音的州。州議院司法委員會的共和黨主席卡爾·豪金森說，只有你給巴拉克提的建議是合理的，他才會採納你的建議，而且他總是很有耐心地聽取別人的意見。這位主席總是樂於從專業的和法律的角度來陳述自己的觀點，他還注意到巴拉克在州議院發言時的觀點總是有理有據，信心十足，所以他喜歡說「大家都知道……」這句話，不管別人是否會同意他的觀點。
巴拉克在參與立法和司法工作時總是盡職盡責，但他還是把家庭放在第一位。1999年，他曾經錯失了一次重要的在議院參與有關「槍支管制」議案的投票機會。當時，他和家人去了夏威夷陪外祖母過聖誕節。18個月大的女兒瑪莉婭生病了不能坐飛機，所以巴拉克沒能趕回來。後來，這項議案的反對者以微弱的優勢將其挫敗。雖然巴拉克的那一票也不會對這個結果產生什麼影響，但他後來決定為聯邦眾議院席位挑戰芝加哥著名的民主黨人波比·拉什時沒能成功，這錯失的一次投票機會也是其中的一個原因。
競選聯邦眾議員
從他踏入伊利諾伊州議院的那一天起，巴拉克就一直十分引人矚目。州議會的少數黨領袖埃米爾·瓊斯就一直很關心巴拉克的工作，還專門派了他的一個助手去幫助巴拉克制定策略和政策。1999年，巴拉克決定開始競選聯邦眾議員。他想要晉陞的想法已經有兩年了，而且他相信自己已經做好了挑戰已連任四屆眾議員的波比·拉什的準備。眾議員拉什以前是美國黑豹黨的一員，在芝加哥南部也是很著名的一個社區活動家。雖然巴拉克對這次競選抱有很高的期望，但結果其實已經顯而易見。波比·拉什抨擊巴拉克，說他雖然是哈佛大學的畢業生，但也只不過是一個高學歷的書獃子。
當巴拉克還在思考怎樣針對自己的教育背景做出回應時，有人提出巴拉克不是一個「真正的」黑人，這也是巴拉克第一次面對這種問題。拉什還說巴拉克「來到第一選區的時間太短，還沒有真正瞭解這一地區的情況」，讓南部社區的選民們意識到「種族認可」的因素。最終，拉什以二比一的優勢贏得了選舉，打敗了巴拉克。巴拉克說，這次競選眾議員慘遭失敗，就好像被人扇了一耳光。為了參加這次競選，巴拉克從銀行以個人名義貸款9500美元。競選結束後，他發現自己已經身無分文，而且還要面對聯邦選舉委員會關於他競選經費的提問。後來，他還向自己的競選委員會提供了11100美元，用以償還那些為自己提供了過多捐贈經費的人。最終他花了兩年時間才還清所有的貸款。
越挫越勇：挑戰聯邦參議員
有了這次競選失敗的慘痛教訓，巴拉克回到芝加哥大學繼續講課，同時依舊在斯普林菲爾德擔任州參議員。但不久後，他又開始為了自己的政治生涯奔波，開始與同事們討論如何競選聯邦參議員。但決定競選之前，他要先說服自己的妻子米歇爾。她的意見和支持對於巴拉克來說至關重要，這是另外一場堅苦卓絕的鬥爭。
2002年，巴拉克向朋友們宣佈他計劃競選聯邦參議員。但參加競選的第一個問題是他怎樣才能湊齊參選要求的百萬美元競選經費，尤其是在他費了很大勁才還清上次競選的債務之後。根據2003年9月15日出版的《克雷恩芝加哥商報》報道說，當巴拉克將要參加聯邦參議員的競選時，毫無疑問他「有著一位優秀民主黨候選人所具備的所有素質：天資過人、能言善辯而且要求進步，在芝加哥地區的非裔美國選民中間有著良好的群眾基礎。」然而，即便如此，競選資金的問題還是無法解決——巴拉克到底能不能籌得足夠的競選經費，來與另外幾個資金實力雄厚而且知名度更高的候選人一起競爭呢？在競選州參議員時，他從來不必為了競選動輒斥資十萬美元以上。因為是他推動了州議院25年來第一次通過了削減競選經費的議案，並且這一議案要求候選人避免與說客們共進晚餐，拒絕接受來自賭博業和煙草業的捐贈經費。