Devlet hizmetindeki hayâtı, babası ile berâber Gazne Devletinin Horasan vâlisi Ebü’l-Fâzıl Es-Suri’nin hizmetinde bulunmakla başladı. 1040 yılındaki Dandanakan Savaşından bir süre sonra Alp Arslan’ın Belh vâlisi Ali bin Şadan’ın maiyetine girerek, vilâyet işlerinin yürütülmesiyle vazifelendirildi. Selçuklu Sultanı Tuğrul Beyin vefatı ile Alp Arslan ve kardeşi Süleyman Bey arasındaki taht mücâdelesi sırasında yerinde görüş ve tedbirleriyle dikkatleri çekti ve 1063 yılında Alp Arslan’ın yanında hizmete başladı. Alp Arslan Sultan olunca 1064 yılında Selçuklu Devletine vezir tâyin edildi. Zamânın halîfesi Kâim bi emrillah tarafından Nizâmülmülk ünvânı ile taltif edildi. Bu ünvânıyla tanındı.
Nizâmülmülk, vezir olduğu 1064’ten, şehit edildiği 1092 senesine kadar aralıksız yirmi dokuz sene Büyük Selçuklu Devletine, tam bir dirâyet ve adâletle hizmet etti. Vazifeli olduğu için katılamadığı Malazgirt Meydan Muhârebesi hâriç, bütün Selçuklu fütûhatında bulundu. Sultan Alp Arslan’ın vefâtıyla veliaht Melikşah’ın tahta geçmesini sağlayıp, nizam ve âsâyişin korunmasında muvaffak oldu. SultanMelikşah’a muhâlefet eden veya başkaldıran Selçuklu prenslerinin itâat altına alınmasında büyük hizmeti geçti. Sultan Melikşah, devletin idâresinde ona çok büyük ve geniş yetkiler verdi. Nizâmülmülk’ün akıllı, tedbirli ve adâletli idâresi sâyesinde de, Melikşâh’ın saltanatı, aynı zamanda Büyük Selçuklu Devletinin de en parlak ve en şanlı devri olmuştur.
Nizâmülmülk’ün Selçuklu Devletindeki bütün düzenleme ve değişiklikleri ciddî bir şekilde tetkik eden, devlet idâresinde kendi görüşlerini, icrâatını ve bunların gerekçelerini gelecek nesillere intikal ettirmek maksadıyla Fârisi olarak yazdığı Siyâsetnâme isimli eseri, bugün siyâset ilmiyle uğraşanların el kitapları arasında sayılmaktadır. Siyâsetnâme’de Türk-İslâm devletlerinin idârî, mâlî, siyâsî, askerî, sosyal ve kültürel yönlerini incelemektedir. Tam doğru metin ve ilâvesiz nüshası, İstanbul’da Süleymâniye Kütüphânesi,Molla Çelebi kısmında 114 numarada mevcuttur. Siyâsetnâme, birçok dillere tercüme edilerek, yayınlanmıştır.
Nizâmülmülk, âlim, edip ve kadirşinâs bir zât olduğu için meclisi; ilim ve sanat adamlarının toplandığı bir yer hâline gelirdi. Abbâsi halîfesi de kendisine pekçok hürmet eder, meclisinde bulunurdu. Âlimlere, şâirlere, sanatkârlara karşı çok ikrâm, ihsan ve iltifât ederdi. Birçok câmi, mescit, vakıf eserleri yaptırdı.
Büyük Selçuklu Devletine; idârî, adlî, askerî, mâlî, sosyal ve kültürel sâhada pekçok yenilikler ve değişiklikler getirdi. Sarayı, merkezî hükümet teşkilâtını, İslâm esaslarına dayalı mahkemeleri, toprak sistemini sağlam esaslar üzerine yeniden düzenledi. Gerçekleştirdiği yeni sistemler bâzı değişikliklerle berâber bütün Türk-İslâm devletlerince devam ettirildi.
Nizâmülmülk, zamânında yayılmaya ve kuvvetlenmeye çalışan bozuk fırkalara karşı, Ehl-i sünnet bilgilerinin sistemli bir şekilde öğretilmesi sağlandı. Bunun için Bağdat, Belh, Nişabur, Herat, İsfehan, Basra ve Musul gibi çeşitli şehirlerde, kendi ünvanı ile anılan Nizâmiye Medreselerini kurdurdu. Onuncu yüzyılda Ehl-i sünnete muhâlif cereyanların giderek yaygınlaşması sebebiyle İslâm dünyâsında ortaya çıkan karışıklıkların giderilmesinde Nizâmiye Medreselerinin çok büyük hizmeti geçti. Bu medreselerin en meşhurlarından birisi de, Bağdat’taki Nizâmiye Medresesi olup, asrın büyük âlimlerinden birisi olan Ebû İshak-ı Şîrâzî burada ders vermekle vazîfeli idi.
Büyük Selçuklu Devleti‘nin veziri ve Siyasetname adlı öğütler kitabı yazan Farsı devlet adamı, siyaset bilimcisidir. Devlet yönetiminde hayli etkili olan Nizamülmülk’ün vezirliği Alparslan ve Melikşah dönemlerinde yayılmıştır. İsmi Nizamülmülk yani, Mülkün Nizamı yani, Devletin Düzeni anlamına gelir.
Nizamülmülk, 21 Zılkade 408/10 Nisan 1018 yılında İran’ın, Horasan’da Tus şehrinde doğmuştur. Bu dönemde bu şehir Gazne Devleti idaresinde bulunmaktaydı. İlk devlet görevini Gazneliler sultanları için yapmıştır. Devlet işleriyle ilk olarak Gazne Devleti’nin Horasan valisinin yanında çalışarak başlayip 1059’da Gazneliler Horasan valisi olmuştur. 1063’den itibaren Selçuklular devletinde Alparslan’ın Belh valisinin yanında devam etti. 1064 yılında Büyük Selçuklu Devleti’ne vezir olarak atandı. Alp Arslan (hüküm süresi 1063-1072) ve Melikşah (hüküm süresi 1072-1092) hükümdarlık dönemlerinde bu önemli vezirlik görevinde bulunmuştur. Memleketin nizamlarının kurucusu anlamında olan Nizamülmülk ismi Abbası halifesi Kâim bi Emrillah tarafından verildi.
Bir rivayete göre; fakir ve kimsesiz bir kadın, vezir Nizamülmülk’en bir müşkilinin halledilmesi için yardım istemiş. Nizamülmülk de durup onunla konuşmaya başlamış. Bunun üzerine vezirin mabeyncilerinden biri o kadını Nizamülmülk’ün yanından uzaklaştırmak istemiş. Vezir, mabeyncisinin bu hareketini çok çirkin görmüş ve “Muhakkak ki ben sana bu gibilere yardım edesin diye vazife verdim” diyerek onu haciblikten uzaklaştırmış.
Sultan Melikşah’ın etrafındaki bazı hasetçiler vezir Nizamülmülk hakkında ileri geri konuşmuş, hatta “Sizin mülkünüzde ortak olduğunu söyler” demişlerdir. Sultan da Nizamülmülk’e “Eğer benim saltanatta şerikim, mülkümde ortağım isen bunun da bir hükmü vardır. Eğer vekilim ve benim emrinde ise onun icablarını yerine getir” demiştir. Nizamülmülk ise Sultan’a şu cevabı vermiştir: “Başındaki o sultanlık tacı bendeki divite bağlıdır. Bu ikisinin birlikte olması her şeyin dirliği ve saltanatının kıyamını temin eder. Bu divitin kapağını kapatırsam tacın kaybolur gider. Bir kapıyı kırmadan önce başına gelecekleri düşün.”
Nizâmülmülk’ün Selçuklu Devletindeki bütün düzenleme ve değişiklikleri ciddî bir şekilde tetkik eden, devlet idâresinde kendi görüşlerini, icrâatını ve bunların gerekçelerini gelecek nesillere intikal ettirmek maksadıyla Fârisi olarak yazdığı Siyâsetnâme isimli eseri, bugün siyâset ilmiyle uğraşanların el kitapları arasında sayılmaktadır. Siyâsetnâme’de Türk-İslâm devletlerinin idârî, mâlî, siyâsî, askerî, sosyal ve kültürel yönlerini incelemektedir. Tam doğru metin ve ilâvesiz nüshası, İstanbul’da Süleymâniye Kütüphânesi, Molla Çelebi kısmında 114 numarada mevcuttur. Siyâsetnâme, birçok dillere tercüme edilerek, yayınlanmıştır.