پسرش ملکشاه را با وزیرش به سوى رومیان فرستاد.آنها به شهر مریم نشین حمله کرده و پس از ورود به شهر، به ویران کردن کلیساها پرداختند.از آنجا به سوى شهرها و قلعه ‏هاى دیگر رفته، مناطق زیادى را در حاشیه رود ارس به تصرف در آوردند. 

پس از آن، آلپ ارسلان به سوى اصفهان و سپس کرمان رفت که برادرش قاوردحاکم آن شهر، بر وى شوریده بود.قاورد سر سلسله سلجوقیان کرمان به شمار مى ‏آید.با رفتن وى، شورش مزبور آرام گرفت.آلپ ارسلان براى دو فرزندش، دخترى از قراخانیان ماوراء النهر و دخترى از امیر غزنه گرفت و به این وسیله در اتحاد این چند خاندان کوشید. کرمان بار دیگر در سال 459 شورید و آلپ ارسلان مجبور شد تا بار دیگر به این شهر یورش برد.از آن جا به فارس رفت و قلعه‏ هاى فتح ناشده‏ اى را گشود.به طور معمول، مبالغ هنگفتى دینار و درهم در این قلعه‏ ها نگهدارى مى‏ شد، که به تصرف در مى ‏آمد.در برابر، تصرف این قلعه‏ ها نیز که از سوى صاحبانشان با حکمت انتخاب شده بود، بسیار دشوار بود. 

گسترش قدرت سلجوقیان تا به آنجا رسید که مردم حلب، بدون آن که رنگ سپاه سلجوقى را ببینند، مصمم شدند تا نام خلیفه عباسى و آلپ ارسلان را در خطبه بیاورند.دلیل این مطلب آن بود که مردمان حلب، شیعه بودند و ترس آن داشتند تا با آمدن سپاه ترکان، آنها را به دلیل داشتن مذهب تشیع قتل عام کنند.اندکى پس از تصمیم مردم حلب و امیر آنها محمود بن صالح بن مرداس ـ از آل مرداس ـ ، آلپ ارسلان به سوى حلب آمد. 

امیر حلب با اظهار اطاعت، از حضور نزد سلطان خود دارى کرد، اما سلطان قصد آن داشت تا به زور وارد شهر شود، به ویژه که مسأله مهم براى او به عنوان یک سلطان مدافع تسنن، آن بود که مردم شیعه این شهر حى على خیر العمل در اذان مى ‏گویند.شهر محاصره شد و عاقبت محمود، شبانه خود را به سلطان رساند.آلپ ارسلان وى را بخشید و امارت شهر را به او واگذاشت .در عوض، مبالغ هنگفتى پول گرفت و بازگشت.این یکى از سیاست‏هاى اصولى او در سپردن شهرها به امیران شکست خورده همان شهرها بود. 

براى آلپ ارسلان مهم آن بود که اذان شیعى در جایى گفته نشود. به همین دلیل در سال 462 شریف مکه نزد وى آمد و به او بشارت داد که اکنون در مکه، خطبه به نام خلیفه عباسى است نه المستنصر فاطمى.به علاوه، اذان شیعى نمى ‏گویند! همین سبب شد تا از دست آلپ ارسلان هدایایى دریافت کند.شریف مکه در سال 467 بار دیگر خطبه به نام مستنصر فاطمى خواند. 

آلپ ارسلان در طول ده سال حکومت خود، در عین حال که سراسر آن را به رفتن به این سوى و آن سوى گذراند، کوشید تا پایه ‏هاى دولت خویش را استحکام بخشد. اوج شایستگی آلپ ارسلان در نبرد سرنوشت ساز «ملازگرد»(463ه.ق.)(1071میلادی)ظهور کرد که نبرد قشون بیست هزار نفری او در برابر لشکر یکصد هزار نفری امپراطوری روم شرقی بود. با وجودیکه آلپ ارسلان در برابر تصمیم امپراطور روم برای لشکرکشی به سمت آذربایجان،پیشنهاد صلح و ترک مخاصمه داد ولی امپراطور «رومانوس دیوجانوس» با برخوردی متکبرانه و سرد بیان کرد که،در«ری»(پایتخت سلجوقی)صلح خواهیم کرد.