阿史那賀魯是在公元六百四十八年帶領部隊歸順唐朝的。當時,唐太宗曾經在長安(即今天的西安)皇宮的嘉壽殿裡大擺御宴,隆重地歡送他,並且還封他為左驍衛大將軍,擔任西城瑤池都督府的都督。又把他的部落妥善地安置在庭州莫賀城一帶,就是今天阜康以東的地區。但是,阿史那賀魯以怨報德,他看到唐太宗一死,就認為有機可乘,率領部落去攻打唐朝安西大都護府的所在地——龜茲。接著他又把部落帶到雙河一帶(今天的博爾塔拉附近),在那裡稱王稱汗,獨霸一方,對周圍的西突厥十姓部落進行壓服,強迫他們和唐朝對立。百姓部落對他的殘暴統治恨之入骨,就背地裡派人去請唐朝中央政府派兵平定阿史那賀魯的叛亂。
唐太宗的兒子唐高宗(李治)即位以後第二年(公元651年),派大將梁建方和契瑟何力來平定這次叛亂,由於配合失利,毫無效果。
到了公元六百五十五年五月,高宗又下詔任命程知節擔任蔥山道行軍大總管,二次出兵去平定阿史那賀魯叛亂。程知節就是隋唐野史小說裡所說的程咬金,這次出兵卓有成效。當時蘇定方以中郎將的身份率領一支軍隊進駐鷹娑川(今天焉耆北部的珠勒都斯河)。正當這個時候,大總管程知節和副大總管王文度率領的主力軍遭到叛軍的阻擊和包圍。於是蘇定方率領五百名騎兵從十里外翻山越嶺轉回來援救主力,經過一場奮戰,不僅解了圍,而且還轉敗為勝,繳獲戰馬兩千多匹。
副大總管王文度是個貪生怕死的人,經過這場驚嚇,再也不敢前進了。同時,他對蘇定方立了大功又非常嫉妒。極力對程知節說:「這次雖然打了勝仗,可軍隊的損傷也不小,是沒有什麼功勞可講的,就不必記功了。」接著他又提議,為了避免傷亡,最好是把軍需輜重放在安全的地方,以此保持現狀,不再進攻。他怕將士們不服氣,又冒稱奉了皇帝的秘密聖旨,讓他來節制軍隊。於是,他就下令,命將士們固守陣地,不許前進一步。
過了幾天,由於缺少糧草,弄得人困馬乏,士氣低落。蘇定方看到這種情況,就和大總管程知節說:「皇上派我們來平定叛亂,咱們老守在前線,這算怎麼回事?再說,皇帝既然讓你做主帥,又不給你領兵權,反而讓王文度來指揮,那有這種道理?依我看,這一定是王文度在搗鬼,應當把他逮捕起來,送回京師,交朝廷治罪。」程知節不聽,後來,軍隊實在住不下去了,才讓軍隊前進。
一路上,阿史那賀魯叛軍裡的士卒紛紛來投降,他們都控訴說是被阿史那賀魯強迫來當兵的,一聽說唐朝軍隊來了,他們就想法逃了出來。蘇定方一面派人安頓、撫慰他們,一面又向他們講明,叛變祖國是最可恥的,現在回來了,是好事。又勉勵他們應該立功贖罪。但是,王文度卻又起了歹心,他對蘇定方說;「這些人反覆無常,等我們一走,他們還會變心,不如統統殺了。把財產分掉。」蘇定方一聽,非常氣憤,他對王文度說:「按照你的主張去做,我們自己不變成強盜了嗎?又怎能平定叛亂呢?」隨後,蘇定方派人把這一情況向唐高宗報告了,唐高宗得信大為生氣。就下令要他們班師回朝。結果,程知節以逗留不進,嚴重失職被貶官。王文度居心不良,被問成死罪,後來從輕發落,削職為民。蘇定方以能夠安撫邊民,被任命為伊犁道行軍大總管。
公元六百五十七年,唐高宗又發大兵,分南北兩路討伐阿史那賀魯。當時,伊犁道行軍大總管蘇定方,就是北路大軍的總指揮。蘇定方作了主帥以後,更是虛懷若谷和藹可親。他平等對待各族將士,和副將任雅相,少數民族大將回紇人婆閏相處也非常好。因此,他的這支軍隊所向披靡。
他率領軍隊從金山(即阿爾泰山)南下以來,一路招降了突厥的葛羅祿,處木昆、突騎施各部落的眾多部卒,經過好言勸慰,解除了他們的顧慮。好多人都志願從軍,跟隨蘇定方一起,去平定阿史那賀魯的叛亂。特別是各部落的首領,看到蘇定方對他們十分信任,都很感激,一路上很少戰鬥。
大軍順利地推進到曳奎河以西,曳奎河就是今天伊犁地區的鞏乃斯河。當時,阿史那賀魯以十萬之眾來抵擋蘇定方的一萬人馬。他欺負蘇定方人少,就層層包圍起來,企圖一舉消滅,連連三次發動進攻,都被蘇定方率軍挫敗。等阿史那賀魯的軍隊精疲力盡的時候,蘇定方就下令反攻,把叛軍打得大敗而逃,一口氣追出三十多里,獲得全勝。在阿史那賀魯控制下的五弩失畢部落和五咄陸部落,聽說阿史那賀魯失敗,都紛紛投奔蘇定方的軍隊。;