ولد ونشأ في عائلة عرفت بالزهد، وقد درس منذ صغره العلوم الدينية واللغوية، وكان كثير التردد على مدينة القيروان وقد أدى فريضة الحج، حيث تتلمذ في مصر على بعض شيوخها مثل الأبهري. تفرغ للتدريس، وكان له دور في نشر المذهب المالكي حيث قام بتدريس كتاب رسالة ابن أبي زيد القيرواني أبرز مصادر الفقه المالكي. وإليه ينسب بناء ربض باب سويقة. وقد اكتسب مكانة جعلت أبا بكر الباقلاني يقول "إنه لو أدرك محرز بن خلف السلف لكان خامس الأربعة"، وقال أبو الحسن القابسي: "إن عمد الدين الذين يمسك الله بهم الأرض أربعة ومحرز بن خلف منهم". وهو ما يدل على المكانة التي بلغها في الأوساط الصوفية. وقد قال عنه محمد بن الخوجةإنه : "عماد البلد (أي تونس المدينة) وأهلها يسمونه سلطان المدينة والدنيا". وقد اكتسب مكانة خاصة لدى اليهود إذ سمح لهم بالسكنى داخل سور المدينة، وكان بذلك رمزا للتسامح [3]. ويعتبر ضريحه مزارا ومحورا لمدينة تونس. أما زاويته فلم تبن إلا في العهد الحفصيفي عهد أبي عمر عثمان.