נולד בירושלים בשנת תש"ו (1946) לאביו ר' ישראל גרוסמן, ראש ישיבה, רב ודיין בירושלים. את חינוכו קיבל בישיבות פינסק וקרלין בירושלים ובישיבת סלובודקה בבני ברק. בשנת 1966 הוסמך לרבנות על ידי הרבנים הראשיים, הרב אונטרמן והרב ניסים, ועל ידי הרב ז'ולטי, רבה הראשי של ירושלים.
אופיו המיוחד של הרב גרוסמן ואהבת ישראל שהייתה נטועה בו הביאוהו להתמסר לקירוב לבבות ולחינוך נוער ובמיוחד עסק בשיקום משפחות ובעזרה בחינוך ילדים בשכונות המצוקה בירושלים.
בשנת 1968 עבר להתגורר במגדל העמק. בעקבות פעילותו בדיסקוטקים ובמועדונים שבהם החל להפיח תקווה וחיים בקרב בני הנוער שהידרדרו לפשע ולסמים, זכה לכינוי "רב הדיסקוטקים". כמו כן הקים מערך שיקום בתוך בתי הסוהר באיזור. בשנת 1970 הוכתר הרב גרוסמן לרבה הראשי של מגדל העמק. תושבי העיירה פונים לרב גרוסמן בבעיות קטנות וגדולות אף כאלה שאינן בתחום עיסוקו של רב עיר.
בשנת 1970 ייסד הרב גרוסמן במגדל העמק את רשת מוסדות החינוך "מגדל אור" שהתפתחו לקריה גדולה. הקריה כוללת מעונות יום, גני ילדים, בתי ספר יסודיים ועל יסודיים, ישיבות, אולפנות ומדרשות לעולים חדשים, בתי ספר מקצועיים ופנימיות. לתלמידיו הוא בבחינת אב הדואג לכל מחסורם ואף משיא אותם תוך דאגה לצורכי החופה, הכיבוד והמלבושים. המטבח המרכזי של מוסדות "מגדל אור" המכין מדי יום למעלה מ-10,000 מנות מספק גם ארוחות לנזקקי מגדל העמק כשלרבים מהם מובאת הארוחה לביתם כדי שלא לביישם. בשנות התשעים נחלץ הרב גרוסמן לקליטה של העולים מארצות חבר העמים והקים רשת מיוחדת לילדי העולים החדשים.
מתוך אמונה במאמר חז"ל "יפה תורה עם דרך ארץ" זוכים התלמידים במוסדות של הרב גרוסמן לחינוך תורני מעמיק ולהשכלה כללית רחבה וכמו כן להכשרה מקצועית בתחומים רבים ומגוונים. הבוגרים של מוסדות "מגדל אור" מוצאים את מקומם בחברה בעבודה המכבדת את בעליה. רוב הבוגרים משרתים בצה"ל והבוגרות בשירות הלאומי.
על תרומתו הייחודית בנושאי חינוך ורווחה, סיוע לילדים ולנוער בסיכון, קליטת עלייה וקירוב לבבות זכה הרב גרוסמן באותות הוקרה רבים כמו פרס אהבת ישראל, פרס אבי האסירים, הדלקת משואה של יום העצמאות וגולת הכותרת פרס ישראל לשנת תשס"ד.