מזמור זה מכונה אצל חז"ל "הלל הגדול", בשונה מקובץ המזמורים קיג–קיח שנקראו על ידם "הלל המצרי", ותיקנו לאמרו בליל הסדר. לאחר שתיית כוס שלישית של ברכת המזון מוזגים כוס רביעית ואומרים עליה הלל הגדול, בשלב "הלל נרצה" שבליל הסדר. גם במשנה, במסכת תענית ג, ה נזכר לאמרו על הודאה, כמו ששנינו:
מעשה שגזרו תענית בלוד וירדו להם גשמים קודם חצות אמר להם רבי טרפון צאו ואכלו ושתו ועשו יום טוב ויצאו ואכלו ושתו ועשו יום טוב ובאו בין הערבים וקראו הלל הגדול.
חשיבותו של המזמור באה לידי ביטוי גם בעובדה שהוא נאמר בתפילת שחרית של שבת בסיומם של "פסוקי דזמרה"' הנאמרים לפני ברכת "ברוך שאמר" (לפי רוב המנהגים). מחמת חשיבותו אינו נאמר לאחר התפילה ולאחר הסעודה, אלא קודם התפילה (ראו רש"י, תענית כו, א, ד"ה "שאני"). בתלמוד, ברכות ד, א, אף הושווה מזמור זה למזמור "תהלה לדוד" (מזמור קלה) וזאת בשל הדגשת ההכרה שיש בו שהפרנסה היא מאת ה'.
מדוע נקרא בשם זה? בתלמוד (פסחים קיח, א) מובא: "אמר רבי יוחנן: מפני שהקדוש ברוך הוא יושב ברומו של עולם, ומחלק מזונות לכל בריה, ובמזמור זה נאמר 'נותן לחם לכל בשר' (קלו, כה)". טעם נוסף מובא בספר אבודרהם (שחרית של שבת): שהוא משום שיש בו עשרים ושישה פסוקים של הודאה לה' כנגד שם הוי"ה שעולה בגימטריה לעשרים ושישה, וכתוב "כי גדול ה' ומהולל מאד". לטעמים אלו הכינוי "הגדול" מוסב על הקב"ה ולא על ההלל.
מזמור זה בולט במבנה הייחודי שלו ובו עשרים ושישה פסוקים, שכל אחד מהם מסיים בביטוי "כי לעולם חסדו". אמרו על כך רבותינו: "הני עשרים וששה 'כי לעולם חסדו' כנגד מי? כנגד כ"ו דורות שברא הקב"ה בעולמו, ולא נתן להם תורה, וזן אותם בחסדו" (שוח"ט קלו, א). מאדם הראשון ועד משה רבנו עברו עשרים ושישה דורות ולא ניתנה תורה עד לדורו של משה. כל אותן השנים ניזון העולם כביכול בחסד ורק לאחר קבלת התורה ראויים החיים למקבליהם, בזכות לימודהּ וקיומהֹ של התורה.
המזמור בנוי בצורה של כלל ופרט וכלל. המזמור פותח בפסוק הודאה (ליתר דיוק בשלושה פסוקי הודאה רצופים), "הודו לה' כי טוב" (פסוק א), מסיים בהודאה, "הודו לאל השמים" (פסוק כו) ובאמצע מפרט המשורר באריכות על מה יש להודות. מבנה כזה מאפיין במקומות רבים את סגנון הכתיבה המקראי.
פרשני המקרא בכלל ופרשני ספר תהלים בפרט ראו בכל כפילות הדגשה, בשל חשיבות העניין או המזמור. לדוגמה, המילים "ירקרק","אדמדם" התפרשו כירוק חזק ואדום חזק, מאחר שנכפלה בהן המילה (ירק-רק, אדם-דם). משום כך ראו במזמורנו מזמור חשוב, שמשום כך נכפל בו הביטוי "כי לעולם חסדו" עשרים ושש פעמים, להדגשת החסד התמידי של ה' על עולמו.
על אף שכל מזמורי הספר חשובים הצביעו פרשני המקרא על מזמורים שונים כחשובים יותר מהאחרים, כל פרשן לפי שיקוליו הוא. ראב"ע ראה במזמור קלט את המזמור החשוב ביותר שבספר, ובלשונו: "זה המזמור נכבד מאד בדרכי השם, ואין באלה חמשה ספרים מזמור כמוהו. וכפי בינת אדם בדרכי השם ודרכי הנשמה, יתבונן בטעמיו".
לעומתו, פרשנים אחרים ראו במזמורים בעלי מבנה מיוחד, מזמורים חשובים. בין המאפיינים הבולטים שבמזמורים החשובים ציינו את אלו שהם בעלי אקרוסטיכון א"ב, או מזמורים הפותחים ומסיימים באותו עניין (אינקלוזיו). שבעה מזמורים בתהלים הם בעלי אקרוסטיכון א"ב (בצורה כזו או אחרת): מזמורים כה, לד, לז, קיא, קיב, קיט, קמה. מזמורים בעלי אינקלוזיו יש רבים יותר, כגון חמשת מזמורי הללויה (קמו–קנ) החותמים את הספר, מזמורי ברכי נפשי (קג, קד) מזמור ח (מה אדיר שמך מכל הארץ) ועוד.
מאפיינים אלו כסימן לחשיבות המזמור מובאים כבר אצל חז"ל, כגון בגמרא, ברכות ד, ב, "אמר רבי אלעזר אמר רבי אבינא: כל האומר 'תהלה לדוד' (קמה, א) בכל יום שלש פעמים מובטח לו שהוא בן העולם הבא. מאי טעמא? אילימא משום דאתיא באלף בית" וכו'. לגמרא ברור לפיכך שזה מאפיין של מזמור חשוב, שלכן כתבו מחברו בכל אותיות הא"ב.
החשיבות שיש במזמור הפותח ומסיים באותו עניין נזכרת אף היא בגמרא, ברכות י, א: "כל פרשה שהיתה חביבה על דוד, פתח בה באשרי וסיים בה באשרי; פתח באשרי, דכתיב 'אשרי האיש' (א, א) וסיים באשרי, דכתיב 'אשרי כל חוסי בו' (ב, יב)". בעלי התוספות העירו על כך (ד"ה "כל") ש"אשרי" לאו דווקא, אלא בכל פרשה שיש בה חתימה מעין פתיחה, כמו מזמור "תהלה לדוד" (קמה) וכדומה.
מעתה ניתן להצביע על מזמורנו כמזמור חשוב, מאחר שיש בו מספר מאפיינים של מזמור חשוב. המזמור חוזר שוב ושוב על הביטוי "כי לעולם חסדו" וכמו שכתבנו לעיל החזרה מבטאת חשיבות. נוסף על כך, המזמור פותח ומסיים באותו עניין – פותח בהודו לה' ומסיים בהודו לה'.