התחנון (או בשמו האחר "תחנונים") פותח את חלק התוספות שלאחר תפילת העמידה. כך נאמר בתוספתא (ברכות ג, ו): "אין אומרים דברים אחר אמת ויציב אבל אומרים דברים אחר תפלה אפילו כסדר וידוי של יום הכפורים". דברים – כך מפרש שאול ליברמן – הם קילוסים (לדוגמה עלינו לשבח) וגם תחנונים.
שמו של התחנון נגזר מתוכנו – תחנונים וזעקה לה'. כפי שמתבקש מאופיים של תחנונים במשך זמן רב הם לא זכו לנוסח אחיד אלא נמסרו לכל יחיד לאמרם מנהמת לבו וכפי העולה על רוחו, כמו שעולה מדברי הרמב"ם (הלכות תפילה ונשיאת כפים, ה, יג): "אחר שמגביה ראשו מכריעה חמישית יֹשב לארץ ונופל על פניו ארצה ומתחנן בכל התחנונים שירצה". אולם בזמנו של הרמב"ם ועוד מתקופת הגאונים כבר חוברו נוסחים לחלק זה של התפילה, שהלכו והתקבעו במהלך תקופת הראשונים. אלא שאיחור זה בניסוח התחנון יצר הבדלים רבים יחסית בין נוסחי העדות השונות.
תחנון נאמר בתפילות שחרית ומנחה, ולא בערבית. נוסף על כך, כיוון שהתחנון הוא תפילה של זעקה המלאה בתיאור צערו וסבלו של עם ישראל, אין אומרים אותו במועדים ובימים בעלי אופי חגיגי, דוגמת ל"ג בעומר או ט"ו באב, וכן בנוכחות של בעל שמחה, כמו חתן או בעל ברית. גם בבית האבל אין אומרים תחנון, אך מטעם אחר: כיוון שמידת הדין מתוחה על האבל אין ראוי שיגביר אותה על ידי שיזכיר את חטאיו. אצל כיתות שונות של חסידות אינם אומרים תחנון גם בימי זיכרון לפטירת אדמו"רים וצדיקים אחרים, וכך פוחתים באופן משמעותי מספר הימים שבהם אומרים תפילה זו, דבר שהיה נושא לבדיחות בפי זרמים אחרים ביהדות.
התחנון הוא בעצם שם כולל לחלק מהתפילה, הכולל בתוכו מספר חלקים: וידוי ("אשמנו, בגדנו, גזלנו..."), י"ג מידות, נפילת אפיים ותחנונים. כשמביטים ברשימה זו קשה להתעלם מהדמיון שיש בין התחנון ובין הסליחות הנאמרות בתעניות, בימי אלול ובעשרת ימי תשובה, המורכבות גם הן מחלקים אלה. בנוסח עדות המזרח הדבר בולט עוד יותר, כאשר בחלק הנוסף הנאמר בשני ובחמישי אומרים מספר פעמים לסירוגין פיוטים וי"ג מידות, ממש כפי שמצוי בסליחות.
המבנה של התחנון אינו אחיד ויש בו מנהגים שונים. השינוי נוגע לסדר של החלקים של התחנון ולעצם אמירתם של חלקים מסוימים בימים מסוימים. כך לדוגמה בנוסח אשכנז יש הנוהגים להוסיף וידוי וי"ג מידות רק בימים שני וחמישי. בימים אחרים נפתח התחנון בנפילת אפיים. שינוי בולט עוד יותר בימים אלה הוא התוספת שאומרים בכל העדות בחלק של התחנונים – תפילה הפותחת במילים "והוא רחום" (כאמור, אצל עדות המזרח מקדימים לכך מספר פיוטים וביניהם י"ג מידות). מה ייחודם של שני וחמישי שזכו לתוספת זו?
הסבר לכך נמצא בטור, אורח חיים, סימן קלד:
ומה שמוסיפין תחנונים בב' וה' לפי שהם ימי רצון לפי שארבעים יום של קבלת לוחות אחרונות שהיו ימי רצון עלה משה רבינו ביום ה' וירד ביום ב' ולכך נוהגין גם כן להתענות בהן.
ניתן להוסיף שבימים אלה היו בתי הדין בכרכים מתכנסים (כתובות, א, א) על פי תקנת עזרא הסופר (בבלי, בבא קמא ב ע"א), וגם בבית דין של מעלה דנים את בני האדם בימים אלה ומזכירים עוונותיהם.
נפילת האפיים, שהיא סוג של השתחוויה, באה להשלים את רשימת המצבים השונים של הגוף שבהם התפללנו אל ה': בפסוקי דזמרא ובקריאת שמע וברכותיה – בישיבה; בתפילת לחש – בעמידה; ובתחנון – בהשתחוויה. פעולה זו מסמלת את שיא הדבקות שאליה מגיע המתפלל, שכן היא מבטאת את שפלותו הגמורה וכניעתו ללא תנאי לרצון הבורא. לפי רבנו בחיי (במדבר טז, כב) מבטאת נפילת האפיים שלוש משמעויות: יראת שמים, שפלות רוח ונכונות למסירות נפש לבורא. בעבר ההשתחוויה נעשתה על ידי נפילה ארצה ממש, אך השתחוויה כזאת מותרת רק בבית המקדש. לכן אנו מסתפקים בנפילת אפיים סמלית על ידי הטיית הראש וכבישת פנינו בזרוע, תוך כדי ישיבה. עיקר הדברים הנאמרים במהלך נפילת האפיים הוא פרק תהלים המתאים בתוכנו לתחנון (אצל עדות המזרח – פרק כב, אצל האשכנזים – פרק ו).
החלק של התחנונים דומה בתכניו, ואף בניסוחו, לסליחות. יש בו בקשת סליחה על חטאינו בנימוק של חולשת האדם מול היצר הרע או (אם הנימוק הראשון לא מועיל) בקשה למניעת חילול השם שייגרם אם ה' ימצה עם עמו את עומק הדין. מוטיב נוסף המשותף לתחנון ולסליחות (במיוחד הסליחות האשכנזיות) הוא תיאור הצרות העוברות על עם ישראל בגולה תחת עול הגויים, שפלותו של עם ישראל והביזיונות שהוא סופג מכל עבר, מצבה השפל של ירושלים ושל הר בית ה'. עניין זה מעלה גם כאן (כמו בסליחות או ביחס לתפילת "נחם" בתשעה באב) את שאלת הנוסח שאותו יש לומר בימינו, כאשר יצאנו בחסדי ה' מהגולה, שבנו לשלוט בנחלת אבותינו והתחלנו לבנות את ארץ הקודש ואת ירושלים.
יהי רצון שישמע ה' לתחנונינו, שיאמר ה' די לצרותינו ושיגיעו במהרה ימים שיאפילו בטובם על הסבל הרב שעברנו, עליו אנו זועקים בתפילת התחנון.