צה"ל הוקם כשבועיים לאחר קום מדינת ישראל תוך כדי קרבות מלחמת העצמאות. הממשלה הזמנית החליטה על הקמתו וראש הממשלה, דוד בן-גוריון, חתם על "פקודת צבא הגנה לישראל" ב-26 במאי 1948, וב-31 במאי פרסם "פקודת יום להקמת צבא הגנה לישראל". הפקודה כללה את ההוראה החד-משמעית שלא יתקיים כוח צבאי במדינת ישראל מלבד צה"ל.
נוסח זה שימש מאוחר יותר כהנמקה להפסקת פעולתם של הכוחות המזוינים של המחתרות.
צה"ל התבסס על המבנה הארגוני של ההגנה (ומכאן שמו "צבא ההגנה"), כדי לשמש ככוח הלוחם העיקרי של מדינת ישראל. הוא מיזג לתוכו גם לוחמים מהבריגדה היהודית והמחתרות האחרות – האצ"ל והלח"י. עם הקמת צה"ל פורקו 12 חטיבות הפלמ"ח והוכפפו לפיקוד צה"ל.
מיד עם הקמתו החל צה"ל להילחם במלחמת העצמאות והתארגן תוך כדי הלחימה, כאשר היחידות הלוחמות השונות הוכפפו בהדרגה לפיקוד צה"ל. במהלך ימי ההפוגה הראשונה החל צה"ל להצטייד בנשק כבד ובתחמושת, שהגיעו בעיקר מצ'כוסלובקיה בתמיכה מארצות הברית וברית המועצות. בתום המלחמה היה צה"ל מצויד ומאורגן טוב יותר מאשר בתחילתה, אך עדיין היה רחוק מלהיות צבא מקצועי וממוקצע. ההתמקצעות החלה בשנות החמישים וב-1956 (במבצע קדש)היה צה"ל כבר מאורגן ומצויד בצורה המצופה מצבא מקצועי מערבי, לרבות ברובה אחיד ללוחמי החי"ר, במטוסי קרבתקניים ובטנקים. יחידה 101שעליה פיקד אריאל שרון פיתחה והחדירה דפוסי חיילות, קומנדו ולוחמה זעירה,שהשפיעו אחר כך על כל יחידות השדה של צה"ל והיחידות המיוחדות שלו.
המטה הכללי (המטכ"ל) של צה"ל מורכב מגופים אלו: שלושה זרועות, ארבעה פיקודים מרחביים, שישה אגפים ושישה עשר חילות. אגפי המטכ"ל אחראים לתכנון ולתיאום של מדיניות צה"ל ולהפעלת המערכים הקשורים לתחום התמחותו של כל אגף. מפקד זרוע היבשה אחראי לבניין הכוח היבשתי של צה"ל, להכשרתו, לאימונו ולציודו. מפקדי זרוע האוויר וזרוע הים אחראים גם להפעלת הכוחות האוויריים והימיים בהתאמה, נוסף על בניין הכוח, ומפקדי הפיקודים המרחביים (פיקוד הצפון, פיקוד המרכז ופיקוד הדרום) אחראים, יחד עם הרמטכ"ל וראש אגף המבצעים, על הפעלת הכוחות המבצעיים שבמרחב פיקודם.
לצה"ל יש קוד אתי רשמי המדגיש את חשיבות הדבֵקות במשימה וטוהר הנשק, ועל פיו מחונכים חייליו וקציניו. הקוד האתי הרשמי מבטא את רצון מקימי הצבא להציב רף מוסרי לפעילות חייליו. חריגות מערכים אלו, יחד עם מחלוקות שהתגלו לאופן יישומם במצבים שונים, הביאו את שלטונות הצבא לקבוע בשנת 1994 בכתובים את הקוד האתי של הצבא, שכונה "רוח צה"ל". הקוד האתי יונק מארבעה מקורות: מסורת צה"ל, מסורת מדינת ישראל, מסורת עם ישראל וערכי מוסר אוניברסליים. מלבד הקוד האתי של צה"ל חתומה מדינת ישראל גם על אמנות בין-לאומיות כדי להבטיח שמירה על ערכי מוסר גם במצבי מלחמה, ובהם אמנות ז'נבה והאג.