1984 – שר הבטחון
לאחר הבחירות שהתקיימו ב-23 ביולי 1984 לא זכתה אף אחת מהמפלגות הגדולות במספר מנדטים מספיק להקמת ממשלה והוקמה ממשלת האחדות הלאומית. על פי ההסכם בין הליכוד ומפלגת העבודה כיהן שמעון פרס כראש הממשלה הראשון ובתום שנתיים העביר את התפקיד ליצחק שמיר.
פרס מינה את רבין לשר ביטחון, והוא נבחר מחדש לתפקיד גם על ידי שמיר – עד תום כהונת ממשלת האחדות השלישית בראשות שמיר ב-1990.
בתקופת כהונתו פעל להוצאת צה”ל מלבנון בשלבים וביסס את אחיזת צה”ל ברצועת הביטחון. בניגוד לכל קודמיו הסכים לקיצוץ תקציב הביטחון, מהלך שהתאפשר לאחר יציאת מצרים ממעגל המלחמה. הסכמתו ל”עיסקת ג’יבריל”, לשחרורם של 1,150 שבויים פלסטיניים תמורת שלושה שבויים ישראלים, עוררה מחלוקת בציבור, אך האחריות לחיי השבויים הישראלים הכריעה את הכף לאישור העסקה.
כשפרצה האינתיפאדה לא זיהה תחילה את ייחודה. בחודשים הראשונים האמין כי יש פתרון צבאי להתקוממות העממית ופעל לדכא אותה בכוח. מדיניותו נראתה בלתי מוסרית וחסרת תוחלת בעיני השמאל ובלתי מספקת בעיני הימין.
לאחר חודשים אחדים של מאבק שוכנע כי ההתקוממות מבטאת מאוויים לאומיים פלסטיניים אותנטיים, שישראל לא תוכל עוד להתעלם מהם. נכונות הפלסטינים לספוג אבידות הפתיעה אותו והובילה להכרה שמדיניות הכוח לבדה לא תביא את השקט. הוא היה ער לצמיחת הנהגה פלסטינית מקומית ולראשונה ראה בה בת שיח למשא ומתן מדיני. בתוך כך גברו חששותיו מפני השפעות האינתיפאדה על רוח הלחימה של צה”ל ועל מעמדו כצבא העם.
ב-1989 ניסח יוזמת שלום דו-שלבית במסגרתה הציע לאפשר בחירות להנהגה מקומית בשטחים, שתנהל את האוטונומיה הפלסטינית עליה הוסכם בקמפ-דיוויד ותבטיח את השקט בשטחים. בשלב השני, לפי היוזמה, יתקיים משא ומתן עם ההנהגה הנבחרת על הסדר הקבע. בלחץ אמריקני זכתה התוכנית לתמיכת ראש הממשלה יצחק שמיר. ב-1990 התפרקה ממשלת האחדות, ומפלגת העבודה חזרה לאופוזיציה.
