לפני קום המדינה היה הררי פעיל בארגונים ציוניים: בין השאר כיהן כחבר בוועד הפועל הציוני ובוועדים ציונים נוספים. כמו כן היה חבר בהנהגת "ההגנה", ולאחר קום המדינה שירת בדרגת סגן-אלוף.
פוליטיקה
הררי כיהן במשך שבע קדנציות בכנסת, שבהן עבר מספר מפלגות וכאשר רוב מפלגתו העיקרית נעה ימינה במפה הפוליטית, הררי ומספר חברי כנסת נוספים פנו דווקא לצד השמאלי שלה.
בכנסת החמישית החליטה הסיעה להתמזג עם גח"ל ולאחר מכן לליכוד, צעד אשר לא היה מקובל על הררי ועל שישה חברי כנסת נוספים, בהם משה קול, שהתפצלו עקב כך מהסיעה והקימו סיעת מרכז עצמאית בשם ליברלים עצמאיים.
החלטת הררי אשר עלתה לאחר הצעתו של יזהר הררי, היא אחת ההחלטות החשובות ביותר בתולדות המשפט הישראלי. ההחלטה, התקבלה ביום 13 ביוני1950, קבעה כי הכנסת הראשונה לא תחוקק חוקה למדינת ישראל, וכי החוקה תיכתב בפרקים, הקרויים "חוקי יסוד" שיתאגדו, לבסוף, לכלל חוקת המדינה. כתוצאה מהחלטה זו אין למדינת ישראל חוקה כתובה.
ההחלטה היוותה פשרה אשר תפקידה היה הרצון של הכנסת לשמור על זכותה לחוקק חוקה, ומנגד לדחות את בניית החוקה באופן סופי לזמן בלתי מוגדר.