על פי האמור בתלמוד[3], רב אשי נולד בעיר אֲוִירְיָא שבמדי[4]. הוא הקים מחדש את ישיבת סורא, במתא מחסיא, פרבר של העיר הבבלית סורא, ועמד בראשה. הוא החל בעריכת התלמוד הבבלי יחד עם רבינא, עבודה שאותה השלימו ממשיכי דרכו. הוא הקפיד במיוחד על כבודם של בתי הכנסת בעירו. דוגמה לכך היא הקפדתו שלא ייבנו בתים יותר גבוהים מבית הכנסת[5]. פעם אחת, כאשר ראה סדקים בבית כנסת בעירו, סתר את בית הכנסת והכניס מיטתו לשם (כדי להכריח עצמו להתעסק בתיקון), ולא הוציא אותה משם עד שהתקין לו מרזבים[6].
לפני מותו נגלה אליו מלאך המוות בשוק. אמר לו: "המתן לי שלושים יום ואחזור על תלמודי, שאמרו: 'אשרי מי שבא לכאן (לעולם הבא) ותלמודו בידו'". ביום השלושים בא אליו מלאך המוות שוב. שאל אותו רב אשי: להיכן הינך ממהר? אמר לו מלאך המוות: כבר הגיע זמנו של בר נתן למלוך ולהתמנות לראשות ישיבת פומבדיתא, ואין מלכות נוגעת בחברתה כמלוא נימה.[7]
רב אשי היה חתנו של רמי בר אבא.[8] בנו וממשיך דרכו היה מר בר רב אשי, שנהג לחתום בכינוי טביומי. בן נוסף היה לו ושמו רב סמא בריה דרב אשי.[9] לפי רש"י נפטר רב סמא בחיי אביו והשאיר יתומים. אך יש חולקים וסוברים שרב סמא נפטר לאחר פטירת אביו. לרב אשי הייתה גם בת (עליה מסופר שהיו לה כאבים במעיים, ורבין דמן נרש ריפא אותה באמצעות אחת מהרפואות התלמודיות המוזכרות במסכת גיטין).[10] בתו נישאה רק לאחר פטירת אביה ורבינא גבה לצורך הוצאות נישואיה חלק מכספי הירושה שירשו אחיה מר בר רב אשי והיתומים בני רב סמא.
הגיית שמו של רב אשי
קיימות שתי שיטות בהגיית שמו של רב אשי (האות שי"ן בשם). יש שקוראים בחיריק (שִ), ויש הקוראים בצירה (שֵ), על פי דרך קריאה זו ייתכן ששמו הוא צורה מקוצרת של השם "אשר". בפירוש הרב יוסף קאפח לאיגרת תימן העיר על פי דברי הרמב"ם שכתב את איגרתו בחרוזים, ובאחד החרוזים סיים ב"משה" ובחרוז שלאחריו ב"רב אשי", כעדות קדומה למסורת הספרדית (וכמוה התימנית) ההוגה את שמו בצירה (שבהגייה הספרדית, שבה הגה הרמב"ם, מתחרז עם מֹשֶׁה) ולא בחיריק. וייתכן שכבר בתלמוד עצמו ניתן למצוא חריזה של שמו של רב אשי עם המילה "מִקְדְּשֵׁי" - "רב אשי ורבינא סוף הוראה וסימנך עַד אָבוֹא אֶל מִקְדְּשֵׁי אֵל אָבִינָה לְאַחֲרִיתָם".[11]