לאחר פטירת הגאון רבי יעקב משה טולידאנו זצ"ל, רבה הראשי של תל-אביב, נותרה העיר ללא מנהיג ורועה רוחני. בצר להם פנו פרנסי ורבני העיר אל מעונו של מרן זיע"א, לבקש ממנו כי יכהן פאר כרבה הראשי של עירם, אך מרן סירב להצעתם, קשה היה לו לעזוב את צאן מרעיתו שבירושלים, אשר היו שותים בצמא את דברי תורתו בשיעוריו הרבים.
אך פרנסי העיר לא הירפו ממנו, משלחות נכבדות באו בזו אחר זו לשכנע אותו כי ייטול על שכמו את עול רבנות העיר תל-אביב.
בצר לו, פנה מרן זיע"א להתייעץ באורים ותומים, הלא הוא רבו המובהק הגאון האדיר רבי עזרא עטייה זצוק"ל, ראש ישיבת פורת יוסף, כששמע ראש הישיבה את ספיקותיו של תלמידו חביבו, ענה ואמר לו:
"ידעתי בני ידעתי כי לא חסר אתה דבר בירושלים עיר קודשינו ותפארתנו, בשבתך כדיין בבית הדין הגדול, ובהרבצת תורה והלכה להמוני העם. אולם אין לך ברירה, כי העיר תל-אביב היא עיר גדולה לאלקים, ויש בה שמונה בתי דין, והרב הראשי בעיר הזאת ממלא בה את תפקיד ראש אבות בתי הדין, ומפני כך אנו צריכים לתפקיד זה איש שיכול למלא תפקיד זה כראוי, ואין לנו אלא אתה, ואם לא טוב הדבר לך באופן פרטי, שהרי יכול אתה להתעלות יותר במעלות התורה, מבלי עול וטרדות הציבור, מכל מקום חייב אתה להקדיש עצמך לטובת הכלל. ציבור שלם זקוק לאיש כמוך!".
וכך הוכרח מרן זיע"א לקבל עליו את התפקיד, ולמלא אחר פקודת רבו המובהק.
(משוש תבל).