יוסף (ג'ו) יחזקאל נולד בכ"ג בחשון תר"ץ, 26 בנובמבר 1929 בטקסס, ארצות הברית. אביו בא ממשפחה שהיגרה מהולנד במאה התשע-עשרה, והיה חוקר מחלות צמחים. אמו בת למהגרים מאוקראינה שהשתקעו במיניאפוליס. בבית היתה ספרייה עשירה באנגלית, קראו את
הדאר בעברית ושמרו על מסורת החגים היהודיים. כשהיה בן ארבע-עשרה עברה המשפחה לוושינגטון.
מגיל צעיר החל לכתוב באנגלית וזכה לפרסום ראשון בעיתון בית הספר. כנער אהב במיוחד את יצירתו של דוס פאסוס. הוא סיים את לימודיו והחל ללמוד באוניברסיטה ע"ש ג'ורג' וושינגטון. בנעוריו הצטרף לתנועת "הבונים" והתכונן לעלייה לארץ. ב-1950 עלה ארצה ויצא עם חברים להכשרה בקבוצת גבע. הצטרף לקיבוץ אורים ב-1951 וחי בו שלושים ושבע שנים עם אשתו ושלושת ילדיהם. עבד ברפת ובמספוא. במהלך שנות החמישים החל לכתוב שירים בעברית, שנדפסו בעלון המשק. בשנות השבעים השתתף בסדנת שירה בבית הסופר שבעיר העתיקה בירושלים, ובין מדריכיו היו יצחק שלו, אהרן שבתאי ואורי ברנשטיין, שדאג לפרסום שיריו הראשונים בכתב העת
סימן קריאה (מס' 6, 1976). לימים פירסם משיריו בחדרים, בעתון 77 ועוד.
המתרגמת עזה צבי שמעה אותו קורא משיריו, התרשמה מהם וערכה את ספרו הראשון,
נהר (הקיבוץ המאוחד, 1981). הספר כולל שירים מעשר השנים שבהן התמסר יחזקאל להקמת הפארק הלאומי בנחל הבשור.
עזה צבי ערכה גם את שני קובצי שיריו הבאים, ובאמצעותה התוודע אל המשוררת זלדה. החל מ-1958 השתתף במשלחות הסקר בנגב ובחפירות הארכיאולוגיות של מדבר יהודה, ועם המשלחת של פסח בר אדון זכה להיות בין מגלי מערת המטמון. שירי הקובץ האחרון שלו,
הנחלמים (2007), עוסקים בחוויית החפירות במדבר יהודה.
שירתו פשוטה וטבעית, חכמה ואנושית, חפה מהתנשאות ומיסודות דידקטיים. נושאי שירתו לקוחים מחייו רבי-המעשים: אהבה, טבע וסביבת האדם, תגליות מדבר יהודה ונופי הנגב ועוד.
ב-1988 עזב יחזקאל את הקיבוץ ואת משפחתו והשתקע בתל אביב. מאז עבד בבית הספר שדה איילון בתל אביב ועסק בגיזום עצים. שלוש שנים היה בן זוגה של המשוררת
נורית זרחי. הוא עוסק גם בציור וברישום. כמה משיריו תורגמו לאנגלית. תירגם לעברית כמה משירי עזרא פאונד, שנדפסו בכתב העת פרוזה. זכה בפרס היצירה על שם ראש הממשלה לוי אשכול (1995).
יוסף (ג'ו) יחזקאל נפטר בכ"ד בתמוז תש"ף, 16 ביולי 2020 ונטמן
למחרת בקיבוץ אורים.