במרץ 1980 כש-Joy Division הקליטו את אלבומם השני והאחרון בלונדון, דבורה קרטיס, רעייתו של הסולן איאן הייתה רחוקה ממנו. היא נשארה לבד עם בתם בת הכמעט השנה בבית בצפון אנגליה והאזינה בריפיט לאלבום חדש – The Return Of The Durutti Column. “המוזיקה הייתה כל כך עצובה ורגשית, שזה הרגיש כמו הדבר היחיד שמתאים לנגן” – היא כתבה לימים בספר הזיכרונות שלה. איאן קרטיס לא מנגן באלבום הזה אבל הוא לקח חלק ביצירה שלו במובן מסוים. כמה חודשים קודם לכן, במשרדים של הלייבל Factory במנצ’סטר, קרטיס וחברי ג’וי דיוויז’ן, השתתפו במעין סדנת יצירה מאולתרת – התפקיד שלהם היה להדביק נייר זכוכית לעטיפה של האלבום. זה היה רעיון של טוני וילסון, הבעלים של הלייבל, שרצה עטיפת תקליט שתגרום נזק לתקליטים אחרים על המדף. כזו שתעורר פרובוקציה. המוזיקה על התקליט, לעומת זאת, הייתה רחוקה מאוד מהעטיפה המחוספסת שלה.
מאחורי השם The Durutti Column עמד אדם אחד רזה ושברירי, שבכלל לא האמין שהמוזיקה שלו תעניין מישהו. ויני ריילי כמעט נכנס לאשפוז פסיכיאטרי אבל מצא את עצמו באולפן עם המפיק האקצנטרי של ג’וי דיוויז’ן מרטין האנט, שבקושי דיבר איתו. בזמן שריילי פרט על הגיטרה שלו וניגן צלילים שמושפעים יותר מג’אז וממוזיקה קלאסית, האנט השתעשע עם סינתיסייזרים והיה בעולם משלו. מהר מאוד ריילי התעצבן ועזב את האולפן אבל האנט המשיך לעבוד האלבום. למעשה, ריילי הבין שההקלטות האלה הפכו לאלבום רק אחרי שהגישו לו את התקליט.
התוצאה הייתה The Return Of The Durutti Column, אלבום אינסטרומנטלי חד פעמי, שנשמע כמו אנטיתזה לפאנק שהיה מסביב – עם מוזיקה אווירתית, עדינה, ומלודית, שמבוססת על נגינת הגיטרה הצלולה והמהורהרת של ויני ריילי. אלבום שמראה שלפעמים אפשר להגיד הרבה יותר עם פחות. למרות הביקורות הטובות שהזכירו את ריילי בנשימה אחת עם גיטריסטים כמו ג’רי גרסיה ופיטר גרין וגם הדגישו את הסאונד הייחודי שלו, בזמן אמת האלבום לא זכה להצלחה מסחרית. הוא היה עוף חריג בסצנת הפוסט־פאנק של מנצ’סטר ורק כעבור שנים הפך לאלבום קאלט.