בסוף שנות השמונים, בתקופת התיכון שלהם, הקימו יחד איתי אייל (ET Doolin) ואוהד גולדברט (OD) את להקת לורד פלימנאפ, להקה יחסית מיתולוגית בראיה היסטורית, שניגנה בעיקר רוק מתקדם באנגלית. לורד פלימנאפ הקליטו אלבום בכורה שהופץ בתפוצה בינלאומית ע"י הלייבל הגרמני SPM. תקופה קצרה אחרי הוצאת האלבום התגייסו השניים לצבא, צעד שגרם בסופו של דבר לפירוק הלהקה.

בתום שירותם הצבאי, חזרו OD ו- ET לנגן יחד והופיעו בעיקר ב- Tel-Aviv Folk Club תחת השם "הילדים הגדולים" (the Big Boys). הצמד אף הופיע בסניף הירושלמי (והמקורי) של המייק'ס פלייס ובפאב של קיבוץ צרעה, ומשם החליטו לנסות את מזלם בחוץ לארץ. הם ניגנו תקופה מסוימת בקנדה ברחובות של ונקובר, בתחנות רכבת לכל אורך המדינה ופעם אחת ניגנו במשך שלושה שבועות במוטל צפוני שנמצא מרחק יריקה מאלסקה (בעיירה בשם יוקון). אחרי הסיבוב בקנדה חזרו השניים ארצה ופנו איש איש לדרכו המוסיקלית. OD חזר לכתוב שירים ועבד על מוסיקה לתיאטרונוער של באר שבע. ET עבד אף הוא על חומרים משלו ובמקביל סיים תואר ראשון באנתרופולוגיה וסוציולוגיה באוניברסיטה העברית בירושלים. טלי גזית (טדליק) היא זמרת בעלת הכשרה קלאסית, בוגרת אקדמיית "רובין" למוסיקה בירושלים, שלמדה בעבר בהולנד התמחות במוסיקה מוקדמת, רנסאנס ובארוק. כמו-כן, היא אשתו של ET.

ב-2003 הוציא איתי את אלבום הבכורה שלו כ-ET Doolin. תקופה קצרה אחרי יציאת האלבום, חזר לנגן יחד עם OD כאשר הם מצרפים אליהם את טדליק ומשנים את שם ההרכב המקורי מ-the Big Boys ל- Goldoolins. בחצי השנה הראשונה שלהם יחד, הופיעו הגולדולינס בכל רחבי ישראל והושמעו מספר לא רב מדי של פעמים בתחנות הרדיו המקומיות. הופעותיהם אופיינו בהרמוניות הקוליות המשותפות של שלושת חברי ההרכב וכך גם נשמע הצליל השולט באלבום הבכורה, אותו הקליטו בקיץ 2004 ושהופץ בלייבל Earsay של האוזן השלישית. מוקדם יותר באותה שנה הספיק אוהד גולדברט להקליט אלבום עם ירון יהודה בשם "שירים משומקומ". האלבום הופק עצמאית.

באוקטובר 2004, חודש אחרי צאת אלבומם, הוזמנה הלהקה להופיע במועדון Cavern המיתולוגי שבליוורפול, המקום בו הביטלס עשו את צעדיהם הראשונים. הופעה זו במועדון ה-Cavern פתחה סיבוב הופעות קצר באנגליה, סיבוב ההופעות הראשון שלהם בחו"ל.

לקראת סוף 2005 השלימה הלהקה הקלטת פסקול לסרט הקצר "איזה טוסטוס קטן עם כידון מצופה כרום בקצה החצר?" (Which Moped with Chrome-plated Handlebars at the Back of the Yard?"), שביים גדעון סמילנסקי על פי נובלה מאת ז'ורז' פרק. הסרט זכה בפסטיבל הסרטים סינפורטה (Cineforte) שהתקיים בתל-אביב. בנוסף, הקליטה הלהקה שיר בשם "What friends are for" שנכלל באוסף המחווה "Jam On Jeremy" לג'רמי מוריס, נשיא חברת התקליטים Jam Records.

בספטמבר 2005 יצא אלבומם השני, Songs of the Truly Crio, בו ניתן לשמוע אלמנטים של מוסיקה אירית. עוד בטרם יציאתו הודיעה הלהקה על תחילת הקלטות לאלבום שלישי.