Okul binamızın kesin olarak ne zaman yapıldığı bilinmemekle beraber 19. yy.'ın ikinci yarısında Mustafa Remzi Paşa adında bir Osmanlı Paşasının yaptırdığı bilinmektedir.
İlk yapılışında bu binadan 3 tane yapılmıştır. Bir tanesi Adana'nın Bahçe kazasına, bir tanesi Ceyhan ilçesine ve diğeri de okulumuz olmak üzere, Jandarma Eğitim Okulu olarak kullanıma başlanmıştır. Bu üç bina daha sonarları Yemen'e gönderilen askerlerin konaklama merkezi ve askeri kışla olarak da kullanılmıştır.
1919-1920 yıllarında Çukurova'yı Fransızların işgali sırasında Fransızların eline geçmiştir. Fransızlarda bu binaları askeri üs olarak kullanmışlardır.
Fransızlar Çukurova'dan çekilirken bu üç bina ile birlikte çevresindeki yerleşim alanını da yakıp yıkmışlardır. Sadece duvarları kalmıştır.
1935 yılında binanın köylüler tarafından onarımı yapılarak 1937 yılında ilkokul olarak eğitim ve öğretime açılmıştır. O günden sonra birkaç kez onarımı yapılan okulumuz 1982- 1983 öğretim yılının yaz tatilinde Milli Eğitim Bakanlığı tarafından büyük onarıma alınarak aslına uygun olarak betonarme bir bina olarak beş derslik, bir müdür odası, bir öğretmenlere odası ile iki WC yapılmıştır.
2010/2011 yılında arka tarafa yeni yapılan ortaokul binası yapıldı. 20.11.2012 tarihinde de okulumuzun yeni binasına 5 derslikli 2. kat ilavesi ve daha sonra da yapılan 3. kat ilavesiyle inşaatı tamamlanmıştır. Yeni binamız son hali ile zemin artı 2 kattır. 10 sınıf, 1 Fen laboratuarı, 1 müdür yardımcısı odası, 1 öğretmenler odası, 1 Müdür odası ve en üst katta yemekhane ve kütüphane bulunmaktadır.
Okul bahçesi geniş olması sebebiyle okulumuzun oyun alanı çok geniştir. Okul bahçesinde 2 basketbol potası, 1 voleybol sahası, mini futbol sahası ve okulumuz arkasında büyük bir futbol sahası vardır.
222 sayılı İlköğretim ve Eğitim Kanunu ile 1739 sayılı Milli Eğitim Kanununda yapılan değişiklik kapsamında 31/05/2012 tarih ve 15339 sayılı Valilik Onayı ile okulumuz İlkokul+Ortaokul olarak dönüştürülmüştür. Okulumuzda normal eğitim uygulanmaktadır. Sınıflarımızın mevcudu çevremizdeki okullara nispetle gayet iyi durumdadır. Levent AYDINLIK okul müdürü olarak, Neşat AKSAY ve Hüseyin YARŞI müdür yardımcısı olarak görevine devam etmektedir.
27.02.2019 tarih ve 4309685 sayılı Valilik Onayı ile okulumuzun adı Tarsus Şehit Erdal Yılmaz İlkokulu / Ortaokulu olarak değiştirilmiştir.
2023-2024 Eğitim - Öğretim yılının Kasım ayında restorasyon çalışmalarına başlanan ilkokul binamızın restorasyon çalışmaları 26 Ağustos 2024 tarihinde tamamlanarak, 2024-2025 Eğitim - Öğretim yılında tekrar 4 derslik, Öğretmenler odası, 1 erkek öğrenci WC ve 1 kız öğrenci WC olarak eğitim öğretime açılmıştır.
