Ali Yalçın, 1975 yılında Tokat’ın Artova ilçesi Ahmetdanişment köyünde doğdu.
Sırasıyla Ahmetdanişment Köyü İlkokulu, Artova YİBO, Tokat Teknik ve Endüstri Meslek Lisesi, Gazi Üniversitesi Teknik Eğitim Fakültesi Makine Bölümü Talaşlı Üretim Öğretmenliğini bitirdi.
Bunun yanında MGV Gazi Üniversitesi Öğrenci Başkanlığı ve MGV Üniversite Öğrenci Yurdu Müdürlüğü yaptı. Maltepe Üniversitesi’nde Eğitim Yönetimi ve Denetimi alanında yüksek lisans eğitimi aldı.
Şırnak İstiklal İlköğretim Okulu’nda iş hayatına başladı. Şırnak’ta öğretmenlik ve müdür yardımcılığı olmak üzere 5 yıl görev yapan Yalçın, daha sonra İstanbul Sultanbeyli Halk Eğitim Merkezi Müdür Yardımcılığı, Maltepe Fevzi Çakmak İlköğretim Okulu Müdür Vekilliği, Sancaktepe Halk Eğitim Merkezi Kurucu Müdürlüğü görevlerini yürüttü.
Ayrıca Memur-Sen İstanbul İl Sekreterliği yaptı. Sancaktepe Belediyesi Kent Konseyi Yürütme Kurulu üyeliği, Çalışma Hayatı ve Sendikal Haklar Çalışma Grubu sorumluluğu görevlerinde bulundu.
2004 yılından itibaren Eğitim-Bir-Sen İstanbul 4 No’lu Şube Başkanlığı’nı yürüten Yalçın, aynı zamanda Pendik Ertuğrulgazi İlköğretim Okulu müdürü olarak çalıştı.
Yönetici Sınavlarına Hazırlık, Şeflik Sınavlarına Hazırlık ve Görevde Yükselme Sınavlarına Hazırlık olmak üzere üç adet kitabın yayınlanmasında görev aldı.
19-20 Şubat 2011 tarihinde yapılan 4. Olağan Genel Kurul'da Genel Basın Yayın Sekreterliği'ne seçilen YALÇIN, 21-22 Şubat 2015 tarihinde yapılan 5. Olağan Genel Kurul'da Eğitim-Bir-Sen Genel Başkanlığa seçildi. 18-19 Nisan 2015 tarihinde yapılan Memur-Sen 5. Olağan Genel Kurulu'nda yapılan seçimle Memur-Sen Genel Başkanlığı'na seçildi.
Evli ve 4 çocuk babasıdır.