Anneler Günü kadar eski olmasa da Babalar Günü’nün de bir geçmişi vardır. Bazı tarihçiler, Babalar Günü'nün Antik Roma'da bile kutlamasının yapıldığını, bazıları ise tarih belirtmeden Babalar Günü'nün Batı Virginia'da ortaya çıktığı savunuyor.
Bu araştırmacılar Batı Virginia'da yaşayan John Dowdy'nin annesi öldükten sonra onun yerini alan babası için böyle bir gün kutlanmasını istediğini söylerken, diğer araştırmacılar ise 1910 yılında Washington'daki John Bruce Dodd'un 6. çocuğunun doğumu sırasında hayatını kaybeden annesinin ardından hayatını çocuklarına adayan babası William Smart'a özel bir gün armağan etmek amacıyla bu fikri ortaya attığını belirtmektedir.
Küçük yaşta annesini kaybeden Dodd'u ve beş kardeşini, babaları William Jackson Smart büyütmüş. Babasının bir yandan çiftlikte çalışıp öte yandan altı çocuğa bakmasının zorluklarını farkeden Dodd, Anneler Günü kutlanırken Babalar Günü’nün olmayışını büyük bir haksızlık olarak nitelendirir. Hemen babasının doğum günü olan 5 Haziran'ın Babalar Günü ilan edilmesi için çalışmalara başlar ama bu çalışmalar bir sonraki yılın 19 Mayıs'ına kadar sürer.
Babalar Günü ilk kez 19 Haziran 1910'da Washington'ın Spokane şehrinde kutlandı. Bu tarihten sonra ABD'nin diğer eyaletlerine yayıldı. Ancak, Babalar Günü resmi olarak 1924 yılında Amerika Birleşik Devletleri Başkanı Calvin Coolidge'in desteğiyle kutlanır. 1966 yılında ise o dönemin başkanı Lyndon Johnson, her yıl Haziran ayının üçüncü pazar gününün Babalar Günü olarak kutlayacağını açıklayan bir bildiri yayınlar.
Katoliklerin Babalar Günü'ne getirdikleri yorum ise diğer araştırmacılardan çok farklıdır. Onlar bu kutlamayı dini açıdan ele alıp peygamberleri Hazreti İsa'nın babası anısına, Mart ayının 19'unu St. Joseph Günü adı altında babalarına armağan etmektedirler. Dünyanın farklı yerlerinde farklı tarihlerde kutlanan bu günde, genellikle baba, amca ve büyük babalara duyulan sevginin ifadesi olarak çeşitli hediyeler verilmektedir.