Uppruni golfíþróttarinnar er að mestu hulinn móðu tímans. Rómverjar léku einhvern svipaðan leik með kylfulöguðum trjágreinum og boltum fylltum fjöðrum. Hollendingar stunduðu svipaða íþrótt á frosnum síkjunum heima hjá sér eins og sjá má í bókarskreytingum frá því um 1500. Golf var bannað í Skotlandi 1457, því það tók of mikinn tíma frá æfingum í bogfimi, sem voru nauðsynlegar til landvarna. Skotar létu það ekki á sig fá og léku af hjartans lyst í trássi við veraldleg og geistleg yfirvöld.
Elzti golfvöllur heims, St. Andrews í Skotlandi, var notaður þegar á 16. öld. Fyrsta brezka opna golfmótið fór fram í Prestwick í Skotlandi árið 1860. Konunglegi Montrealklúbburinn í Kanada var hinn fyrsti, sem var stofnaður í Norður-Ameríku (1873) og St. Andrewsklúbburinn, einn hinn elzti í BNA, var stofnaður 1888 í Yonkers.
Bretar og Skotar hafa haldið saman sögu íþróttarinnar og telja sig upphafsþjóðir hennar. Íslendingar hafa leikið golf frá því snemma á fjórða áratugi 20. aldar. Fyrstu golfklúbbarnir voru GK Íslands (1934), GK Akureyrar (1935) og GK Vestmannaeyja (1938). GSÍ var stofnað 1942 og síðan hefur klúbbunum fjölgað mjög. Nú eru þeir u.þ.b. 72 í GSÍ. Fjöldi golfvalla vex stöðugt.