Sve rase pastirskih pasa na Balkanu pa i šarplaninac nastale su u okviru zatvorenih planinskih masiva koji su sprečavali jači uticaj ostalih rasa pasa i na odredjen način “konzervisali” rase na tom području. Rasa se formirala na području današnje Šarplanine. Šarplaninac predstavlja u osnovi lakši tip molosoidnog psa od koga vodi direktno poreklo.
Početak kinološkog rada u našoj zemlji vezan je za dvadesete godine prošlog veka. U to vreme smatralo se da su Iliri uzgajali pretka pastirskih pasa u našoj zemlji pa se za sve naše pastirske rase predlaže naziv “Ilirski ovčar”. Pod tim imenom šarplaninac je prvi put predstavljen na izlozbi u Ljubljani 08/09.09.1926. godine. Tada su predstavljena dva psa. Pošto 10.05.1929. Kraljevina Jugoslavija postaje članica FCI odmah je usledila i najava za ovu rasu.
Na medjunarodnoj izložbi pasa koja je 19. i 20.05.1929. održana takodje u Ljubljani prijavljeno je već sedam pasa ove rase. Iste godin u septembru mesecu na medjunarodnoj izložbi pasa u Beču, predstavljena su četiri ilirska ovčara a prvak rase postao je pas Šar – JRSp. 57 IO-9, izvorni primerak sa šarplanine.
Kako je FCI-u trebalo predložiti standard, 05.04.1936. prvi put je održana ocenska smotra za ovu rasu na kojoj je izvedeno 30 pasa. Podaci sa ove smotre iskorišćeni su za stvaranje prvog predloga standarda. On je završen u novembru 1938, a službeno verifikovan na Skupštini FCI-a održanoj u Stokholmu 02.06.1939. Za vreme II Svetskog rata, kao i u većini zemalja kinološki rad je zamro, ali već 1948. na Skupštini FCI-a koja je održana na Bledu usvojena je dopuna standarda ilirskog ovčara. Te godine prof. dr Slobodan Pavlović prvi put odlazi na šarplaninu i započinje opsežno zootehničko istraživanje koje je trajalo punih 30 godina.
U Beogradu je 17.07.1954. u okviru Kinološkog sveza Jugoslavije oformljena Komisija za autohtone rase. Jedan od osnovnih zadataka ove Komisije bio je da utvrdi da li je stvarna postojbina ilirskog ovčara baš Šarplanina. Posle skoro trogodišnjeg istraživanja ovi navodi su potvrdjeni i na osnovu toga dat je predlog da se ime ilirski ovčar promeni u Jugoslovenski ovčarski pas – šarplaninac, sto je 14. i 15.06.1957. na Skupštini u Briselu prihvatio i FCI. Ovaj standard nije pretrpeo bitne promene u odnosu na standard iz 1939. sem što je promenjeno ime rase. Sledeća izmena standarda usvojena je na Skupštini FCI-a u Varšavi 07. i 08.05.1969. kada su definitivno razrešene dileme oko visine i dozvoljenih boja ove rase.