Urodził się 28 czerwca 1971 roku w Pretorii w RPA jako syn inżyniera i dietetyczki. W wieku 10 lat kupił pierwszy komputer i sam nauczył się programować. Pierwsze większe pieniądze zarobił w wieku 12 lat – za 500 dolarów sprzedał napisaną przez siebie grę Blastar.
Nadzwyczajnie uzdolniony przemknął przez liceum, ale na studia w ojczyźnie już nie poszedł. Wyemigrował do Kanady do rodziny matki. Zrobił to między innymi po to, żeby wymigać się obowiązkowej służby wojskowej w Południowoafrykańskich Siłach Obronnych.
Czyściciel kotłów
Mimo wyraźnej smykałki do interesów Musk drogę do miliardów miał długą i trudną, choć zapewnia, że od początku był przekonany, że wyjedzie do USA i osiągnie sukces. Żeby zarobić na utrzymanie w Kanadzie imał się różnych zajęć. Pracował na farmie u kuzyna w Swift Current w stanie Saskatchewan przy wyrębie lasów, a także jako czyściciel kotłów w tartaku w Kolumbii Brytyjskiej.
Po dwóch latach ciężkiej fizycznej pracy przeniósł się do Toronto, gdzie znalazł pracę w dziale IT w banku. W wieku 21 lat przeniósł się do USA, po uzyskaniu stypendium na University of Pennsylvania, jednej z najlepszych uczelni w Stanach. Uzyskał licencjat z ekonomii i fizyki.
Naukę miał kontynuować na innej prestiżowej uczelni, Stanford University, ale po dwóch dniach podziękował. Wyczuł, że połowa lat 90. i epoka gwałtownego rozwoju internetu, to nie czas na uczenie się teorii tylko na praktykę. Razem z bratem z Kimbalem założył firmę Zip2, która zajmowała się tworzeniem oprogramowania do publikowania treści dla serwisów informacyjnych.