Wytwórnia Wielkie Joł powstała formalnie we wrześniu 2002 roku ale jej nieoficjalne początki sięgają kilka lat wstecz. Nazwa Wielkie Joł od samego początku jest bezpośrednio związana z twórczością jednego z najpopularniejszych artystów Hip-Hopowych w Polsce, członka legendarnego zespołu Warszafski Deszcz - Tede. To właśnie on na swojej płycie S.P.O.R.T. (wydanej jeszcze nakładem RRX) użył pierwszy raz określenia Wielkie Joł i od tamtego czasu jest z nim utożsamiany. W 2002 roku Tede oraz działacz Hip-Hopowy Dj Ostasz połączyli swoje siły i stworzyli wytwórnię muzyczną funkcjonującą pod zakorzenioną już wtedy nazwą Wielkie Joł. Odbiło się to dużym echem zarówno wśród fanów Hip-Hopu, jak i w całej branży muzycznej. Powstała nowa marka i nowa jakość na polskim rynku wydawniczym. Na początku wokół wytwórni Wielkie Joł skupili się artyści stanowiący niejako jej naturalną bazę - Tede i Numer Raz.