Биологические родители отказались от него ещё в младенчестве, а когда мальчику было восемь месяцев, он потерял зрение из-за редкого вида опухоли. Но даже несмотря на свой недуг, Джефф Хили научился играть на гитаре. Инструмент ему подарили приёмные родители. Он помещал его на колени и играл методом тэппинга, фактически заново им изобретённым.
Музыканта ставят в один ряд с величайшими гитаристами, такими как Джими Хендрикс и Джимми Пейдж. Он играл со множеством знаменитых музыкантов, в числе которых Ян Гиллан. По мнению британского журнала Classic Rock, Джефф Хили является одним из величайших гитаристов всех времён. Любителям кино он известен по фильму «Придорожное заведение», или «Дом у дороги», в котором играл роль музыканта в баре.