До 15-ти лет Джеймс Джоуль воспитывался в семье отца, богатого пивовара; затем работал на заводе, изучая в то же время математику, химию и физику под руководством Джона Дальтона. Первые работы Джеймса Джоуля, относящиеся к 1838—1840 годам, касаются исследования законов электромагнетизма.
Изыскивая лучшие способы измерения электрических токов, Джеймс Джоуль в 1841 году открыл названный его именем закон, дающий зависимость между силой тока и выделенным этим током в проводнике теплом (Закон Джоуля — Ленца).
Изучая тепловые действия токов, Дж. Джоуль в 1843 году пришёл к убеждению в существовании предусмотренной Юлиусом Майером законной зависимости между работой и количеством произведенного ею тепла и нашёл численное отношение между этими величинами — механический эквивалент тепла.
Переселившись в 1843 году в Манчестер, Джеймс Джоуль неутомимо исследует тот же вопрос и в 1847 году докладывает о нём в заседании Британской ассоциации в Оксфорде.
В 1854 году Джоуль продаёт оставшийся ему от отца завод и всецело посвящает себя науке. Неутомимо работая все в той же области, Джеймс Джоуль до смерти обнародовал 97 учёных работ, из которых около 20 сделаны в сообществе с Вильямом Томсоном и Лайоном Плэфэром; большинство из них касается приложения механической теории тепла к теории газов, молекулярной физике и акустике и принадлежат к классическим работам по физике.
Джеймс Прескотт Джоуль был членом Лондонского королевского общества и доктором права Эдинбургского (1871) и Лейденского (1875) университетов, награждён 2 медалями Королевского общества; в 1878 г. ему назначена была правительством пожизненная пенсия в 215 фунтов.
В 1872 и 1877 Джоуль был избран президентом Британской ассоциации по распространению научных знаний.