Город был основан в 1848 русским императором Николаем I в устье реки Пиелисйоки. В XIX веке Йоэнсуу являлся промышленным и торговым городом. В 1860 году город получил права на торговлю, в связи с чем ограничения промышленной деятельности были устранены и местные лесопильные заводы начали расти и процветать. В посёлке Утра возник центр стекольной промышленности со значительным числом иностранных жителей, 11 % от всего населения посёлка. В то время, например, в посёлке существовала шведоязычная школа.

В 1856 году был построен Сайменский канал, существенно улучшивший условия водной транспортировки. Благодаря нему развилась активная торговля между Северной Карелией, Санкт-Петербургом и Центральной Европой. В конце 1870-х годов, благодаря построенным на реке Пиелисйоки каналам, существенно увеличилось движение по ней. Река Пиелисйоки стала важным маршрутом для лесосплава и снабжала лесопильные заводы и лесохозяйственную промышленность Финляндии материалом. К началу XX века Йоэнсуу являлся уже одним из крупнейших портовых городов Финляндии.

В течение последних десятилетий небольшой, в большой мере сельскохозяйственный город превратился в оживленный центр региона Северной Карелии. В 1954 году численность населения Йоэнсуу составила 24 тысячи человек. Начиная с 1960-х годов ускорился экономический рост Финляндии. Одновременно с этим начался процесс урбанизации. В 1960-х численность населения Йоэнсуу увеличилась на 28 % и к 1970 составила 36 тысяч человек. В 1960-е годы Северной Карелии был предоставлен статус самостоятельного административного региона, и город Йоэнсуу стал его столицей. В 1970-х годах в городе было осуществлено множество усовершенствований в области социального обеспечения.[1]

В 1969 году в Йоэнсуу был основан университет. Деятельность университета и его развитие играют важную роль в жизни города. В настоящее время университет состоит из восьми факультетов и девяти самостоятельных подразделений, а численность студентов составляет около 8 тысяч человек. Активное международное сотрудничество в области науки, промышленности и торговли приносит пользу всему региону.[2]

В ходе роста города в состав Йоэнсуу входили соседние поселения. Так в 1954 году была присоединена коммуна Пиелисенсуу (фин. Pielisensuu), а 1 января 2005 года в состав города вошли коммуны Киихтелюсваара (фин. Kiihtelysvaara) и Тууповаара (фин. Tuupovaara).

В начале 2009 года в состав Йоэнсуу были включены два соседних муниципалитета - Эно (фин. Eno) и Пюхяселькя (фин. Pyhäselkä). В результате этого слияния численность населения Йоэнсуу достигла значения около 72 тысяч человек.