Habitada inicialmente pelos índios gaviões, a área originária do município de Jacundá teve entre os seus primeiros ocupantes brancos o Coronel Francisco Acácio de Figueiredo, integrante da comitiva do Deputado e Coronel Carlos Gomes Leitão, que chegou ao local em 1892. O pequeno povoado ribeirinho servia de parada para quem navegava pelo Rio Tocantins e sediou a 2º circunscrição judiciária do município de Baião, ao qual pertencia.
Em 1915 cem moradores fizeram um abaixo-assinado e conseguiram afixar o povoado ao território de Marabá. Na época a principal atividade econômica era o extrativismo da borracha, do caucho, da castanha-do-pará e o diamante. Já no final dos anos 30, a exploração de diamantes às margens do Tocantins, na localidade de Foz do Riacho (depois chamado de Jacundá) era a principal fonte da economia local. Por Jacundá passava um trecho da estrada de ferro Tocantins.
Na segunda metade dos anos 70, com a abertura da Rodovia PA-150, a região recebeu um grande número de posseiros. O confronto entre invasores e grileiros foi inevitável. A interferência do extinto GETAT (Grupo Executivo de Terras do Araguaia e Tocantins), a partir de 1980 ajudou a serenar os ânimos. O órgão titulou e demarcou inúmeros lotes de terra, mas os novos proprietários rurais continuaram sem infra-estrutura, como escolas, estradas etc.
Durante esse período instalaram-se na Vila Arraias várias madeireiras, que deram um novo impulso à economia local. Com a construção da barragem de Tucuruí, foram inundados 900 km² do território de Jacundá, deixando submersas cachoeiras, canais, garimpos de diamantes, além da antiga sede do município e de alguns vilarejos. A sede municipal foi transferida das margens do Rio Tocantins para a Vila Arraias, no km 88 da Rodovia PA-150, com o remanejamento das famílias que moravam na área que foi inundada pelo lago da hidroelétrica.
Hoje os índios gaviões vivem numa área destinada, no km 15 da PA-70. Os demais habitantes estão espalhados pela cidade e vilarejos do município, que ganhou autonomia política em 1961.
A palavra Jacundá é o nome genérico de vários peixes da família dos ciclídios, que medem até 26 cm de comprimento e se alimentam de insetos como o jacundá-coroa e o jacundá-pinima. Esta palavra designa, ainda, uma dança indígena, que imita a pesca do jacundá. Nela, homens e mulheres formam um círculo de mãos dadas, alternadamente. Para o centro da roda vai um casal de cada vez, em torno do qual o círculo gira ao som de uma música. Na região onde fica o município há grande quantidade desse peixe, daí a origem do nome. Jacundá também é uma planta da família das miriáceas