El Museo de Úbeda se creó como Sección del Museo de Jaén según el Decreto 964/1972 de 16 de marzo con el fin de "reunir, conservar y exponer en él cuantas obras de interés artístico, arqueológico e histórico sirvan de elemento educativo y sean exponentes de la historia y la cultura de aquella localidad".

Como sede del Museo se eligió una casa mudéjar de entre los siglos XIV y XV descubierta durante unas obras en 1964. Se realizaron obras de restauración, acomodándolo para Museo Arqueológico. Fue inaugurado como tal el 18 de enero de 1973, siendo su fundador y primer director Don Rafael Vañó Silvestre, quien además cedió su colección particular; no obstante, los fondos, de carácter arqueológico, procedían en su mayor parte del Museo de Jaén.

El espacio expositivo ha de adaptarse a las características del edificio sede del Museo y se extiende tanto a las tres salas como al porche de entrada, patio, entrepatio y galería alta.

A la entrada, en el porche, el visitante se encuentra con un dolium romano procedente de la Rivera del Guadalimar. El Museo estructura sus colecciones en salas dedicadas a la Prehistoria, Cultura Ibérica y Colonizaciones y Cultura Visigoda y Musulmana.

En la sala de Prehistoria, los materiales más antiguos que expone son una serie de útiles paleolíticos. Se ilustran, además, las dos tendencias principales del arte rupestre parietal en dos reproducciones: la primera, de la Cueva del Garroso, de tendencia naturalista, y la segunda, de la Cueva de Almadén, esquemática.

En la sala destinada a la Cultura Ibérica y Colonizaciones sobresalen, entre otros, los exvotos en cerámica, todos femeninos, procedentes en su mayoría de Castellar de Santisteban, destacando especialmente la cabeza femenina con tocado de tres puntas, la dama con manto y la mujer con un niño a su izquierda.

En la sala de Cultura Visigoda y Musulmana destacan especialmente una estela funeraria musulmana, que se inicia con el primer verso del Corán, y la maqueta de un castillo en piedra.