El Museo de Úbeda se creó como Sección del Museo de Jaén según el Decreto 964/1972 de 16 de marzo con el fin de "reunir, conservar y exponer en él cuantas obras de interés artístico, arqueológico e histórico sirvan de elemento educativo y sean exponentes de la historia y la cultura de aquella localidad". Como sede del Museo se eligió una casa mudéjar descubierta durante unas obras en 1964. Se realizaron obras de restauración, acomodándolo para Museo Arqueológico. Fue inaugurado como tal el 18 de enero de 1973, siendo su fundador y primer director Don Rafael Vañó Silvestre, quien además cedió su colección particular; no obstante, los fondos, de carácter arqueológico, procedían en su mayor parte del Museo de Jaén. Esta casa se sitúa en la antigua colación de San Pablo, donde se conserva fosilizada la traza mudéjar de la ciudad. Es un entramado de calles estrechas, con adarves y angostos callejones, distribuidos en manzanas irregulares, donde hallamos un gran número de edificios bajomedievales, no solo palacios, sino también sencillas viviendas. La casa sede del Museo Arqueológico es un interesante ejemplo de arquitectura doméstica mudéjar, de entre los siglos XIV y XV. Se organiza en torno a un patio central, con cuatro galerías abiertas a las que se abren las distintas dependencias. El acceso actual se realiza a través de un porche con una arquería que, en origen, fue la galería que daba paso a un corral o jardín, en el que con posterioridad se construyó la vivienda contigua. La arquería está compuesta por cuatro arcos túmidos con despiece de dovelas, en las que aún pueden verse las antiguas marcas de los canteros, sustentados por pilares ochavados con basas decoradas con bolas y capiteles poliédricos con decoración vegetal que recuerda la forma de ataurique. El patio adintelado en torno al cual se distribuyen las distintas salas y dependencias está también sustentado por este tipo de columnas, aunque el capitel es diferente, pues se trata de bloques cuadrados decorados con escudos. La casa, convertida en casa de vecinos, se remodeló para museo, conservando la estructura en torno a un patio, pero utilizando también elementos arquitectónicos procedentes de otras casas de Úbeda como la portada de entrada. El espacio expositivo ha de adaptarse a las características del edificio sede del Museo y se extiende tanto a las tres salas como al porche de entrada, patio, entrepatio y galería alta.

A la entrada, en el porche, el visitante se encuentra con un dolium romano procedente de la Rivera del Guadalimar. El Museo estructura sus colecciones en salas dedicadas a la Prehistoria, Cultura Ibérica y Colonizaciones y Cultura Visigoda y Musulmana.

En la sala de Prehistoria, los materiales más antiguos que expone son una serie de útiles paleolíticos. Se ilustran, además, las dos tendencias principales del arte rupestre parietal en dos reproducciones: la primera, de la Cueva del Garroso, de tendencia naturalista, y la segunda, de la Cueva de Almadén, esquemática.

En la sala destinada a la Cultura Ibérica y Colonizaciones sobresalen, entre otros, los exvotos en cerámica, todos femeninos, procedentes en su mayoría de Castellar de Santisteban, destacando especialmente la cabeza femenina con tocado de tres puntas, la dama con manto y la mujer con un niño a su izquierda.

En la sala de Cultura Visigoda y Musulmana destacan especialmente una estela funeraria musulmana, que se inicia con el primer verso del Corán, y la maqueta de un castillo en piedra.