El Museo de Úbeda se creó como Sección del Museo de Jaén según el Decreto 964/1972 de 16 de marzo, con el fin de “reunir, conservar y exponer en él cuantas obras de interés artístico, arqueológico e histórico sirvan de elemento educativo y sean exponentes de la historia y la cultura de aquella localidad”.
Como sede del Museo se eligió una casa mudéjar, descubierta durante unas obras en 1964. Fue inaugurado como tal el 18 de Enero de 1973, siendo su fundador y primer director Don Rafael Vañó Silvestre, quien además cedió su colección particular. No obstante, los fondos, de carácter arqueológico, procedían en su mayor parte del Museo de Jaén.
En 1984, mediante Real Decreto 864/1984, de 29 de febrero se traspasan las funciones y servicios del Estado a la Comunidad Autónoma de Andalucía en materia de cultura, con lo que el Museo Arqueológico de Úbeda pasará a ser una institución de gestión autonómica y titularidad estatal en virtud del convenio firmado con el Ministerio de Cultura por Resolución de 14 de diciembre de 1984 y actualizado diez años más tarde.
Asimismo desde 1991 la Dirección del Museo Arqueológico de Úbeda se encarga de manera provisional de la dirección y administración del Museo de Artes y Costumbres Populares del Alto Guadalquivir (Cazorla).
El grueso de la colección estable del Museo Arqueológico de Úbeda procede de la época de formación del mismo, no obstante, se ha ido incrementando con algunas donaciones de particulares y con el material procedente de excavaciones de la zona, en su mayoría de la propia Úbeda y de yacimientos cercanos.
Así pues, la mayoría de las piezas expuestas son depósito del Museo de Jaén que proceden tanto de donaciones, como es el caso de la colección Cazabán compuesta de material arqueológico de diversas culturas, como de excavaciones de la provincia. Entre éstas podemos mencionar la de La Calera (La Carolina), con material prehistórico; Castellones de Ceal (Hinojares), con importantes restos cerámicos de época ibérica, Collado de los Jardines o Castellar de Santisteban, para los exvotos ibéricos, tanto de bronce como de terracota.
En cuanto al material con el que se ha ido incrementando la colección, podemos señalar los restos arqueológicos procedentes de la propia ciudad, como los de las excavaciones de los antiguos juzgados, de la antigua muralla de la ciudad, de las Eras del Alcázar, o de la propia Casa Mudéjar sede del Museo. A ellos debemos añadir los de yacimientos cercanos como Úbeda la Vieja (antigua Salaria), Arroyo de la Dehesa, La Esperilla, Cortijo de Doña Aldonza, por mencionar algunos.
Algunos proceden de excavaciones sistemáticas, como los de los antiguos juzgados o de urgencia como la de las Eras del Alcázar, pero otros muchos se deben a donaciones de particulares, como los pertenecientes a un monumento funerario romano procedente del cortijo de doña Aldonza y donado por los señores Gámez Latorre-Díaz Saro.