Aménagé en 1982 par le Service des jardins et espaces verts de la Ville de Toulouse sur l’emplacement des anciennes casernes Compans-Cafarelli, le jardin japonais, au cœur du jardin Compans-Cafarelli, est une vraie création paysagère conçue par la Ville. Le jardin japonais n’occupe que 7000 m2 de la superficie totale de 10 ha de l’empreinte foncière du jardin de Compans-Cafarelli. Il est dû à la volonté de Pierre Baudis, alors maire et grand amateur de culture orientale. En 2016, le jardin a été rebaptisé du nom de son commanditaire. Il est composé de 3 types de jardins : jardin sec (kare-san-sui) , jardin de promenade (tsukiyama) et jardin de thé (Chinawa). On y rencontre également les cerisiers caractéristiques, les genévriers taillés en nuages, les « pas japonais », le mobilier (lanterne de pierre), le pont courbe et son reflet dans l’eau… Destiné à la contemplation, il met en scène les trois éléments symboliques du jardin japonais : l'eau, le végétal et le minéral. Le jardin japonais est librement inspiré du jardin de la villa impériale de Katsura à Kyoto dont il est la réplique au 1/10e. Ce beau jardin tire son origine de l'admiration de l'ancien maire de la Ville, Pierre Baudis, pour cette culture des jardins du soleil levant. Ouvert toute l'année.