La fondation de la ville d'Osaka remonterait au IIIe siècle. Son port joue un rôle fondamental dans son développement et lui permet de nouer des contacts avec la Corée et la Chine. C'est de cette époque que datent les kofuns, d'impressionnantes structures funéraires.

Tournée vers le commerce et l'industrie, Osaka est aussi devenue grâce à l'empereur Tenji, sous son ancien nom de Naniwa (難波 / 浪華 / 浪花?), la capitale de l'empire entre le milieu du VIIe et le milieu du VIIIe siècle. On construit à cette période le premier temple bouddhique du Japon, Shi Tennō-ji.

Un autre événement essentiel dans l'histoire d'Osaka a été la décision prise par Toyotomi Hideyoshi d'y construire un imposant château, Ōsaka-jō, en 1583. Cela attira de nombreux négociants. Bien qu'elle ait souffert lors des sièges de 1614 et 1615, Osaka retrouva la prospérité et, lors de la période Edo, était parfois surnommée « le garde-manger de la nation » (天下の台所, Tenka no daidokoro?) à cause de son rôle central dans le commerce du riz. Outre son économie florissante, la ville était un centre culturel qui vit se développer, par exemple, le bunraku (théâtre de marionnettes) et le kabuki ainsi qu'un lieu de savoir et d'éducation, en particulier dans le domaine de la médecine.

Au début du XXe siècle, Osaka était devenu un important centre industriel.

La ville a été profondément affectée par les bombardements américains de la Seconde Guerre mondiale. Les effets d'une reconstruction rapide et désordonnée se font encore sentir aujourd'hui sur son urbanisme.

Des années 1950 aux années 1970, la région a été la proie d'une pollution industrielle intense. Par exemple, l'année 1960, on a enregistré 156 jours de brouillard polluant. Depuis, Osaka est devenue pionnière au Japon de politiques environnementales.

Suita, dans la préfecture d'Osaka, a été le siège de l'Exposition universelle de 1970 : Expo '70.