日本“智慧城市”概念最早由东京大学前校长小宫山宏提出。他认为，城市正在越来越庞大，各种都市病层出不穷，比如人满为患、垃圾围城、交通拥堵等等。在小宫山宏的努力下，“智慧城市”的概念逐步受到重视，并得到了政界的关注。

日本政府于2009年7月推出“I-Japan(智慧日本)战略2015”，提出要在2015年实现“安心且充满活力的数字化社会”，让数字信息技术如同空气和水一般融入生产和生活之中。

从政府层面来说，“I-Japan”战略的主要关注点在政府治理电子化、医疗健康信息服务、教育与人才培育等三大方面，在进行网络基础设施建设、重视新技术的研发和推广运用的同时，对远程医疗、电子病历等方面进行积极尝试。

在转变城市发展观念的舆论推动下，日本企业的积极性也被调动起来。例如日本最大汽车生产商丰田公司率先提出“智能化高速公路”设想。在这一设想中，车载信息终端器可以利用外部信息选择最佳行驶方案，从而达到节省油耗、节省时间的目的。日本松下公司也提出利用光纤技术武装城市，推动实现智能家庭、智能学校、智能医院等等。