弥生時代の日本には、集落に濠をめぐらせた環濠集落や山などの高いところにつくられた要塞集落である高地性集落が数多く存在したが、政治的統一が進むにつれて衰退した。

城の文献上の初見は、664年に天智天皇が築いた水城（みずき）で、この時代には文献に見えないものも含め多数の城が九州北部から瀬戸内海沿岸に作られた。また、蝦夷（えみし）との戦争が続いた東北地方では、7世紀から9世紀にかけて多賀城や出羽柵･秋田城などの行政拠点を兼ねた城柵が築かれた。

これらの城は、中国風の城壁都市の概念から来るものであり、国府として用いられたが、城壁建築技術が低かったため、柵などを築くことで代用している。これらの城は律令制が崩れると共に廃れ出し、武士の時代に築かれ始めたものが戦闘拠点としての狭義の城である。

中世の日本では、武士の平時の居住地への防護と、戦時に険阻な山に拠る際の防護と、二つの必要から城が発達した。戦国時代初期まで「城」と呼ばれるものは圧倒的に後者の山城であったが、「館（やかた／たち／たて）」「屋形（やかた）」と呼ばれる前者も実質的に城としての機能を備えていた。

戦国時代中期から城の工事量は飛躍的に増大し、平地に臨む丘陵に築いた平山城や平地そのものに築いた平城が主流となり、山城は廃れた。現在の城のイメージの中心となる天守や櫓などの形式は、松永久秀が築城した多聞山城や信貴山城などからみられるようになった。その後織田信長により安土城、豊臣秀吉により大坂城、伏見城などが築かれ、日本の城文化は栄華を極めた。

後の江戸時代になり、一国一城令が発令された為、多くの城は破却された。残った城も天守などが火災などで焼失することが多かったが、多くの藩が財政難に陥っており、また幕府による締め付けもあって再建が許された例は数少ない。 ところで、江戸時代に存在した陣屋と呼ばれる施設や、幕末に外国船への対策として日本各地に築かれた台場や砲台も城の一種である。

明治時代に入ると、1873年（明治6年）に布告された廃城令による破却や管理放棄、更には大日本帝国陸軍による資材の接収による崩壊が進んでいった。都市部ではほぼすべての城郭に大日本帝国陸軍が駐屯していたため（都市の中心に広大な敷地を有する城郭は、元来戦時のために作られたものでもあるので、防衛拠点として最適だったのである）、太平洋戦争（大東亜戦争）中に米軍の格好の標的となり、空襲や原子爆弾で名古屋城、和歌山城、広島城等、日本中の城郭という城郭が焼失した。

現在、江戸時代以前の天守が現存するのは、弘前城、松本城、丸岡城、犬山城、、彦根城、姫路城、松山城（美忠国）、松江城、丸亀城、松山城（伊予国）、宇和島城、高地城の12のみである。

昭和以降には、古い城（主に天守）の復元工事が多く挙行されるようになった。復原の目的の一つには観光の目玉作りがあり、中には外見だけを復原したもの、資料なしに想像で復原したものや、天守が存在しなかった城に天守を建てて復原したもの（模擬天守と呼ばれる）なども多く建設された。再建された天守は、主に火災防止と耐震の観点や建築基準法による規制で、多くが外見のみの鉄筋コンクリート造であるが、この構造だと天守台の石垣を保護するため天守台内部にケーソンを設置しなければならず、結果として遺構を破壊する羽目になった。しかし最近では残存する資料などから正確な復元ができないこのような建造物は建設を許可しない方針になってきており、これ以上このような模擬天守が増える事はないと思われる。内部は概ね郷土博物館、歴史資料館として一般開放されている。大規模な天守に比べて門や櫓は火災や戦災を逃れて残存することが多く、殆どが重要文化財に指定されている。また復原にしても、近年は多くの城で当時の工法や材料での建設に挑戦しており、新資料の発見がこれらを助けている。