現在では“城”という字を訓で“しろ”と読むのは当然であるが、歴史を見ると、かつては“しろ”という大和言葉はなかったらしい。古代から中世初期には、“城”のほかに“柵”という字も用い，“き”と呼んでいた。たとえば、大宰府のそばにある大野城は“おおののき”と呼び、山形県の出羽柵は“でわのき”と呼んだらしい。後に、それぞれの字は、城を「じやう＝現代仮名遣い：じょう」と読み、柵を「さく」と読むようになった。

“しろ”という読みの語源は、こういうことのようである。山城の国は、奈良山の背後にあたるので、山の後ろの意で“やましろ”と名付けられ、“山背”とも書いた。平安京に遷都したとき、「此国山河襟帯、自然作城」とあってこの国が自然の城であるという認識があり、延暦13年（794年）11月15日に「斯形勝によりて、新号を制すべし。宜しく山背国を改めて山城国と為すべし」という詔が出された。「新号を制すべし」とあるから、改字にとどまらず、称号も“やまき”としたのかもしれないが、実際は字だけを「山城」と改めて、なお“やましろ”と訓じたため、「山城」という文字列についてだけ、“城”に“しろ”の訓が生じた。しかし、山が城をなす土地に“やましろ”の読みが対応していたうえに、山に城を造ってそれぞれの領国を守る時代が訪れたため、中世後期には、“城”は“しろ”と読まれ、文明6年（1474年）の『文明本節用集』には“城”に「シロ」の訓がある。