横滨的起源在文献记载上可以追溯到11世纪。据说横滨出身于桓武平氏，由平良文子孙的一支---平子氏统治。这一统治一直持续到16世纪。 到了12世纪的镰仓时代，横滨地区得到了进一步地开发，北条氏在金泽建造了称名寺和金泽文库，佐佐木泰纲则在小机开垦了水田。 其后，在江户幕府的统治下，大部分是旗本领或幕府直辖的天领，但作为大名领，有金泽的六浦藩。 1601年，继神奈川、保土之谷之后，1604年户冢成为东海道的驿站，到了19世纪初期，人口得以增加，神奈川已与城下町小田原并驾齐驱了。

1854（安政元）年，日本代表林国子祭酒与美国代表贝卢签订了日美和亲条约（神奈川条约）。1858（安政5）年，又由美国总领事哈里斯缔结了日美修好通商条约，随后又相继与荷兰、俄罗斯、英国、法国缔结了通商条约，横滨定于1859年7月1日（太阴历安政6年6月2日）开港。 幕府在此年设置了运上所，以此为界，以南为外国人居住区，以北属日本人居住区。日本人居住区划分为5个区域，命名为横滨町，各区域分设名主，由长老来统辖全町。

1889（明治22）年4月1日实行市制。市的区域虽然仅包括现今除了本牧和根岸之外的中区的狭窄地区，但户数已达27209户，人口达121985人。（1889年末当时）

开港初期，从横滨输出生丝、茶和海产品，同时输入绢织品和毛织品。横滨商人于1873年（明治6年）设置了生丝改公司，又于1881年（明治14年）设置了生丝存放处，从而确立了租界贸易的主导权。 进入明治20年代，1887年（明治20）开凿了县营水道，1890年（明治23年）横滨共同电灯公司开始通电，1891年（明治24年）十全医院，翌年煤气公司和报时局分别移交市营，横滨的城市基础得以完备。 1895年（明治28年）设立的生丝检查所确立了近代城市贸易的机能。

1923年（大正12年）9月1日，由于关东地区发生大地震，横滨市的房屋和建筑物相继倒塌，整个城市化为一片火海。死者达2万余人，完全毁坏的房屋达6万户，遭到了毁灭性的打击，但在市民的不懈努力之下，到了昭和4年已基本恢复了原状。

继明治34年和44年之后，昭和2年第三次扩建城市，鹤见和保土之谷町被编入市内，同年10月设立区制，地域分为矶子、神奈川、保土之谷和鹤见5个区。昭和11年第4次、次年的12年进行了第5次扩建，经过昭和14年的第6次扩建，新设了港北、户塚区。之后，区域又发生了变更，到了昭和23年设置了南、西、金泽3区，合计达到了10个区。44年置港南、旭、绿、濑谷，成为14个区，61年增设荣区和泉区，合计为16个区，随后，在平成6年11月诞生了青叶峭都诛到了现在的18个区。

1945年（昭和20年），美军的空袭日益激烈，遭受多次空袭之后，横滨的街道已化为一片焦土。特别是在5月29日的空袭中，死伤人数与下落不明者达到14157名，受害房屋达79017户，百分之四十二的城市和街道被烧为灰烬。

昭和20年8月15日，由于战败，横滨港湾设施的百分之九十、城市街道的百分之二十七被联合军接管。因此，与其他城市相比，横滨基础建设的复兴被大大拖延。昭和26年由于对日讲和条约的签订，日本恢复了独立。 同年的6月1日，横滨港的管理权由国家转为市里，昭和27年解除了对大栈桥的接管，以此为转机，在市民的努力下，横滨的接管权逐渐得到了解除。