1945年8月8日前苏联对日宣战，日苏处于战争状态。1951年9月，前苏联虽派代表出席旧金山对日媾和会议，但前苏联拒绝在对日媾和条约上签字，所以日苏在外交上仍处于断交状态。随着形势的发展，日苏双方都感到有必要恢复邦交正常化。断交状态使得日本很难解决被扣留在前苏联的日本人回国、北洋渔业、领土等遗留下来的问题。
尤其前苏握有联合国安理会常任理事国的行政否决权，若不恢复与苏邦交正常化，日本无法加入联合国，恢复其在国际社会中的应有地位。前苏联也感到由于拒绝在媾和条约上签字，围绕日本问题的国际外交活动受限制。
1953年以后国际形势发生很大变化。1953年3月斯大林逝世，前苏联开始调整对外政策，1953年7月朝鲜半岛实现停战。日本在这种国际背景中，长期推行对美一边倒政策的吉田内阁垮台，于1954年12月10日成立了鸠山内阁。鸠山打出自主外交、调整与前苏联关系的旗号。他把自己的政治生命寄托在实现日苏邦交正常化和加入联合国上。
对此，前苏联也做出积极的反应。12月16日，鸠山内阁成立不到一个星期，前苏联外交部长莫洛托夫发表谈话说，前苏联愿意研究实现“苏日关系正常化的实质性措施”。翌年1月25日，苏驻日代表部临时首席代表多姆尼茨基密访鸠山首相私邸，递交“为了苏日邦交正常化准备举行会谈”为内容的公函。日苏双方经过反复协商，最后决定从1955年6月1日起在伦敦举行正式谈判。
谈判经历四个阶段，第一阶段，1955年6月3日至9月13日。日方全权代表为民主党众议院议员松本俊一，苏方全权代表为驻英大使马立克。会谈中，有关被苏扣留的日本人情况调查及他们回国问题取得一些成果。但在领土问题上双方意见大相径庭。
苏方认为包括齿舞、色丹在内的千岛群岛和南库页岛是根据雅尔塔协定取得并在波茨坦公告中也被确认，日本又在旧金山条约中已放弃，所以日苏间领土问题已解决完毕。但在会谈中前苏联表示在一定条件下齿舞、色丹两岛可以还给日本。日方则认为，旧金山条约中虽然规定日本放弃南库页岛和千岛群岛，但这并不等于立即承认它为前苏联领土。
日本要求归还齿舞、色丹，同时主张择捉、国后是日本固有领土，不包含在旧金山条约中规定的放弃之范围，要求归还。还主张把南库页岛和北千岛归属问题应将由有关国家召开国际会议来决定。对此前苏联采取强硬态度，谈判陷入困境。加之马立克奉命将以联合国总部苏方随员身份赴纽约，松本也“奉本国政府训令回国”。所以，第一阶段谈判于9月13日第15次会议后就结束。
1956年1月至3月为谈判的第二阶段。1955年11月日本自由党和民主党合并成立自由民主党，并成为执政党。自民党内鸠山首相对日苏谈判持积极态度，重光外相持慎重态度，党内原自由党派系中的很多人采取消极和反对态度。从1956年1月17日起第二阶段谈判开始以来，对和平条约草案进行逐条审议。
但领土问题上双方意见仍对立，未能取得进展。3月20日第23次会谈后，进入无限期休会阶段。翌日，前苏联发表了为保护渔业资源限制北洋的鲑鱼、鳟鱼捕获量的决定。这实际上是苏方为再度举行日苏谈判而对日方施加的压力。
4月29日，日本派河野一郎农相去莫斯科与前苏联渔业部长伊仕科夫进行渔业谈判。5月15日签订了日苏渔业条约、海难救助协定以及1956年度出海捕鱼临时措施协定。联合公报中提到渔业条约和海难救助协定是自日苏间恢复外交关系之日起同时生效。河野和伊仕科夫同意为了迅速实施“条约”和“协定”，在7月31日以前恢复日苏关系正常化的谈判。
从7月31日起莫斯科举行第三阶段谈判。日方全权代表是外相重光和松本俊一，苏方是外交部长谢皮洛夫。谈判中双方对领土问题的意见仍对立，无法取得一致意见。重光一度想要基本上按前苏联方案进行妥协，但日本政府不同意。
8月15日，重光以参加苏伊士运河问题国际会议为理由离开莫斯科。苏方也以9月份领导人休假为理由中断了第三阶段谈判。
9月11日，鸠山向前苏联部长会议主席布尔加宁建议继续谈判领土问题，若实在解决不了把它暂时搁置起来，先解决恢复外交关系、归还被扣留的日本人、渔业条约的生效、加入联合国等问题。苏方表示同意。
于是鸠山首相于10月7日去莫斯科和布尔加宁举行第四阶段谈判。会谈中商定暂时将领土问题作为悬案予以搁置，先结束战争状态。10月19日签署了《日苏联合宣言》。联合宣言规定：结束两国战争状态，恢复外交关系，苏答应遣返战俘和清查失踪的日本人；双方相互放弃由于战争的结果而提出的所有要求。
宣布日苏渔业条约及海难救助协定生效，就缔结和约继续谈判，苏同意在和约订立后将齿舞、色丹移交日本。根据联合宣言日苏恢复了邦交，同年12月目本加入联合国。但由于北方四岛问题未解决，日苏和约至今仍未签订。