南千岛群岛(日本称“北方四岛”)是指俄罗斯千岛群岛和日本北海道之间的国后、择捉、齿舞和色丹四个岛屿。1945年9月3日，北方四岛被苏联占领，1947年1月被正式并入苏联版图。直到上世纪50年代初期，日苏之间并不存在什么领土问题。
1956年10月19日，苏联和日本代表在莫斯科签署《苏日共同宣言》，宣言不仅在法律上确定了两国之间的战争结束，而且还谈到恢复成熟的外交以及未来两国之间的贸易和经济关系等问题。苏联本着友好和睦邻的精神“满足了日方的意愿”同意在适当的时机将四个争议岛屿中较小的两个：齿舞岛(Habomai)和色丹岛(Shikotan)移交给东京。
因此在签约时，苏联与日本没有在宣言中写上与这方面相关的任何内容。
赫鲁晓夫对这种“外交上的成功”感到沾沾自喜，他梦想着将日本变成像瑞士或奥地利这样的完全中立的国家，这样即使失去2个小岛也十分值得。但是他没有考虑到复杂的日俄历史问题，同时日本是美国在远东地区的主要地缘政治盟友这一事实。
1960年1月19日，日本与美国签署了《合作与安全条约》，在此框架内巩固了美国在日本的军事地位。这对赫鲁晓夫来说是一记耳光，因为被美国控制的日本将不是完全中立的国家，而成了美军最重要的战略要塞。为此在这方面，苏联向日本政府送去了两份备忘录：1960年1月27日和2月24日，备忘录中明确指出在新形势下，绝对不可能转移齿舞群岛和色丹岛；至少也要等到直到所有外国部队撤出日本，并与苏联签署全面的和平条约才行。
也就是说，苏联归还两岛必须首先满足两个前提条件：缔结苏日和平条约及美国从日本撤军。不仅如此，1961年赫鲁晓夫在致日本首相池田勇人的复函中进而撤销了关于归还齿舞、色丹两岛的承诺，并称“领土问题已经解决”，“日苏之间不存在领土问题”。
在东京，日本人试图看起来很惊讶：“我们做了什么?!您之前已经答应了!”，然后开始大声疾呼“寻求”苏联把整个南千岛群岛转移给日本。而作为回应，莫斯科多次明确表示该话题已经结束。在此形势下，出于冷战对抗和国内政治斗争的需要，美国及日本亲美派抛出了所谓的日苏领土问题，大作文章制造紧张气氛，南千岛群岛的之争由此而生。
迄今为止，日本与俄罗斯(作为苏联的继任者)之间的和平条约也尚未缔结，而这也让东京极有可能错过永远获得至少一半南千岛群岛的机会。