К началу Второй мировой войны, Югославия была единственной страной на Балканах, которая не имела дипломатических отношений с СССР. Под воздействием начала войны советско-югославские отношения начали меняться. Уже в сентябре 1939 года был снят Герб Российской империи с дверей бывшего посольства России в Белграде. В декабре 1939 года во время голосования в Лиге наций об исключении оттуда СССР за войну с Финляндией, Югославия воздержалась.
В условиях Второй мировой войны Югославия нуждалась в поставках определенных товаров из СССР. 17 апреля 1940 года югославский министр иностранных дел Цинцар-Маркович сообщил итальянскому представителю в Белграде, что Югославия нуждается в сырье (нефти, хлопке и железной руде), которое может приобрести только в США и в СССР. При этом закупки в США осложняются из-за позиции Англии и Франции, а также из-за географической удаленности США от Югославии. О предстоящих торговых переговорах с СССР Югославия 17 апреля 1940 года оповестила Великобританию. Британские власти положительно отнеслись к предстоящим югославским закупкам в СССР, считая, что если Советский Союз поставит нефть в Югославию, то меньше советской нефти будет поставлено в Германию. 20 апреля 1940 года через Бухарест в Москву выехала югославская торговая делегация с официальными полномочиями.
11 мая 1940 года был заключен Договор о торговле и мореплавании между СССР и Королевством Югославия. Югославский посол в СССР Гаврилович получил указание от премьер-министра Драгиши Цветковича закупить в СССР 20 тысяч вагонов пшеницы (в Югославии был неурожайный год). Гаврилович предложил Анастасу Микояну оплатить это зерно поставками югославской меди. Югославские власти предложили СССР продать Югославии или муниципалитету Белграда здание российской дипломатической миссии, где в 1940 году по-прежнему располагалась штаб-квартира структуры, защищавшей белую эмиграцию (при этом югославская сторона изъявила готовность построить специальное здание для советского дипломатической миссии).
25 июня 1940 года были установлены двусторонние дипломатические отношения, а уже на следующий день советский полпред В. А. Плотников прибыл в Белград. 12 июля 1940 года Плотников смог вручить свои верительные грамоты. 16 сентября того же года в Белград убыл советский военный атташе А. Г. Самохин. Отношения СССР и Югославии в конце 1940-1941 годах были сложными. Югославские власти и часть общественников вели борьбу против сторонников дружбы с Советским Союзом. Трудности встретила попытка создания общества дружбы с СССР. В Югославии в то время действовали общества дружбы с другими странами (Францией, США, Великобританией, Германией, Италией, Венгрией и Болгарией), а также множество обществ культурного и экономического сотрудничества с другими странами. Были замечены антисоветские выступления со стороны белой эмиграции и украинских националистов. Уже в августе 1940 года было несколько инцидентов между советскими дипломатами и белыми эмигрантами. На рубеже 1940-1941 годов югославская полиция устроила провокацию с арестом советского корреспондента ТАСС, что чуть не привело к разрыву дипотношений.
В начале 1941 года югославское руководство стало ориентироваться на Германию, что привело к ужесточению политики как в отношении британцев, так и советских людей. Советское правительство попыталось предотвратить присоединение Югославии к Тройственному пакту. 23 марта 1941 года югославскому правительству было передано советское предложение: Советский Союз готов заключить с Югославией договор о дружбе и ненападении, если Югославия откажется от союза с Германией. Однако, 25 марта 1941 года югославская сторона подписала Венский протокол, что привело к государственному перевороту в Югославии в ночь с 26 на 27 марта 1941 года. Советское посольство сохраняло нейтралитет. 30 марта 1941 года новый министр армии и флота Боголюб Илич заявил, что так, как принятие британской помощи означает вступление в войну (к которой Югославия не готова), то Югославия надеется на советскую помощь. 2 апреля 1941 года в Москву прибыли югославские посланники, которые заключили советско-югославский Договор о дружбе и ненападении.
Но еще до завершения официальной церемонии подписания договора, Германия начала боевые действия против Югославии. Сам текст договора югославское правительство не смогло сразу получить, и он попал к югославскому правительству после потери Белграда уже в Афинах, куда оно сбежало. Через несколько дней Королевство Югославия прекратило существование, а его правительство покинуло Балканский полуостров. Часть территории Югославии была аннексирована, на остальной созданы марионеточные государства — Независимое государство Хорватия, недичевская Сербия и Королевство Черногория. Вскоре Советский Союз принял решение разорвать с эмигрантским королевским правительством двусторонние отношения. 9 мая 1941 года советский представитель Андрей Вышинский вручил ноту югославскому посланнику М. Гавриловичу о том, что советское правительство «не видит в настоящее время каких-либо юридических оснований для дальнейшей деятельности в СССР югославской миссии», считает, что «полномочия югославского посланника в СССР потеряли силу» и «будет рассматривать югославского посланника и сотрудников югославской миссии как частных лиц».
Портреты Сталина и Тито на первомайской демонстрации в Белграде.
Нападение Германии на СССР привело к тому, что Советский Союз восстановил 17 июля 1941 года отношения с эмигрантским королевским правительством Югославии. Восстановлению отношений предшествовало объявление войны Советскому Союзу со стороны Независимого государства Хорватия. Уже в 1941 году хорватские формирования стали участвовать в боях против советских войск. В дальнейшем часть хорватов попала в советский плен. В ходе войны советские власти поддерживали отношения, как с королевским правительством, так и с югославскими коммунистами И. Тито. Советская помощь сыграла решающую роль в победе титовцев.