В начале Великой Отечественной войны Одесса оказывается в окружении. Войска Южного фронта не смогли сдерживать наступление противника и отходили. На одесском направлении из Приморской группы войск создаётся Приморская армия с задачей обороны Одессы. Существенную помощь оказывает Черноморский флот. Было организовано народное ополчение. 5 августа 1941 года начинаются бои за город. 8 августа в Одессе объявляется осадное положение.
Первый большой штурм Одессы немецко-фашистские войска предприняли 20 августа 1941 г. На взятие города были брошено 17 дивизий и 7 бригад противника, но героические советские войска остановили их наступление в 10-14 километрах от городских рубежей. 
Ежедневно 10-12 тысяч женщин и детей копали окопы, устанавливали мины, натягивали проволочные заграждения. Всего за время обороны, руками жителей было поставлено 40 000 мин, вырыто более 250 километров противотанковых рвов, на улицах города сооружено около 250 заградительных баррикад. Руками подростков, работавших на заводах и фабриках, было сделано порядка 300 000 ручных гранах и столько же противотанковых и противопехотных мин.
В сентябре была успешно проведена операция по высадке десанта на северо-восток от Одессы, в район сел Григорьевка и Старая Дофиновка (Григорьевский десант). Это позволило разбить наступавшие румынские войска и прекратить обстрел акватории порта. Штаб защитников города начал готовить планы по подготовке войск к зиме, но поступил приказ из центра - отходить в Севастополь.
В конце сентября Верховная Ставка перебросила войска, оборонявшие Одессу, на защиту Крымского полуострова. На кораблях Черноморского флота, с Одесского побережья в Крым, скрытно было переправлено 86 тысяч солдат и 15 тысяч жителей Одессы, а также большая часть оборонительной техники. Героическая защита Одессы на 73 дня блокировала армию врага. Благодаря самоотверженности советских войск и героев народного ополчения более 160 000 немецких солдат было убито, уничтожено 200 самолетов и 100 танков противника.
В городе оставалось менее половины населения, проживавшего здесь до войны, – около 250-280 тысяч человек…
Румыны и немцы вошли в Одессу лишь к вечеру 16 октября, но они овладели только «верхней Одессой», а была еще «нижняя Одесса» – катакомбы. Началась партизанская война против оккупантов. 5 тысяч солдат и офицеров было уничтожено одесскими партизанами, пущено под откос 27 эшелонов с вражеской военной техникой, взорвано 248 машин.
За время оккупации, продолжавшейся 907 дней, в городе погибли 82 тысячи жителей, 78 тысяч человек были угнаны на принудительные работы в Германию.
Город был освобожден от немецко-фашистских захватчиков 10 апреля 1944 года в ходе Одесской операции, проведенной 26 марта — 14 апреля 1944 года войсками 3-го Украинского фронта. После успешного проведения Березнеговато-Снигиревской операции 6-18 марта 1944 года главные силы 3-го Украинского фронта под командованием генерала армии Родиона Малиновского 27-28 марта форсировали Южный Буг и развернули решительное наступление в общем направлении на Николаев и Одессу.
Группировка советских войск к началу операции имела 470 тысяч человек, 12 678 орудий и минометов, 435 танков и самоходно-артиллерийских установок, 436 самолетов. Она превосходила противника в людях — в 1,3, в артиллерии — в 4, в танках — в 2,7 раза, но в 1,3 раза уступала ему в самолетах. Поддержка наступления войск фронта возлагалась на 17-ю воздушную армию, а также на авиацию и корабли Черноморского флота под командованием адмирала Филиппа Октябрьского.
Войскам 3-го Украинского фронта противостояли пополненные войска немецкой 6-й и румынской 3-й армий группы армий "А" (с 5 апреля "Южная Украина") под командованием генерал-фельдмаршала Эвальда Клейста, с 1 апреля — генерал-полковника Фердинанда Шернера. Они насчитывали 350 тысяч человек, около 3,2 тысячи орудий минометов, 160 танков и штурмовых орудий. На этом направлении противник мог использовать до 550 боевых самолетов 1-го авиационного корпуса немецкого 4-го воздушного флота и румынского авиационного корпуса.
Одесская операция началась в ночь на 27 марта, когда армии правого крыла и центра 3-го Украинского фронта приступили к расширению захваченных ранее плацдармов. Успеху операции способствовал глубокий охват южной группировки противника войсками 2-го Украинского фронта, которые к концу марта форсировали реку Прут и вышли на подступы к Яссам. 28 марта советские войска освободили Николаев. 6-я немецкая армия под давлением угрозы, нависшей над ее левым флангом и тылом, вынуждена была начать отход за реку Днестр. Войска фронта перешли к преследованию противника в направлениях Тирасполя и Раздельной.
30 марта на левом крыле фронта войсками 28-й армии с помощью морского десанта был освобожден Очаков и развернуто наступление на Одессу. 4 апреля 37-я армия и конно-механизированная группа овладели железнодорожным узлом "Раздельная" и перерезали последнюю железнодорожную ветку, связывавшую между собой войска противника. Подводные лодки и торпедные катера Черноморского флота вели активные действия на вражеских коммуникациях, срывая эвакуацию немецко-фашистских войск. Было потоплено свыше 30 вражеских судов.
В ночь на 10 апреля войска 8-й гвардейской, 6-й и 5-й ударной армий при содействии партизан после короткой артиллерийской подготовки атаковали противника в Одессе. Войска 8-й гвардейской армии ворвались в западную часть города, а соединения 6-й и 5-й ударных армий теснили врага с севера и северо-запада.
Всю ночь шли ожесточенные уличные бои, в результате которых советские войска полностью овладели городом и портом на Черном море.
К 10 часам утра 10 апреля Одесса была полностью освобождена советскими войсками.
Значительную помощь советским войскам в освобождении города оказали партизаны и подпольщики, вышедшие из катакомб и укрытий. Они помогли очистить город от врага и предотвратили подготовленные им взрывы порта, причалов, зданий, складов. В ночь на 10 апреля партизаны нанесли удар по противнику с тыла. Партизаны Куяльницкого отряда под командованием Леонида Горбеля уничтожили подрывную команду противника, которая должна была взорвать дамбу Хаджибеевского лимана и затопить Пересыпь, которая открывала советским войскам путь в город. За все время партизанской войны против оккупантов партизаны уничтожили свыше пяти тысяч вражеских солдат и офицеров, подорвали 27 воинских эшелонов, уничтожили 248 автомашин, спасли от угона в Германию около 20 тысяч советских граждан.
12 апреля войска 3-го Украинского фронта освободили Тирасполь, а 14 апреля вышли к реке Днестр и овладели плацдармом на его западном берегу южнее Бендер, сыгравшим важную роль в дальнейшем наступлении войск фронта.
В результате Одесской операции советские войска нанесли тяжелое поражение 6-й немецкой и 3-й румынской армиям.
27 соединениям и частям, наиболее отличившимся при освобождении города, было присвоено почетное наименование "Одесских".
Памятник Неизвестному матросу.
9 мая 1960 г. в Центральном парке культуры и отдыха им. Т. Г. Шевченко открыт памятник Неизвестному матросу, сооруженный в честь воинов Приморской армии и моряков Черноморского флота, героически оборонявших Одессу в 1941 г. 
К памятнику ведет аллея Славы. Здесь, под сенью раскидистых тополей, покоятся останки героев обороны и освобождения Одессы. На плитах-надгробиях из черного лабрадорита высечены имена.
Памятник расположен на высоком морском берегу. Над городом взметнулся обелиск из красного гранита, чугуна и бронзы высотой 21 м. На обелиске мемориальная надпись: "Неизвестному матросу" и дата сооружения - "1960". У подножия обелиска обрамленный бронзовым венком горит Вечный огонь. На плите подножия отлитые из бронзы автомат и бескозырка.
Вход на аллею Славы открывают две стелы из полированного красного гранита. Бронзовый барельеф на правой стеле изображает профиль скорбящей женщины. Надпись на стеле: "Свое бессмертие вам Родина вручила и не забыты ваши имена". На левой стеле, расположенной на постаменте из черного шлифованного гранита, высечены даты: "1941-1945".
Три ступеньки ведут на площадку вниз по аллее Славы к лицевой грани обелиска Неизвестному матросу и первым надгробиям. С правой стороны на братской могиле - надгробная плита из черного шлифованного гранита с именами экипажа подводной лодки "М-60". С левой стороны - надгробная плита из черного шлифованного гранита с именами экипажа подводной лодки "М-33".
Музыка, звучащая на Аллее славы, «Реквием памяти неизвестного матроса», была написана композиторомИ. Ассеевым на стихи Р. Рождественского в 1964 году. Звучит в исполнении одессита, Заслуженного деятеля культуры, журналиста Одесского областного Радио Л.К.Барабанова.
