AZM został założony w roku 1931 w Krakowie. W okresie II Rzeczypospolitej Polskiej jego oddziały funkcjonowały w Gdańsku, Krakowie, Lublinie, Lwowie, Poznaniu, Wilnie i Warszawie – z Zarządem Głównym i Radą Naczelną. Ideą powołania organizacji było zapoznanie akademików z zagadnieniami morskimi. Zgodnie z deklaracją ideową AZM w prowadzeniu działalności sportowo-żeglarskiej względy propagandowo-społeczne miały mieć priorytet nad celami sportowymi.

Sport był pojmowany jako metoda wychowania młodych według twardych reguł życia morskiego. „Zainteresowanie dla idei morza i zagadnień związanych z morzem weszły już w krew społeczeństwa. Pionierska robota, jakiej podjęła się Liga Morska i Kolonjalna, dziś jedna z najpotężniejszych organizacyj użytku publicznego – wydaje owoce. Praca w tym kierunku idzie coraz sprawniej, coraz szerzej! Ciągle naprzód. Nie brak w niej, oczywiście, udziału młodzieży akademickiej(…) z chwilą powstania Akademickiego Związku Młodzieży – weszły te prace na właściwe tory. (…) inicjatorzy Akademickiego Związku Morskiego, wytrawni działacze akademiccy, pokusili się zaszczepić tę ideę na grunt akademicki w sposób, który byłby najwłaściwszy Stąd też to ujęcie ideologji Akademickiego Związku Morskiego, stwarzające ze Związku nowy typ organizacji społecznej, nieznanej jeszcze w Polsce, sportowo-ideowej. Bo tak, jak z jednej strony, najpiękniejsza idea, nieumiejętnie zaszczepiona, traci na swym blasku, tak z drugiej sport nie może być celem samym w sobie, pozbawionym podłoża wychowawczo-ideowego. („Szkwał”, 1935).

Szkolenie śródlądowe realizowano w oddziałach na akwenach położonych niedaleko siedzib, szkolenie morskie odbywało się na obozach w Jastarni. Oddział AZM w Gdańsku został założony 28 lutego 1932 roku głównie przez studentów Wydziału Techniki Okrętowej i Lotniczej, między innymi Olgierda Jabłońskiego, Jana Bartoszczyka, Zbigniewa Międzybrodzkiego, Władysława Stępnia i Witolda Urbanowicza – nastąpiło to w efekcie dążeń polskich studentów Technische Hochschule Danzig do stworzenia organizacji o podobnym charakterze jak Akademischer Segler-Verein, który skupiał studentów niemieckich.

Po 3 latach szeregi gdańskie AZM liczyły 130 członków. Oddział dysponował jachtami „Wojewoda Pomorski”, „Panna Wodna” oraz „Janek”. Członkowie brali udział w rejsach szkoleniowych po wodach Zatoki Gdańskiej, także do portów krajów bałtyckich. Bardzo aktywnie AZM promował żeglugę morską i zdołał pozyskać niemałe środki na kupno i późniejsza eksploatację licznej flotylli jachtów. Siedziba oddziału mieściła się przy Heeresanger 11 (al. Legionów), pierwsza przystań jachtów znajdowała się przy Szańcu Mewim. W latach następnych jachty AZM wraz z jednostkami Polskiego Klubu Morskiego znalazły przystań w fosie twierdzy Wisłoujście.