孫中山在宣佈籌委會名單的同時，1924年1月28日，擇定以廣州近郊黃埔長洲島原有廣東陸軍學校和廣東海軍學校舊址為陸軍軍官學校校址。

黃埔島，原本稱長洲島。位於廣州市東郊，面積只有6平方公里，南連虎門，扼珠江要衝。從廣州市區到東郊碼頭，再乘當時的汽船行駛約一小時，水煙連天中便遠遠看見黃埔島靜臥前方，兀立江心，如同一名哨兵，扼守著廣州的門戶，是歷史上有名的長洲要塞。島上山巒起伏，當中一座山峰名扯旗山，林木蔥蘢，環境清幽，是一處既為軍事要樞、又極利於興武講學的好地方。清道光年間，禁菸的林則徐大帥在這裡修築了多處炮臺，以後又建立了軍事要塞。

選址黃埔島，體現了孫中山先生高深的戰略眼光。他之所以選定這裡為校址，主要是從安全形度考慮的，因為當時滇桂軍閥盤踞廣州，大小軍閥隨時發山大王脾氣，弄不好就會突然襲擊軍校，在遠離市區的孤島辦軍校則可以避開軍閥的控制和干擾。其次，這個四面環水的小孤島，築有炮臺，與隔江相對的魚珠炮臺、側面沙路炮臺形成三足鼎立之勢，把守控制江面，是進可攻退可守的好地方，便於學習與練武。其三，島上的清末陸軍小學堂校舍仍在，稍加修葺即可使用，節省了當時相當緊張的人力和資金。正是在這幾個“天時地利人和”的基礎上，黃埔軍校得以順利建成，並得到良好的發展。黃埔軍校有了這麼一個大本營，在戰略上佔了先機之利。

軍校籌建工作“頭三腳”

萬事開頭難，何況軍校在籌建之初，一無所有。但軍校創辦工作在孫中山的領導和共產黨人的積極合作下，踢開了“軍校選址、校長風波、招生考試”的頭三腳。

黃埔島上雖然有幾處房屋，但因年久失修，已是敗瓦頹垣，且由於遠離市區，水陸交通皆艱難，不便到島上辦公。籌備處在開始時的近半個月裡，沒有地方可安置，孫中山只好把乘坐的“大南洋號”船停靠在江邊，作為臨時辦公地點。後在南堤2號（今廣州沿江中路第239號對面）尋找到一座西歐古羅馬圓柱式小樓房，年租金200元白銀。2月6日，設籌備處於此樓，正式開始籌建軍校的工作。這座古建築，矗立於珠江岸邊，南瞰滔滔江水，後臨八旗二馬路，全樓高約15米，是一幢中間3層、後進2層的西式樓房，建築佔地面積約700平方米。當時，這裡是市區最熱鬧、最繁華的地方之一，賭館、妓院比比皆是，幾家著名的百貨公司大樓林立於附近。南堤2號古樓最早捲動了黃埔軍校的歷史風雲，自1924年初黃埔軍校籌備委員會駐節這裡開始，黃埔軍校駐省辦事處、中國青年軍人聯合會、黃埔軍校同學會都曾在這裡辦公。因此，這裡又被稱做是黃埔軍校的祖宗之聖地。

廣州《民國日報》刊登的黃埔軍校考試委員會啟事軍校籌備委員會登岸入住南堤2號古樓後，在門前掛起了籌備委員會辦事處的名匾，張貼出第1期招生公告，公開打出了建立軍校的旗幟。

南堤2號古樓2樓中間會議室的會議，在廣州早春的和風中是一個接著一個地開，晚間樓內燈火通明。在籌備會開張初期，會議由蔣介石主持，後由廖仲愷代行其責。參加會議的除大元帥府任命的原大本營高階參謀王伯齡、原粵軍第8師師長兼西江善後督辦李濟深、原粵軍西江講武堂總教練林振雄以及俞飛鵬、宋榮昌、張家瑞6名正式委員外，還有經王伯齡剛從粵軍第6旅邀請來的原參謀長葉劍英、粵軍驍將鄧演達以及營長嚴重、原保定軍校炮兵隊長錢大鈞、建國粵軍軍部參議劉峙、原東路討賊軍總部副官顧祝同等。會議的內容，主要是決定有關軍校開辦事宜，實施各項創校工作。

這一時期，由籌委會委員討論決議的各種工作繁多，初步安排的主要工作有8項：訂立校章，修理校舍，任免教職員，招考學生，審查員生資格，決定第1期學生教練計劃，決定全校員生必須加入國民黨，決定服裝、教材書籍之樣式種類及購置辦法。在籌備軍校體制過程中，初定設立教授、教練、管理、軍需、軍醫5個部，由各籌備委員暫行分工主管。先期各級辦事人員則從各軍軍事學校在職人員中選拔，經嚴格挑選後再透過考試擇優錄用。

孫中山手書的國民黨中執委候補委員名單關於學生來源，籌委會決定在全國19個省進行招考。2月10日，擬定招生名額為324人。分配各省區招考學生名額：直隸、山東、山西、陝西、河南、四川、湖南、湖北、安徽、江蘇、浙江、福建、廣東、廣西14省每省12人，計168人；東三省、熱河、察哈爾計50人；湘、粵、滇、豫、桂軍5