從5月1日至3日，他們熱烈地討論了三天，目的是想要找到一種合適的方法，來痛快淋漓地表達一下他們對腐敗的中國政府及外國列強的不滿，最後，他們取得了一致的意見：立即召集北京所有的大學生，舉行一次示威大遊行。

5月3日晚上，由北京大學發起，在沙灘附近北河沿的北大法科，召開了北京大專學生代表的臨時緊急會議。到會的竟有一千多人。會上決定，在第二天，也就是5月4日的中午十二時半，舉行群眾大會，遊行示威，抗議政府的外交政策。同時選派代表到除日本以外的各國公使館，陳述對青島問題的態度。會議的氣氛極為熱烈，北大法律系的一個學生，當場撕下來一塊衣襟，用手咬破中指，寫下了“還我青島”四個鮮紅的大字。有一個十六七歲的學生，痛哭流涕地表示：如果不舉行示威遊行，他就當場自殺。

5月4日，是星期日。這一天的上午十點鐘，十三所大專學校的學生代表又在法政專門學校開會，陸軍學校也派了學生代表列席。這個會議開了一個半小時，透過了五項決定：（1）通電國內外各團體，呼籲他們抗議巴黎和會的山東決議案；（2）設法喚醒全國各地國民；（3）準備5月7日（這一天是國恥紀念日，是四年前日本政府向袁世凱政府提出二十一條後最後通牒的日子）在各地召開國民大會；（4）聯合北京所有的學生，組織一個永久的機構，負責學生活動以及與其他社團聯絡關係；（5）決定本日下午遊行示威的路線，由天安門出發，經過東交民巷入崇文門大街等地。下午一時半左右，天安門廣場已經聚集了三千多名學生，他們分別來自十三所大專學校：北京高等師範學校（北京師範大學前身）和匯文大學兩校的學生來得最早，接著是北京法政專門學校、工業專門學校、農業專門學校、醫學專門學校、警官學校、鐵路管理學校、稅務學校、中國大學、民國大學、朝陽大學等校的學生。北京大學的學生到得最晚。因為上午十一時左右，忽然有幾個政府的軍警長官及教育部的一個職員駕臨北大，勸告學生不要參加遊行，為此雙方展開了辯論，致使北大的學生隊伍最晚到達天安門廣場。

下午兩點鐘左右，學生隊伍開始從天安門廣場出發，向東交民巷各國公使館前進。在隊伍的最前面走著的是兩位山東大漢，他們舉著兩面當時的五色大國旗。在他們後面，又有人舉著一幅贈給三個賣國賊的輓聯，這條輓聯上寫著：

賣國賊曹汝霖、陸宗輿、章宗祥遺臭千古

賣國求榮，早知曹瞞遺種碑無字；

傾心媚外，不期章惇餘孽死有頭。

這裡是以曹操和章惇的姓來指喻曹汝霖和章宗祥。參加遊行的學生都舉著用白布或用白紙做成的小旗子，上面用中文、英文和法文寫著“打倒賣國賊”、“還我青島”、“取消二十一條款”、“拒絕簽字巴黎和約”、“抵制日貨”、“中國是中國人的中國”、“反對強權政治”等標語。

也有的小旗上，畫著諷刺漫畫。

學生們一邊舉著小旗呼喊著口號，一邊向圍觀的群眾遞送他們事先印好的傳單。這傳單名為《北京學界全體宣言》，上面印有懇切而又激昂慷慨的文字：

現在日本在萬國和會上要求併吞青島，管理山東一切權利，就要成功了！他們的外交大勝利了！我們的外交大失敗了！山東大勢一去，就是破壞中國的領土！中國的領土破壞，中國就亡了！所以我們學界今天排隊遊行，到各公使館去，要求各國出來維持公理。務望全國工商各界，一律起來設法開國民大會，外爭主權，內除國賊。中國存亡，就在此舉了！

今與全國同胞立兩條信條：

中國的土地可以征服不可以斷送！

中國的人民可以殺戮不可以低頭！

國亡了，同胞起來呀！

大學生們排著整齊的隊伍，有秩序地走著。圍觀的群眾靜靜地站在街上，看著從學生們手中接下來的傳單，聽著學生們呼喊出來的口號，有的感動得流下了眼淚。有些放學回家的小學生們，在路上遇見了這些素不相識的示威遊行的大哥哥大姐姐們，就自動地加入了遊行的隊伍，有的還幫助大哥哥大姐姐散發傳單。有些外國人也向大學生們脫帽，喝采，有的還揮動著帽子，向大學生們表示同情和敬意。

浩浩蕩蕩的學生隊伍走到了東交民巷西口，要進入東交民巷使館區的時候，警察擋住了去路，聲稱這個地區享有治外法權，中國人不得擅自入內。中國人不得走入屬於中國的一塊領土，真是豈有此理！大學生們派出了四名代表，先到美國公使館去見芮恩施。大