Tiền thân của Trường Đại học Giao thông Vận tải là Trường Cao đẳng Công Chính, được thành lập ngày 25-12-1918 dưới thời Pháp thuộc, và được khai giảng lại dưới Chính thể Việt nam Dân chủ Cộng hòa vào ngày 15-11-1945.

Ngày 24/3/1962, Thủ tưởng Chính phủ Phạm Văn Đồng đá ký Nghị định số 42/CP thành lập Trường Đại học Giao thông Vận tải.

Sau ngày miền Nam hoàn toàn giải phóng, để đáp ứng nhu cầu mới cho sự nghiệp xây dựng đất nước nói chung và phát triển giao thông vận tải khu vực phía Nam nói riêng, ngày 27-04-1990 Bộ trưởng Bộ Giáo dục và Đào tạo ra Quyết định số 139/TCCB thành lập Cơ sở II của Trường Đại học Giao thông Vận tải tại Tp. Hồ Chí Minh.

Trường Đại học Giao thông Vận tải-Cơ sở 2  đóng trên khuôn viên diện tích gần 15 ha với các Khu Văn phòng 3 tầng, Khu giảng đường với tổng số hơn 50 phòng học, Trung tâm Thông tin-Thư viện 3 tầng với diện tích xây dựng gần 2000 m2, có hệ thống phòng đọc giáo viên, phòng đọc sinh viên 300 chỗ, phòng Hội thảo, Phòng truy cập Internet với 60 máy tính được nối mạng có đường truyền tốc độ cao.

Các phòng thí nghiệm: Vật lý, Hoá học, Điện kỹ thuật, Cơ thuỷ, Sức bền vật liệu, Cơ học đất, Điều khiển học, Phòng máy tính, Phòng học tiếng, Xưởng thực tập Cơ khí, v.v… đáp ứng cho sinh viên thực hiện những bài thí nghiệm cần thiết theo quy định của chương trình đào tạo. Ký túc xá sinh viên gồm 8 dãy nhà với  90 phòng ở, có thể tiếp nhận 800 sinh viên nội trú.  

Kể từ khi thành lập đến nay, Cơ sở II Tp. Hồ Chí Minh Trường Đại học Giao thông Vận tải  đã góp phần quan trọng trong việc  đào tạo cán bộ khoa học kỹ thuật cho ngành giao thông vận tải các tỉnh phía Nam nói riêng và các ngành kinh tế quốc dân nói chung. 

Cơ cấu tổ chức của Cơ sở 2 bao gồm các Ban chức năng và các Liên Bộ môn. Hiện nay có 06 Ban chức năng: Tổ chức-Hành chính, Đào tạo, Thiết bị-Quản trị, Tài vụ, Thông tin-Thư viện và Quản Ký thúc xá; có 05 Liên Bộ môn: Cơ bản; Cơ khí, Công trình Giao thông; Điện-Điện tử và Vận tải-Kinh tế.  

Hiện nay Cơ sở 2 có 82 cán bộ, giảng viên, công nhân viên, trong đó có 42 giảng viên. Trong tổng số 42 giảng viên có 2 PGS, 5 TS, 9 GVC và 18 Thạc sỹ.  

Ngoài địa điểm chính tại Tp. Hồ Chí Minh, do yêu cầu của các địa phương, Nhà trường đã và đang tiếp tục mở các lớp đào tạo hệ không tập trung tại các tỉnh khu vực miền trung, các tỉnh lận cận thành phố HCM, các tỉnh đồng bằng sông Cửu Long và Tây Nguyên: Đồng Nai, Tây Ninh, Cần Thơ, Sóc Trăng, An Giang, Trà Vinh, Long An, Tiền Giang, Phú Yên, Khánh Hoà, Gia Lai,  Bạc Liêu, Đắc Lắc.

Năm 1990, khi mới thành lập, chỉ có khoảng 100 sinh viên, đến nay, trong năm học 2004-2005 tại Cơ sở 2 có gần 6 000 sinh viên các hệ, trong đó có gần 3 000 sinh viên hệ Chính quy và gần 3 000 sinh viên các hệ Tại chức, Chuyên tu và Bằng 2.

Từ  một ngành (Kinh tế vận tải) năm 1990, đến nay Cơ sở 2 đã đào tạo 20 chuyên ngành trong tổng số hơn 50 chuyên ngành đào tạo của Nhà trường, bao gồm: 

• Đường bộ (Đường ôtô), Đường sắt, Cầu-Đường bộ, Cầu-Đường sắt, Cầu-Hầm, Đường ôtô và sân bay, Đường hầm và Metro, Công trình Giao thông công chính, Công trình giao thông đô thị, Tự động hoá thiết kế cầu đường, Dự án và Quản lý dự án.   
• Cơ khí Ôtô, Máy xây dựng và xếp dỡ, Cơ giới hóa xây dựng giao thông, Đầu máy-Toa xe, Cơ khí Giao thông công chính.  
• Vận tải đường sắt, Vận tải đường bộ và thành phố, Vận tải đa phương thức, Quy hoạch và quản lý giao thông đô thị. 
• Kỹ thuật thông tin, Kỹ thuật viễn thông, Điều khiển học kỹ thuật GTVT, Tín hiệu giao thông vận tải.
• Kinh tế vận tải đường sắt, Kinh tế vận tải thủy-bộ, Kinh tế vận tải và du lịch, Kinh tế xây dựng công trình giao thông, Quản trị kinh doanh GTVT, Kinh tế bưu chính viễn thông.

Cơ sở 2 luôn chú trọng công tác bồi dưỡng và cử nhiều đội sinh viên tham gia các kỳ thi Olypic Cơ học, Toán học, Tin học toàn quốc, các Cuộc thi do Thành đoàn Tp. Hồ Chí Minh tổ chức và đã đạt  tổng số 85 giải thưởng.

Thời kỳ đầu mới thành lập, Cơ sở 2 tập trung vào việc xây dựng cơ sở vật chất và chủ yếu vào công tác đào tạo là chính. Chỉ bắt đầu từ năm 1997 công tác NCKH mới bắt đầu được triển khai và đã có những kết quả ngày càng tiến bộ. Tính đến nay đã có 11 đề tài cấp Bộ, 24 đề tài cấp Trường và gần 130 đề tài NCKH của sinh viên được thực hiện. 

Bên cạnh đó, tại Cơ sở 2 có hai đơn vị khoa học công nghệ, đó là Trung tâm Tin học Kỹ thuật và ứng dụng giao thông vận tải và Chi nhánh Công ty Tư vấn Triển khai công nghệ và Xây dựng giao thông.

Trung tâm Tin học Kỹ thuật và ứng dụng GTVT có nhiệm vụ chủ yếu  là đào tạo kỹ thuật viên tin học cơ bản và ứng dụng, đã tổ chức đào tạo và cấp chứng chỉ cho hàng trăm học viên.

Chi nhánh Công ty Tư vấn Triển khai công nghệ và Xây dựng giao thông có lĩnh vực hoạt động chủ yếu là tư vấn thiết kế, tư vấn giám sát và thi công công trình. Chi nhánh Công ty đã thực hiện được nhiều đề tài NCKH phục vụ sản xuất, ký kết và thực hiện nhiều hợp đồng tư vấn thiết kế, tư vấn giám sát và xây dựng các công tình cho các địa phương khu vực phía Nam và trên địa bàn Tp. Hồ Chí Minh với doanh thu nhiều tỷ đồng.

Trong gần 15 năm  xây dựng và trưởng thành, Cơ sở 2 đã đào tạo được  trên 6 000 kỹ sư các hệ, trong đó có gần 5 000  kỹ sư hệ Chính quy,  và hơn 1 000 kỹ sư hệ Tại chức.

Ngoài bậc đại học, từ năm 1996 Cơ sở 2 đã tiến hành đào tạo bậc sau đại học. Từ đó đến nay tại  Cơ sở 2 đã đào tạo được 150 Thạc sỹ thuộc các ngành Xây dựng công trình giao thông, Cơ khí giao thông, Quản trị kinh doanh. Hiện nay có gần 100 học viên  đang theo học.

Nhà trường có quan hệ hợp tác với các Trường: Đại học Tổng hợp Quốc gia Giao thông Đường sắt Matxcơva (Liên Bang Nga); Đại học Tổng hợp Giao thông Tây Nam (Trung Quốc); Đại học Đamstat và Đresđen (Cộng hoà Liên bang Đức); Đại học Cầu Đường Pari (Pháp); Cao đẳng Giao thông Viên Chăn (Lào) v.v…  

Với những thành tích đã đạt được, Cơ sở 2 đã vinh dự được tặng thưởng 02 Bằng khen của Bộ Giáo dục và Đào tạo, 01 Bằng khen của  Uỷ ban An toàn Giao thông Quốc gia, 02 Bằng khen của Công đoàn Giáo dục Việt Nam và Huân chương Lao động hạng Ba.