奉为今 中国海洋大学 源头的私立青岛大学创办于1924年5月，由 北洋政府 直系将领胶澳商埠督办 高恩洪 （原教育总长、交通部长）牵头倡办，校址为原 德军 俾斯麦兵营，直系败退后由奉系 山东省 议长 宋传典 接任校长。1928年初， 蒋介石 的北伐革命军进抵 山东 ， 张宗昌 败逃，学校在不得已中停办， 国民政府 遂在此基础上合并在 济南市 停摆的省立 山东大学 筹建 国立青岛大学 ，直至1930年7月重新招生。私立青岛大学注重师资力量建设，延聘教师十分讲究，学风良好，其首期学生有罗荣桓元帅。
高恩洪倡办
1922年 中国 收回 青岛市 以后，将其开放为商埠，抚恤德日统治四分之一个世纪留下的满目疮 ，输入新知，佐育人才，立国 安邦 ，成为全城人的共识。 1924年初曾任 北洋政府 教育总长、交通部长的直 系将领 高恩洪 出任胶澳商埠的督办。高氏在职，勤求治理，政绩可观，“尤于教育一端，锐意进行”，1924年5月29日，联络青岛的富商巨贾和热心教育的人士在其督办行署开会，倡办 青岛大学 。公推高恩洪、邵筠农、宋徽五、 傅炳昭 、张德纯、刘子山、王子雍、 宋雨亭 、于耀西、孙丙炎、孙广钦（字 子敬 ）等11人组成校董会，复由校董会推举孙广钦为筹备主任，邵筠农、孙丙炎为副主任。又聘请了 蔡元培 、 张伯苓 、黄炎培为名誉理事。
德军兵营建校
学校校址选在了德占 青岛市 时期修建的俾斯麦兵营（日占后改为万年兵营，现为 中国海洋大学 鱼山校区北部分）。为此还有一段故事，青岛驻军对 青岛大学 校园垂涎欲滴，执意分享驻兵， 高恩洪 不允。双方争执不休，官司一直打到洛阳直鲁豫三省 巡阅使 吴佩孚 处。吴是 蓬莱 人，清末 秀才 出身，与高同乡又曾同僚，私谊甚厚，虽系一军阀，但是绝非一介赳赳武夫，“世界竞争端赖学术”的道理是懂得的，就一锤定音该兵营作为办学之用。
经费
财政为百事血脉，对文化教育事业尤其如此。大学筹办之初经费 拮 据，筹办诸人千方百计筹措经费，1924年6月19日青岛总商会曾向 美国 大使馆请求以美国退回的 庚子赔款 作为 青岛大学 的创办经费，未有结果。几经周折，最终由 高恩洪 捐洋1万元、 刘子山 捐款2万元作筹备费用，由 胶澳商埠督办公署 、胶济铁路局拨款和青岛绅商的捐款作为学校的常年经费。10月25日私立 青岛市 大学举行开学典礼，青岛第一座由中国人自己创办的大学成立（青岛最早的大学是 德国 在1908年创办的德华大学）。
设科招生
青岛是一个 自由贸易港 ，中外商人 云集 ，工商业发达。学校董事会根据《大学令》确定私立青岛大学“以教授高深学术、养成硕学宏材，应国家需要为宗旨”，规划分为文、理、法、商、工、医、农林七科，最终的目标是发展成一所 综合性大学 ，但考虑到青岛工商发展的需要，创办之初以实用学科设置为主。先设工、商两科。1924年8月11-13日，在北京、 南京 、 济南市 及 青岛市 四地同时招生。除本国学生外，还有南洋华侨子弟和 朝鲜 学生前来报考。学校重质不重量，首届招收工商预科学生80名。首期学生中有抗日时期任 八路军山东军区 司令的罗荣桓元帅。
战乱遭挫
料 第二次直奉战争 突起，直系败退， 高恩洪 去职，私立青岛大学的发展遭到挫折。后由 山东省 议长 宋传典 接任校长，维持残局。学校经费，原来全靠高恩洪拨款和士绅捐赠，高恩洪一倒，经费无着，教师辞职的不少，学生也走了很多，形势顿趋逆转。奉系军阀得势后，由 张宗昌 督鲁， 温树德 任胶澳商埠督办。温树德是一介武夫，对教育事业不但缺乏热情，且横加摧残。当时温树德对私立青岛大学的校舍，垂涎欲滴，本拟恢复兵营，继续驻兵，因有宋传典鼎力维持，学校在苟延残喘中继续上课。且兵营改为 青岛大学 校舍早成事实，温树德害怕遭到舆论的谴责，故一直未敢贸然强行驻兵（部分空闲房舍经学校同意暂借给军方使用）。学校此时每况愈下，自1925年以后再未招生。1928年初， 蒋介石 的北伐革命军进抵 山东省 ， 张宗昌 败逃，学校经费也断绝来源，教师学生散去大半，学校在不得已中停办，学生均按大学结业处理。
师资建设
私立青岛大学延聘教师十分讲究，师资来源之一为国内名牌高校毕业的学生， 北京大学 、 燕京大学 、 齐鲁大学 等，特别是北大毕业生居多；一为高薪聘请海外归国的留学生。根据1925年的统计，私立青岛大学全校教职员中留学生有11人，约占教职员总数的42%强，尤其以留学美国的最多。如 逻辑学 教师 凌道扬 、外文教师 凌达扬 、闵星荧，都学有专精，入校前已有名气；多数教师年龄在30-40岁之间，年富力强，学识涵容中西，又有陶铸中国新学术的襟怀与理想，教学认真。学校机构精干，教学和 行政管理 的负责人都由教师兼任，正是这些良好的规制和浓厚的学术空气。学校发展蒸蒸日上，相继设立土木工程科、机械科、矿科，并预备增设农林科、法科和文科。
国立新生
1930年5月，国民党政府任命 杨振声 为校长，杨振声校长到校视事，启 办公。8月，在 青岛市 、 济南市 两处招考一年级新生。9月21日，举行开学典礼，校长 宣誓 就职， 国立青岛大学 正式成立，筹备委员会完成了自己的任务，宣告结束。
1932年9月2日， 南京国民政府 行政院会议议决，将国立青岛大学更名为国立 山东大学 ；并准杨振声校长辞职，任命 赵太侔 （赵畸）为国立山东大学校长。
因战乱，在济南省立山东大学同样停摆。1928年5月，南京国民政府教育部筹办国立山东大学 ， 并由 何思源 、 魏宗晋 、 陈雪南 、赵畸、王近信、彭百川、 杨亮功 、 杨振声 、 杜光埙 、 傅斯年 、 孙学悟 等11人组成 国立山东大学筹备委员会 ，着手筹备工作。
私立 青岛市 大学注重师资力量建设，校风良好，加之青岛对外开放的文化地理优势明显，为后来的 国立青岛大学 提供了理想的校址。 蔡元培 先生极力主张，新国立大学在青岛建校，在私立青岛大学校园和校产的基础上筹备国立青岛大学，并接受因学校经费断绝而停办的原省立 山东大学 学生。1928年8月，经教育部长 蒋梦麟 的同意，国立山东大学筹备委员会遂更名国立青岛大学筹备委员会。
国立山东大学后又改名山东大学，并于1958年分拆为二，原校址留下部分改称 中国海洋大学 ，大部迁去 济南市 ，并沿用山东大学名号。 国立青岛大学 是现今 中国海洋大学 和山东大学共同的前身，是它们辉煌历程的一个重要阶段。