上海地区的水产品贸易，早期的记载见于唐代。上海开埠后，鱼行应运而生。至民国二十四年（1935），十六铺已是行栈林立，有冰鲜鱼行23家，河鲜鱼行7家。
随着这个行当的不断发展，民国二十二年（1933），国民政府实业部为“谋调节产销，平准市价，发展渔业，统制渔业经济”，计划在上海建设规模较大的鱼市场。
民国二十三年（1934）1月5日，国民政府行政院第141次会议通过筹设上海鱼市场案。实业部上海鱼市场筹备委员会由梅哲之、徐廷瑚、余恺湛、冯立民、周监昇、侯朝海、吴桓如7人组成。办事处设于上海四川路33号一座大楼内，2月8日起正式办公。
筹委会商请鱼行投资，经反复磋商，实业部认可，实业部上海鱼市场改为官商合办上海鱼市场股份有限公司（简称上海鱼市场）。上海鱼市场有理事15人（官股8人，商股7人），员工170余人。场址位于浚浦局新填定海岛（1945年后改名复兴岛）。民国二十四年元旦奠基，至11月15日竣工。主要建筑包括鱼市场办公大楼，楼高7层；冷冻设施，占地面积1788平方米，有冷藏库5间、制冰室1间、冷冻室2间、机房2间及处理室数间等。
民国二十五年（1936）4月颁发《上海鱼市场股份有限公司章程》，5月，核定《上海鱼市场股份有限公司营业规程》（以下简称《营业规章》）。5月11日，上海鱼市场举行开幕典礼。12日凌晨3时正式营业。按照《营业规程》第二条规定：“鱼货输入上海市之第一次交易须在鱼市场行之”，原在十六铺一带营业的鱼行进入鱼市场作为经纪人代客买卖。上海鱼市场自开业起至当年年底的234天营业总额为825.51万元。
上海鱼市场的光景并没有维持多少时间，民国二十六年（1937）淞沪抗战爆发。鱼市场被侵华日军占领，部分建筑毁于炮火。8月18日，市场正式通知：“战事剧烈，场事业已停顿，全场员工除酌留一部分（28人）办理结束事宜外，余均暂行解散。”9月15日，鱼市场宣布全部结束。且当时，吴淞口已被日军封锁，鱼市场货源告乏，鱼业活动的重心仍返回十六铺一带。