据了解，上海边检成立初衷为了改变当时特务间谍、投机商人、走私犯及其他违法分子在中国口岸通行无阻、任意破坏的状况。建站之初，上海边防检查站设立“三股一队”，即秘书股、检查股、侦察股和警卫队。当时总共30多名官兵要承担外轮管理和港口对敌斗争的艰巨任务。
在申滨南路上的上海边检总站荣誉室，墙上挂着泛黄的照片向人们讲述着上海边检建站之初的传奇故事。第一代检查员徐康健今年已经84岁高龄，说起这段历史，老人津津有味、精神矍铄。那时，各种敌对势力潜流暗涌，他们在资本主义国家船舶上安插特务，利用外轮船员收集和传送情报。徐康健当年负责检查外轮。1953年春，在遣返J国侨民的过程中，徐康健在J国派遣来华的轮船上，查获一名高级间谍和一份谍报提纲。此案成功告破，在两国间引起不小轰动，徐康健因此当选为华东军区公安部队第三届英模代表和中央军委公安部队首届功模代表，受到时任总理周恩来等接见。
随着时代的变迁，“缉反擒特”渐渐淡出边检工作中心，处置突发事件成为边检的主要任务之一。1982年7月25日，从西安到上海的2505班机上发生了杨锋等暴徒劫机案，飞机迫降于虹桥机场。虹桥边防检查站干警在机场迅速集结，飞机着陆后，他们一边协捕劫机歹徒，一边抢救伤员，成功将“7.25”劫机案5名罪犯全部擒获。1996年6月12日，世界绿色和平组织“MV绿色和平”号船违反规定进入长江口中国内水，上海边检机关又一次成功处置了此涉外事件。
在上海边检部门中，有很多多才的边检人。20世纪70年代，有一位“外语奇才”叫陆法濂，他精通南斯拉夫语、俄罗斯语等数国语言，还参与翻译多部南斯拉夫著作、电影。一些南斯拉夫电影表演艺术家与他成为好朋友。记者在陆法濂的的家中看到了他与前南斯拉夫电影《瓦尔特保卫萨拉热窝》中游击队长“瓦尔特”扮演者巴塔日沃伊诺维奇在一起的照片。
被誉为“国门神鹰”的聂仁东1995年在一个外国领事馆组织的识别伪假证件的培训课上，看到了不少从上海流入国外的伪假护照。这次经历让他对证件“着魔”，每遇到新式护照和签证都会收集起来，并记录在册。从1999年起，聂仁东陆续编写了三本常遇证件签证真伪鉴别的教材。当他看到国家每年要花巨额外汇购买国外证件信息系统的使用权，聂仁东用一年时间带头研发出中国自己的出入境证件信息数据库系统。
1998年，上海边检实现职业化改革成为警察。世界上最先进的证件光谱鉴别仪、700余个“鹰眼”覆盖了9个边检站的重要执勤点、人身检查全息3D识别仪……其技术手段亦有飞速发展。
如今，上海边检部门在口岸查验证件时有了世界上最先进的证件光谱鉴别仪，它可以发出近20种光源，各国出入境证件真伪都能“照出”；全息3D识别仪利用毫米波的反射作用，可对人体表面与所藏匿物品区别成像，甚至能检测出金属、塑料、陶瓷、橡胶、纸张及粉末等；700余个“鹰眼”覆盖了所有重要执勤点，整个上海航行水域尽收眼底，甚至手机大小的物品也可一览无遗。
此外，最近边检部门还正式启用先进的便携式船舶梯口管理系统，该系统如同一个“机器人警察”，能对二代身份证、含电子芯片长期登轮证及含二维码身份信息证件的真伪作出识别，机器人警察“眼睛”自动将上下轮人员的模样与备案库里的高精度人像资料进行比对，而两只高灵敏度的“耳朵”利用红外线对上下轮人员精确管控，准确记录下上下轮动态数据。