1894年12月1日，美国著名杂志《哈泼斯周刊》发表了长篇报道《美国在华的袖手旁观》，文章以美国政府将跑入美国驻上海领事馆寻求避难的两名日本间谍交给中国当局为切入点，尖锐地攻击了美国政府对华政策的软弱，并指责软弱的美国政府正是这两名日本青年被杀害的帮凶。这篇文章引起了美国社会的巨大震动，在野的美国共和党如获至宝，随即抓住这一事件向民主党政府发起了猛烈攻击。随后，支持政府的参议员们也开始站出来护驾，议会内爆发激烈斗争。
引起这场巨大政治风波的事件，在美国历史上被称为“上海间谍事件”。这两名成为中、美、日三国外交关注焦点的日本人叫楠内有次郎和福原林平。
楠内有次郎原是日本九州佐贺县人，1890年前往上海日清贸易研究所学习间谍技术，毕业后回到日本。1894年，他陪同横滨贸易新闻社社长再次来到中国，后因病留在上海，直到甲午战争爆发。在此期间，他已经开始从事间谍活动。福原林平是日本冈山县人，年轻时慨然以国士自许，后来也进入上海日清贸易研究所学习，毕业后回到日本。1893年11月再次回到上海，从事间谍活动。
甲午战争爆发后，楠内、福原都在上海潜伏下来，以商人的名义从事间谍工作，不久奉命到满洲内地侦察军情。他们的预定计划是，先乘船到营口，经辽阳抵奉天，再去辽阳，返回奉天后将情报以电报形式发到上海，之后再前往凤凰城，将沿途所见军情随时报告，之后向鸭绿江行进，调查入朝清军数量及沿途军情，提供给已经在朝鲜境内的日本第一军，然后为该军带路。
但是，人算不如天算，他们原定的8月11日的班船被取消，下一班要到14日才能开行。考虑到同时出发可能会引起怀疑，两人遂决定假冒湖北商人住到法租界的同福客栈。8月14日半夜，楠内、福原两人在同福客栈被上海道台衙门的差弁抓获，被搜出携带有关东地图和清军军官名录等物。但因人犯是在法国租界内被抓获，所以只能移交法国巡捕房。而法国方面则干脆将两人交给美国驻上海总领事，因此惹出了这件惊天大案。
中日甲午战争爆发后，美国受中日两国委托，担负起“调停人”的角色，为两国在对方国家中照顾侨民及其利益。根据“调停人”原则，法租界当局将日本人交由美国外交官处理，倒也还在理上。
两名日本间谍向美国总领事佐尼干宣称受到中国政府诬告，并要求获得庇护。佐尼干很快批准了日本人的要求，并拒绝了中国政府的引渡要求。但清廷也不示弱，立即向美国驻华临时公使小田贝提出严正交涉(小田贝的父亲老田贝是驻华公使，此时回国休养，由其子代办);同时，总理衙门还指示中国驻美公使杨儒立即向美国国务院进行交涉。
时任美国国务卿的葛礼山是律师出身，一切行为讲究法治和条理。他闻讯大惊，立即指示小田贝，美国外交机构没有权力庇护任何被中国政府指控有罪的日本人。但小田贝认为，既然美国充当了“调停人”，那么在华日本人自然获得美国在华享受的治外法权，两名日本间谍不应被引渡给中国。两人为此发生激烈争论。
见在法理上难以说服葛礼山，小田贝又诉诸道义，他认为如果接受中国的引渡要求，两名日本人必然会被中国刑讯折磨并最终残酷处决。但葛礼山依旧不为所动，小田贝只好下令佐尼干于9月3日将日本间谍移交给上海道台。与此同时，葛礼山与杨儒在华盛顿达成君子协议，中国政府承诺给日本间谍公正的审判，并在老田贝返回北京任上之前，不作出任何终审判决。
两名日本间谍被移交给中方后，清政府十分重视，两江总督刘坤一亲自下令将人犯押到南京审讯。同时，在天津和浙江又先后破获了三起间谍案，都受到美国领事的强烈干预，美国军舰甚至应美国驻宁波领事福乐的要求前往示威。
美国国务院明确了美国处理此类事务中的界限后，天津和浙江的间谍案也很快审理完毕。此时，小田贝对葛礼山的指令仍耿耿于怀，继续写信与其辩论法律问题，尤其指出上海有着十分复杂、相互纠缠的中西审判体系，完全不必将日本人引渡给中国。他认为葛礼山向中国政府妥协的举动，将会破坏西方人在中国享有的治外法权，导致中国本土审判权的复归。这其实正是问题的本质，因为在华的西方人普遍对葛礼山感到不满，认为美国政府此举大长了华人的威风，大伤了洋人的面子。
同样被葛礼山激怒的还有驻宁波领事福乐，他是一位著名的扩张主义者，他将这些事件通报给了共和党的联邦参议员洛奇，后者随即在国会对葛礼山的政策进行了猛烈攻击。在议员的鼓动下，美国报刊开始连篇累牍报道上海间谍事件，攻击葛礼山和现政府，认为是美国政府的冷血和愚蠢葬送了两名日本青年的生命。《纽约世界报》更是公开质问“葛礼山脑子是否正常”，认为“一个正常的领导人不会这么做的”。
此时，上海间谍事件已然引发了美国国内政治斗争。在亲政府的议员帮助下，葛礼山最终抵抗住了国会中反对派的猛烈攻击。此外，他还指责中国公使杨儒没有遵守双方约定，使得中国政府擅自处决了两名日本人。杨儒一开始还推说中国政府不可能实施处决，随后则辩护说，他从未向葛礼山承诺过不处决日本人，是葛礼山误解了他的意思。之后没过多久，心力交瘁的葛礼山便猝死在办公室内，成为少数殉职在工作岗位上的美国政治家之一。
有意思的是，在这场间谍风波中，日本的外交机构并没有在前台大肆活动，而日本外交文件显示，他们在认真研究相关法律后，也认为美国政府的确没有权力干预中国对日本间谍的审判和处置。这也成为美国支持民主党的报刊为政府辩护的重要理由。
这一轰动美国的上海间谍事件，不仅谱写了中、日、美之间的“三国演义”，更引爆了美国内部政治斗争，成为美国内政、外交的焦点问题，轰动一时。而在各方彼此攻击的大量报道中，清政府的野蛮、落后、背信的形象被进一步宣扬，为日后美国大规模的排华运动积累了相当的民意基础。这一事件是刚刚走出内战的美国第一次介入国际事务，是其主动“睁眼看世界”和“伸手管世界”的开始。
自此之后，美国的东亚政策被彻底修改，不干预主义让位于炮舰政策，跟在狮子后面拣骨头吃的“豺狼外交”被放弃，美国越来越深地开始主动卷入东亚事务。同时，上海间谍事件也是清政府最后一次得到西方大国的平等对待，此后的甲午战争彻底暴露了清政府的虚弱，世界上再也没有一个强国给予清政府平等待遇，如何瓜分中国成为国际政治主流问题。