仗打到这个份儿上，派员议和已不得不提上议事日程。李鸿章左思右想，觉得如果在日本志得意满、趾高气扬之时，派大员贸然前往，恐怕会遭日方奚落。因此，他在给恭亲王奕?的信中，提出了一个出人意料的建议：“在下与张荫桓等人再三商量，觉得现在只想派一名忠实可信的洋员前往，既容易得知对方的意图，又不会引起对方的怀疑。”李鸿章最终选定的这个人物，就是在天津海关工作20余年的德国人德璀琳。
对于德璀琳，李鸿章在同一封信中写道：“德璀琳在天津工作20多年，对我很忠心，中法议和等事他都暗中相助。先前伊藤博文到天津与我订约时，他认识伊藤幕僚中的一位英国人，于是又从中相助，很是得力。如果让他前去日本酌情办理讲和一事，或许能够相机转圜。”
在日本方面，外相陆奥宗光在得知清政府准备派洋人来日本代为商谈议和事项之后，马上与首相伊藤博文进行商议。他们认为，现在还不是与清廷停战的最佳时机，日本应再次扩大战果，占领东三省部分领土，以此来逼迫清政府作出更大的让步。更何况，中国政府此时派来的是一名洋人，很可能是来打探虚实的，日本政府不得不防。因此，二人商定不见德璀琳，迫使中国政府派出更有资格的代表。
德璀琳碰了一鼻子灰，灰溜溜地回到中国。1895年2月1日，清政府又派张荫桓和邵友濂二人赴日，到达日本人指定的谈判地点广岛。但伊藤博文对二人百般刁难，甚至不允许他们发密电和北京取得联系。到达日本的第二天，双方互换国书。伊藤博文发现张荫桓和邵友濂所携带的国书文字中有“一切事件，电达总理衙门转奏裁决”字样，遂认定二人授权不足，与国际谈判的惯例不符，于是拒绝与他们谈判。张荫桓和邵友濂急忙写信给陆奥宗光，申明光绪皇帝的确向他们授予了议和全权。
日本方面依然不依不饶，甚至驳回了张荫桓和邵友濂发电报给国内修改国书文字的请求，还借口说广岛是日本军事重镇，不许闲杂人员逗留，将张荫桓和邵友濂赶到了长崎。
就在张荫桓和邵友濂被日本政府拒绝的当天，伊藤博文与使团随员伍廷芳进行了一次谈话。伊藤博文问伍廷芳：“你方为什么不派遣重臣来呢?请问恭亲王为什么不能来敝国?”伍廷芳答道：“恭亲王位高权重，无法走开。”“那么李鸿章中堂大人可以主持议和，贵国怎么不派他来?”伍廷芳随之反问：“我今天是和您闲谈，那我顺便问问，如果李中堂奉命前来议和，贵国愿意订约吗?”伊藤博文自然能够听出伍廷芳的弦外之音，回答的也是滴水不漏：“如果中堂前来，我国自然乐意接待，但是也还是要有符合国际惯例的敕书，必须要有全权。”伍廷芳又问：“那么中堂也要来广岛吗?”伊藤未置可否。
就在这次谈话前后，日军取得威海卫战役的胜利，北洋海军全军覆没。清政府失去了与日本人讨价还价的最后筹码，没有别的办法，只好派李鸿章前往日本议和。