10月7日，佐分利向蒋介石呈递国书，蒋专门在汤山别墅设宴招待了他和日本驻南京领事上村伸一。随后他和中国外长王正廷开始会谈。此时，张学良还专门拜访了佐分利，张学良回忆说：“我们在日本领事馆谈到深夜，谈得非常好。……佐分利这个人很好，但他后来死了。”11月下旬，在谈判尚无结果的情况下，佐分利奉命回国述职，11月29日却在箱根神秘地自杀了。第二天，大阪《朝日新闻》用大字标题做了报道，内称：“为准备即将开始的日支交涉而于本月21日回东京的驻支那公使佐分利贞男氏，于29日夜间在箱根的下富士屋旅馆第197号房间用手枪自杀。在重要的对支交涉即将到来之际，佐氏之死非常令人惋惜。”
关于佐分利之死，人们做出种种猜测，有人说是由于他妻子死后他患了精神衰弱症;有人说他是由于日中交涉前途维艰，无法忍受才自杀的;还有人说他政治上受到胁迫，因而厌世。重光葵在《昭和的动乱》一书中说：“佐分利公使在东京滞留颇久，其后自杀辞世，颇不乏人认为：是由于政治因素，使他的意见不能实行的结果。”币原外相则认为：佐氏是个左撇子，不会用右手握枪自杀。他说：“27日，我会见了公使，他非常健康，绝不可能是神经衰弱。我虽然不知道公使到箱根去的事，但从他那健康的申请和动作来看，绝不可能是自杀。况且对自杀原因的推论也只是各种勉强的猜测而已。”他怀疑是日本少壮派军人，不满于他的“软弱”外交路线，而采取的报复手段。
对佐分利之死，在中国也引起极大的震动，当时的外交部长王正廷对记者表示：“今失去公使，使原先好不容易达到的谅解化为泡影，对于中日两国来说，诚可惜之至。”
