军随员有前田利为大佐。木本兵太郎中佐，内阁外省派出了齐藤博、贺屋兴宣等人。
11月30日，代表团从横滨启程，取道美国前往英国。山本在华盛顿住了3周，企图利用他的活动能力，在会前同美国达成一个非正式的协定。代表团成员在白宫受到了胡佛总统的宴请，山本在虚伪地为两国友谊干杯的同时，出色地完成了他此行的第一项任务，摸清了美国的底牌，他通过胡佛总统的海军副官、他的老相识艾伦·市坎南上校，同华盛顿的上层人物打交道。山本凭他的魅力、“诚恳”和几小时的桥牌，就从那些美国人那里获知，日本将获得一个接近它所要求的比例。怀着这样一种满意的心情，日本代表团乘船渡过大西洋，来到了英国。
到达伦敦后，日本代表团下榻于当地的旅馆，并在日本大使馆的对面租了一栋房子作为办事处。一切就绪，英国亦援例展开了会前的摸底工作，他们派出的对日交涉委员是英国外交官中有名的日本通克莱棋，后来他担任了驻日大使。
“克莱棋的父亲以前是英国远东舰队的舰长，因此他自幼就随父亲来到东方，对于日本的文化、环境自然是了如指掌。”习惯于洞察别人而又有准确判断力的山本，再次显示了他在代表团中的存在，一眼就看出了英国的意图。他继续说道：“这次英国竟然派他担任交涉委员，分明是在表示英国反对我们所提出的保留7成军力的要求。”山本五十六根据自己所掌握的情况分析了英国的企图，虽然话语不多，但句句打动代表团成员。作为一名海军普通军官，对国际事务有如此透彻的理解，使他们大感惊奇。
1930年1月21日，伦敦海军会议正式开幕。日本代表团提出了事先经内阁批准的三大原则：（l）日本水面辅助舰总吨数为美国的7成；（2）大型巡洋舰为美国的7成；（3）潜水艇保持现有的7.8万吨。日本的提案遭到英美的强烈反对，美国坚持非主力舰的吨位比例应按照主力舰的比例，并提出废除潜水艇的建议。于是又出现了10年前在华盛顿召开会议时的6：10与7：10之争。这一次由于日本事先摸清了情况，因而拒不让步，双方争执不下，会议几濒于破裂。英国虽然表面上居于调停地位，但由于麦克唐纳事先也已与胡佛达成协议，美英的意见基本上是一致的。
这种复杂的情况使会议进行得十分困难。山本五十六在这期间寄给海军省军务局长堀悌吉少将的信中提到：“这次会议真如同老牛拖车，未来的结果实令人担忧。”
为了不使会议破裂，日美经过一系列幕后交易，于3月达成了一个妥协方案。这一方案在海军舰艇总的比例上接受了日本方案，准许日本辅助舰的总吨数为美国的69.75％，但大型巡洋舰的比例仍维持6：10，潜艇的比例与美国相等。山本作为海军随员对此提出异议，要求征得国内同意。在山本的坚持下，日本的4名全权代表经协商后，于3月14日将上述方案向政府请示。
日本当局接到请示电文后，海军部门的意见分裂为二：海军省认为采取妥协态度是迫不得已，但军令部却表示反对，理由是该案对日本的两大重点即大型巡洋舰和潜水艇极力加以限制，要对美作战，日本的潜艇绝对需要达到7.8万吨，5.27万吨是无法进行对美防御作战的。当时的首相滨日雄幸经过仔细考虑后，同意海军省的看法，并于4月1日复电通知了日本代表。4月2日，日本全权代表若（木规）与英美代表交换了备忘录，4月22日签署了《限制和裁减海军军备的国际条约》。根据这个条约，日本基本上达到了7：10的目的。
然而，日本国内军国主义势力却并不到此为止。他们攻击日本政府对英美实行投降外交，在国内发起了一场攻击政府的运动，指责政府不顾军令部的反对，是侵犯天皇对军队的统帅权①。5月20日，军令部参谋草刈英治少佐企图暗杀海军大臣财部未成，为唤起国内右翼注意而剖腹自杀。6月20日，军令部部长加藤宽治向天皇提出辞呈，一时国内闹得纷纷攘攘。虽然最后条约签字生效，但滨口雄幸首相本人也于当年11月14日在东京车站被杀，这预示了法西斯逆流在日本的崛起。目睹这一变局的山本五十六，回国后深受刺激，遂在家闭门谢客，重新考虑日本的出路。于是外界谣传山本五十六将要辞职——
①明治宪法第十一条规定，日本陆、海军的统帅权归天皇所独有。——作者
好友堀悌吉明白这是谣言，遂到山本家去拜访。彼此寒暄之后，倔军务局长随即言归正传：“因为你未向海军报到，大家都谣传你将引咎辞职。”
“怎能就这样辞职呢？回国后我一直在思索如何来弥补此次会议的缺憾。国人只知道一味地批评条约的不是，这根本无济于事。”
“所以又要发表你的飞机论了？”
“在这种军备比例下，假如有一天和强劲的美国海军作战应该怎么办？假如我们不理会裁军条约而建造主力舰，他们也同样会造，何况美国的工业技术又超出日本一筹。解决这一问题的唯一办法是，在开战之初以空袭痛击对方，使对方和我国的