1956年10月以后，国际形势有了变化，苏联明显地对中国热情起来。
聂荣臻感到，这是争取苏联援助的好时机。
1957年新年伊始，苏联方面同意从留苏的理工科高年级学生中，抽出70多人改学导弹新技术专业，这无疑是个好消息。于是，聂荣臻与宋任穷（主管发展核工业的三机部部长， 1958年后改称二机部）联名给正在莫斯科访问的周恩来发电报，建议他向苏方提出在原子能研究方面援助中国的问题。
以后，苏联在新技术援助方面，对中国的态度日益松动。
看到苏联对中国的友好态度，1957年夏初的一天，周恩来总理刚从机场回来，聂荣臻就给他打电话。聂荣臻在电话中说：苏联现在对我们表示友好，我们是不是再提一下国防新技术援助的事？周恩来表示同意。他对聂荣臻说：“你可以先找阿尔希波夫谈一谈，我们再作下一步打算。”
1957年6月18日傍晚，一阵小雨刚刚洒过，路面湿漉漉的，聂荣臻和对外贸易部副部长李强一起，乘坐黑色吉斯型轿车，驶入东交民巷的一个院子里。住在这里的客人，是苏联驻中国经济技术总顾问阿尔希波夫。他对中国是友好的。略事寒暄，聂荣臻就向阿尔希波夫试探性地提出了在国防新技术方面请求苏联援助的意思。聂荣臻的拜访，事先并没有说明来意。但阿尔希波夫估计，一定会有什么事情，所以他保持着外交官特有的敏感，在专心地倾听着那些礼节性言辞后面的意思。阿尔希波夫目不转睛地看着聂荣臻，他听得很认真。聂荣臻说完，阿尔希波夫显得很热心，对聂荣臻说：“您提出的问题我本人同意，待请示我国政府以后再予答复。”
7月20日，阿尔希波夫就国防新技术援助事宜，答复了聂荣臻，说是要约定时间面谈。聂荣臻没有想到，这么快就得到了回音。按约定时间，聂荣臻又一次来到阿尔希波夫的寓所。在客厅里，两个人都显得很高兴。阿尔希波夫对聂荣臻说，“元帅阁下，您上次提出的国防新技术援助的问题，我国政府对中国政府的要求表示支持。我受权宣布：苏联政府同意在适当的时候，由中国派政府代表团去苏联谈判。”总顾问的外交辞令一板一眼，在聂荣臻平静的笑容下面，是由衷的喜悦。
回到家中，聂荣臻立刻接通了周总理的电话。聂荣臻在电话中说：“今天，阿尔希波夫约见了我，苏联方面答复，同意我们的要求，要我们派一个政府代表团去苏联谈判。”周恩来听了也挺高兴：“这次还不错，我马上报告主席，你就着手考虑组织代表团吧！”
经过1个多月准备，去苏联谈判的各项事宜已经商定。9月3日，赴苏联谈判代表团召开全体会议。聂荣臻在会上宣布：经毛泽东、周恩来等批准，代表团名称为中国政府工业代表团。由他任团长，宋任穷、陈赓任副团长，成员有钱学森、李强、刘杰、万毅、通信兵部主任王诤，二机部副部长张连奎、刘寅。此外还聘请了21名火箭、原子能、飞机、电子等方面的专家、教授当顾问（加上工作人员共40多人）。希望大家要遵守外事纪律和注意事项，力争谈判能取得圆满成功。
1957年9月7日，一架苏制伊尔-18专机从北京西郊机场起飞了。在机上，聂荣臻与钱学森议论起苏联的尔-2导弹。钱学森说，苏联的这种导弹是从德国的V-2火箭演化而来的。
聂荣臻问：“造它，你有把握吗？”
钱学森说：“就看这次去苏联的结果了，只要他们肯提供有关的设备和火箭样品，保证能行。”
聂荣臻沉思了一下，又问：“你觉得还有什么困难吗？”
钱学森说了句轻松的比喻：“不是说，困难就像老鼠，听见脚步声就??”聂荣臻大笑起来，然后说：“去年10月开会的时候，你说过，如果没有外援，依靠我国现有的技术力量，可以在7至8年内，研制出像美国‘诚实约翰’一类无控制火箭。我把你的意见报告给总理。后来中央叫我们7年内搞出自己的导弹。我比较乐观，大概只用5年，最多7年就行。这次能争取到苏联的帮助，就可以提前制造出比‘诚实约翰’性能更先进的火箭武器来。”
钱学森说：“也许不用5年，在元帅领导下，大家干劲足得很哟。”
聂荣臻说：“如果这样，那就是世界的一个奇迹了。”
钱学森停顿了一下，说：“我有个预感，因为，我们的制度能使科研力量高度集中，意志高度统一，这比自由化的美国更适合搞火箭工程。”
聂荣臻非常赞成这句话。他的目光落在了钱学森宽阔的前额上，想起了周恩来在钱学森归国不久的嘱咐：“要好好待他，科学家是我们国家的精华，他是科学家的一个代表。”
当天下午，莫斯科时间6点钟，专机对准了莫斯科努契科伏国际机场的跑道，迅速降落下来，缓缓地在停机坪停下。苏联部长会议第一副主席别尔乌辛与中国驻苏大使刘晓在离飞机不远的地方，等待欢迎中国政府代表团的到来。机舱门打开了，聂荣臻站在舷梯上挥了挥手，就疾步走下舷梯。别尔乌辛及众人走上前去，与聂荣臻握手拥抱。聂荣臻在与别尔乌辛握手时，感到了一种俄罗斯式的热烈。这似乎是此行的一个好兆头。
在莫斯科，聂荣臻下榻在奥斯特洛夫斯基大街一座别墅式的小楼里。第二天，他起得很早。北京和莫斯科有6个小时的时差，聂荣臻平时极有规律的生活节奏被打乱了。他在院子里散步，李强也出来活动。李强对莫斯科非常熟悉。抗战爆发前，他在这里住了6年半。他对聂荣臻说：“聂老总啊， 1925年你从苏联回国，在莫斯科待了多少时间呀？”“我那时归国心切，在莫斯科待了10个来月。昨天坐车，我看这里变化挺大。”聂荣臻又问李强：“钱学森同志他们住的苏维埃旅馆，离这里有多远？”“苏维埃旅馆离这里还挺远的，他们那里是莫斯科市中心的正北，我们这里是西南。富春同志来谈156个项目时就住在那里，它的对面是个跑马常”李强是外贸部副部长，俄文很好，又懂电子、机械，建国后中国对苏联的经济、贸易、科技方面的重要谈判，差不多他都参加了。这次，他又来参加国防新技术谈判，聂荣臻很高兴。
谈判从9月9日开始， 10月15日签协定，共进行了35天。在这段时间里，中苏两国代表团人员进行了内容广泛的谈判。谈判的进展较为曲折，不过，这也正如估计的那样，苏联方面不会无保留地把一切新技术都交给中国，聂荣臻对此是有思想准备的。整个国防新技术谈判，分为若干部分：导弹、原子能、飞机及其基地建设等方面各自分头进行。每个方面，可以说是一点一点地取得进展。所幸的是，代表团各个方面的准备都比较充分，有的要求非常具体。在谈判桌上，苏联人总的来说是友好的，别尔乌辛甚至对聂荣臻说，有些项目你们提出的型号性能已经落后了，可以提出更新一些的型号。但有的技术项目也有保留，不是只给资料，就是只给样品。经过20多天的谈判，9月底，双方终于达成了协定草案。
聂荣臻看了草拟的协定，心里轻松了许多。如果苏联政府能够认真地执行协定，中国在突破导弹、原子弹、现代作战飞机等尖端技术方面，就有把握得多了。聂荣臻派人立即把草案送回北京，交周恩来总理，等待中共中央、毛泽东主席审批。
紧张的谈判暂时休止，大家终于可以休息几天了。苏联政府安排中国代表团沿着伏尔加河游览参观。正值10月，这是领略俄罗斯迷人秋色的最好时节。
聂荣臻被安排到莫斯科郊区的一个医院里检查身体。这个医院在一片森林中，专门接待来自其他国家兄弟党的领导人，到此休养和检查身体。这个地方，空气中浸润着青草的气息，白桦林密密匝匝，树叶被秋风梳理得哗哗响，太阳散发出温和的光，真是个好去处。聂荣臻很欣赏这个地方，他在这里住了10天。
聂荣臻在拜会优罗希洛夫、别尔乌辛等苏联朋友时，分别赠送了一些中国的工艺品。苏联朋友对中国的工艺品赞不绝口。
毛泽东、周恩来对这个草案表示满意。很快，回国的人把草案和修改意见带回了莫斯科。苏联方面上送的草案也得到批准。这样， 1957年10月15日，聂荣臻代表中国政府，苏联部长会议第一副主席别尔乌辛代表苏联政府，分别在协定上签了字。①签字仪式在苏联国防部大楼举行。俄罗斯式的高大建筑富丽堂皇，大厅天花板垂下的许多巨形吊灯，齐放光明。出席签字仪式的中苏两国代表，都很轻松，彼此微笑，热烈握手祝贺。在签上“聂荣臻”3个字的协定中，苏联答应在原子能工业、导弹、火箭武器、航空新技术以及导弹和核试验基地建设等方面，对中国进行援助。协定的全称是《关于生产新式武器和军事技术装备以及在中国建立综合性原子能工业的协定》（简称国防新技术协定）。
代表团圆满地完成了任务， 16日启程回国。
协定是写在纸上的，要使协定真正落实，还得作出更多的努力。在后来的几年里，抓紧做好接受技术援助的准备工作，催促苏联政府履行协定，成了聂荣臻的一项重要工作。
总的来说， 1957、1958两年，协定执行得比较顺利。苏联向中国提供了几种导弹、飞机和其他军事装备的实物样品，交付了相应的技术资料，派了有关的技术专家来华。这些专家大多态度比较友好。这对中国熟悉情况、掌握技术，是有帮助的。苏联的帮助，对中国尖端武器研制的起步工作，是有较大作用的。在导弹、火箭和作战飞机、试验基地建设等方面，使中国的研制步伐得以加快。
但聂荣臻心里非常清楚，从根本上说，不能指望苏联把最先进的东西给中国。若认为苏联会对中国无保留地支持，那是太天真了。在国防新技术产品上，聂荣臻感到，苏联总是要让中国落后它一代，甚至是两三代。这个意图，他看得十分清楚。
对苏联援助的样品，聂荣臻提醒接收部门注意，是新的还是旧的。因为，他有过这方面的教训。抗美援朝时，苏联卖给中国的装备里就有不少是第二次世界大战时的旧步枪、旧机枪、旧坦克。他们把旧坦克刷上漆，当新的运到中国。一次，聂荣臻到丰台车站接收苏联按订货合同运来的坦克，他上去一摸，发现新刷的油漆还没有干透。他对同去的苏联顾问开了个玩笑，“你这个坦克立过多少次战功呀？”弄得苏联顾问很不好意思。
在执行中苏国防新技术协定的过程中，苏方的一些做法很使中方疑惑不解。一次，苏方通知，一种军事装备的实物样品已运到了绥芬河，要中方去接收。当中方做好全部准备并按时赶到预定地点时，苏方又通知说“样品还没有到”。如是者三，不免使中国的科学技术人员心生疑窦。
类似的情况都汇报给了聂荣臻。聂荣臻反复思考着这些问题，不禁回想起往事。1945年，日本宣告无条件投降后，日军在蒙古储存的大批武器弹药，以及驻蒙日军被解除的武器装备都存在蒙古，装满了许多仓库。这批武器对华北解放军来说，是可以使部队装备获得不小改观的。蒙古人民共和国部长会议主席乔巴山到了张北，有帮助我们的意思。乔巴山要见聂荣臻，主动约了两次，聂荣臻才由张家口到了张北。可到了那里，乔巴山又不见，等了一个晚上。第二天，聂荣臻就走了。他很清楚，乔巴山是在等苏联方面的指示，苏方不点头，乔巴山是不敢做主的。这些装备，后来被蒙方付之一炬，中国一颗子弹也没要到。当时这样做，苏联是做给蒋介石看的。在接受苏联援助的过程中，这些往事不断出现在聂荣臻的头脑中，和眼前发生的事形成某种联系。
1958年7月31日至8月3日，赫鲁晓夫到中国访问。访问期间，要中方回答不久前苏方提出的关于中苏建立联合舰队与长波电台的建议。这项建议，有损中国主权，理所当然地被中国严正拒绝。
建立联合舰队，实际上就是允许苏联军舰不经过交涉就能使用中国的港口。苏联领导人的要求，没有得到满足，那种悻悻不快的心情，使中苏两国间的关系很快出现了变化。
首先表现出来的是，苏联对待中印边界纠纷的立常1959年3月，西藏上层反动集团发动武装叛乱，企图把西藏从中国分裂出去。尔后，中印关系紧张起来。苏联领导集团不顾中国提供的事实和提出的劝告，授权塔斯社，于9月9日公开发表关于中印边界事件的声明，有意偏袒印度，把中苏分歧公诸于世。
1959年6月20日，苏共中央致函中共中央，借口当时苏联与美国等西方国家正在日内瓦谈判关于禁止核武器试验的协议，怕西方国家获悉他们正在新技术方面援助中国，“有可能严重地破坏社会主义国家为争取和平，缓和国际紧张局势所作的努力”。因此，信中提出，中断若干重要援助项目，两年以后看形势发展再说。其中特别提到不再提供原子弹教学模型和技术资料。从这时起，对部分项目苏联单方面终止执行国防新技术协定。
1959年9、10月间，赫鲁晓夫在联合国大会上的讲话，以及参加中国国庆招待会时，都影射攻击中国是所谓“好斗的公鸡”。这些都表明，苏联有意使两国两党之间的争论公开化。
这种情况愈发展，聂荣臻就对苏联能否执行国防新技术协定愈担心。一些报告已经很明显地表明了苏联在国防尖端技术上，对中国的限制更多了，许多答应给的技术资料和样品都拖延不给。一些专家顾问的态度，也有了很大的变化。他们采取措施，对中国技术人员接触苏联技术资料严加限制，给中方科技人员的研究工作带来极大不便。
与此同时，另一个重大变化是：苏联向中国要的东西越来越多了。过去，苏方索要的多是些中医、中药、种籽及农业、手工业等传统技术和资料。但从1959年开始，苏联大量索要工业新技术、尖端技术和中国重要资源、重大工程项目的资料。这些情况汇集到聂荣臻这里，在他心里打上了一个很大的问号。
聂荣臻认为，应该严密注意苏联方面的这种动向，他指示秘书把各个方面的情况搜集一下。很快，工业、科研、国防等有苏联援助项目的单位，都把情况报了上来。这样从全局看，形势更为明显了。聂荣臻由此已经判明，赫鲁晓夫领导集团撕毁所有协定的日子已经为期不远了。他认为事关重大，必须尽早报告中央，以便采取相应措施。
在历史重大转折的前夜，能够预见并指出这种转折变化的来临，不但需要深刻的洞察力，而且还需要丰富的经验和缜密的思维。如何做好准备，妥善处理这种转折带来的困难局面，则需要战略家的胆识和勇气。
1960年1月，在上海举行的中共中央政治局扩大会议上，聂荣臻将中苏经济援助与科学技术协作方面的变化和趋势，先报告了毛泽东主席与周恩来总理，以后又在会上就此作了发言。他在发言中提出，苏联很有可能在不长的时间内终止与中国的协议。他说：米格-21飞机和导弹的技术资料，苏联都卡住不给了。看来，靠苏联援助肯定靠不住了。苏联为了保持领先地位，加上对中国不放心，所以在国防新技术方面加紧限制的情况，已经越来越明显。我们已经摸清了他们的基本意图，就是在尖端武器装备的科学研究上，使中国与它保持相当的距离，只同意我们仿制苏联即将停产甚至已经停产了的装备。总之，他们是想长期使中国停留在仿制阶段，处于依附地位。周恩来对聂荣臻的报告，仔细看了几遍。然后，他又在这份报告上，密密麻麻地写了许多批语，把报告转给外交部，以引起外交部的警觉。随着中苏关系的变化， 1960年7月3日，聂荣臻向中共中央和毛泽东写了份报告，提出了三点建议：1.苏联在重要的关键技术上卡我们，令人气愤，但气愤并没有用。
事情有可能这么一逼，反而会成为发展中国国防科学技术的动力，更加坚决地贯彻自力更生的方针，而不是指望外援。2.今后科技往来应采取新的做法。
协议上有的仍然要，不给就挂笔帐，协议以外的新要求就不提了。3.独立自主，立足国内，绝不意味着自己封锁自己。毛泽东、周恩来很快批准了这个建议。
所以，应该说，中国对于苏联全面终止国防新技术的援助，是有准备的。
1960年7月，事实完全证明了聂荣臻的预见。苏联全面撕毁了同中国的协议，从7月28日到8月下旬，撤走了他们尖端技术领域里在华的全部技术专家。
苏联这一背信弃义的行动，发生在中国经济遇到了前所未有的困难时期。主要由于政策上的失误，加上自然灾害，危及到中国每个人的生活。在这样的时刻，中国的国防科技究竟怎样才能发展？它要走一条什么样的道路？这些问题萦绕在聂荣臻的脑海里，使他在夜色中漫步北海公园的时间格外长了。当苏联撤走全部技术专家的消息传到北戴河中央工作会议上时，毛泽东以他特有的气魄说：“要下决心搞尖端技术。赫鲁晓夫不给我们尖端技术，极好！如果给了，这个帐是很难还的。”①聂荣臻深刻领会了毛泽东的意图，在自力更生的基础上，更加致力于中国研制导弹、原子弹的事业。
赫鲁晓夫的背信弃义行为，促成了中国自行研制“两弹”的历史性转折。
①《当代中国的国防科技事业》上卷，当代中国出版社1992年10月第1版，第45页。