在正式会谈之初，曾纪泽没有把在国内与总理大臣们商议的改约条款和盘托出，他想了解俄国对和谈的真正意向后，可以有针对性的进行谈判。因此对中国改约的内容中最重要的，也是谈判起来不容易达成协议的内容全部提出，比如：全部交还伊犁；塔城、喀什噶尔边界按照原来的边界划分；领事只能增加嘉峪关一处等。但是在措辞上有的地方稍有改动，比如：塔城和喀什噶尔边界，虽然照原来的划分，如果确实有不能确定的地方，两国派官员去勘察确定。对于有些内容，在国内商量时没有涉及的，为了有利于谈判，曾纪泽就自行添上，比如：俄国在《里瓦吉亚条约》中侵占伊犁以西等地是为了安置移民，曾纪泽就提出准备与俄商量安置移民的方法。另外，还有许多运用灵活的策略的地方，比如：有的改约内容，在开始会谈时暂时不提出，而笼统的以“其余小处，应俟大端商有头绪再议”，而埋下伏笔。
尽管曾纪泽很有策略地提出了中国对修订条约的意见，格尔斯等俄方代表还是非常不满意，说：“如此是将从前之约全行驳了。”8月25日俄政府召开专门会议，研究新的对华政策，会议确定三条原则：一，保持《里瓦吉亚条约》的基本原则，只能就其中的部分谈判；二，俄国可以放弃特克斯河流域，但中国必须增加赔款或调整另外地区的中俄国界；三、坚决要求中国人尽快了结一切争端，限一个月内结束谈判。谈判一开始，曾纪泽就陷入困境。格尔斯指责说：先前派头等钦差签订的条约，中国都不重视，这样的行为使俄国难堪而且受了损失。因此，拒绝和曾纪泽谈判，另派布策到北京直接与清政府谈判。沙俄之所以这样做，是为了给“中国政府一个教训，是对它拒绝批准在这里缔结的条约的惩罚”。于是，沙俄单方面中断了彼得堡谈判。
沙俄的行为，给曾纪泽在俄谈判增加了新的困难。当时，清政府得知布策要到北京谈判，惊恐万分，他们最怕那些带着枪、坐着船直接到北京的外国代表，中国的官员是“谈洋色变”，列强们看准了清政府的致命弱点，就用这点来进行威胁，使清政府妥协。果然，清政府为了达到在俄进行谈判的目的，大大降低条件，指示曾纪泽，只要与俄国议定的条款内容在《里瓦吉亚条约》的十八条之内，将来报奏清政府就能批准。而这样一来，使曾纪泽原来设想的通过谈判收回伊型全境及尽量减少中国损失的初衷难上加难。
曾纪泽的坚韧不拔精神，处处以国家利益为重的品格在这场艰难的谈判中充分显示出来。
1880年9月，曾纪泽到俄外交部要求召回布策，并让俄放心“但有可让之处，我必酌量相让”。看到曾纪泽的新姿态后，俄外交部官员热梅尼认为“侯爵（指曾纪泽）和他的政府确实有和解的希望”。陆军大臣米留金也认为：“清政府真是被我们的作战准备和外交家们的建议吓坏了，非常愿意在彼得堡结束谈判，并赋予曾公使以最广泛的权力，只求不把谈判移到北京。”俄政府见对清政府的讹诈奏效，就同意召回布策恢复彼得堡谈判。
10月，中断了2个月的谈判复会，沙俄代表非常清楚曾纪泽的处境，不时地以曾无缔约全权，派使者到北京谈判作为讹诈手段，妄图使曾纪泽屈服，作实质性让步。在这种情况下，换回已失去的权益，谈何容易，每谈一步对他都是巨大的考验。
首先谈判的是划界问题，这也是诸问题中双方分歧最大、争议最多的问题。
根据《里瓦吉亚条约》，俄国将得到霍尔果斯河以西、特克斯河流域以及额尔齐斯河流域的斋桑湖以东地区，使伊犁成为三面环俄，难以守卫的孤城。这次曾纪泽要争的，是伊犁南部的特克斯河流域。布策首先提出，不能白白交还伊犁，要以“相抵之地”作补偿，逼问曾纪泽“中国沿海地方何处可让”，热梅尼也屡次提议“应由中国设法补偿”。沙俄强占了中国领土，交回时还要中国补偿，真是典型的强盗逻辑。曾纪泽坚决反对割让沿海土地作为沙俄交还伊犁的补偿，只同意让伊犁西边的一些地方酌情让给俄国以便安置从伊犁迁出的居民。俄国代表见曾不肯退让，就使出惯用伎俩，声称如果曾纪泽拒绝，那么谈判只好停止，改由俄国驻华代办凯阳德在京与总理衙门交涉，等一个月期满，将命目前在日本海指挥着23艘军舰的俄海军上将勒索夫斯基到北京会同凯阳德向中国政府提出最后通牒。并且还气势汹汹地威胁说谈判“若再迟延，不如打仗”。
面对强盗们赤裸裸的威胁，曾纪泽不失外交家的风度，既态度平和又语气强硬地说：“中国不愿有打仗之事，倘不幸而有此事，中国百姓未必不愿与俄一战。中国人坚忍耐劳，纵使一战未必获胜，然中国地方最大，虽十余年亦能支持，想俄国不能无损。”沙俄想利用交还伊犁进行敲诈的计划落了空，也不得不缓和了对曾纪泽的态度。
曾纪泽在谈判中还表现出思维敏捷，善于利用机会为国争得利益。
他与格尔斯的谈判，开始时强调帖克斯川盆地（伊犁南面）对于中国的重要性，当格尔斯接受了他的要求后，他又列举其它3项，如嘉峪关设领事、松花江行船等也说是极重要的。当被布策拒绝后，他利用格尔斯在谈判喀什噶尔划界时不接受他提出的“原定界限，不必改，无定界处，由两国分界大臣勘定”的建议，而提出要缓商这段划界的事实，立即要求，如果喀什噶尔划界缓商谈，松花江行船事也应缓商量，并援用互惠互利原则，周旋于格尔斯和布策之间，随时寻求空隙，相机反驳。最后，格尔斯允许将松花江行船专条撤废。
整个谈判过程，基本符合原来曾纪泽预期的结果，尽量挽回我国领土、主权，适当增加对俄的赔款。
在谈判赔款问题时，曾纪泽不轻易松口。俄国提出要中国赔偿兵费1200万卢布，（崇厚签约时提出赔偿500万卢布）曾纪泽坚决拒绝赔偿这笔巨款，说：“倘要1200万卢布，中国情愿打一仗，再出此款。”又说：“中国与其无故出此巨款，不如打仗。”并且欲擒故纵地说：“与其出巨款，不如不要伊犁。”双方经过一个多月的争执，最后赔偿900万卢布。
谈判的最终结果，远远超出清政府的预料，不仅收回了伊犁南面战略要地和其它土地约5万平方公里，还减少了在喀什噶尔，塔城的边界损失和删除部分崇厚签约的通商条款。
为了使谈判结果最大限度地益于中国，曾纪泽可以说做到了呕心沥血。众所周知，外交无小事，尤其在两国谈判时，面对面地争得利益，稍有不慎就会丧失权益。曾纪泽深知责任重大，不敢有一丝松懈，他认认真真地对待每一次具体会谈。
在谈判伊犁、塔城和喀什噶尔边界时，他通过各种渠道收集了所有中俄有关这段边界的界图，经过反复地研究，做到胸中有数，避免了在决定界址时发生错误。中俄伊犁条约大纲基本确定后，曾纪泽又在各条款内力争加入有利中国的详细字句，比如：中国应付俄国赔款折合英镑的汇率；从中国汇到俄国的汇费问题；赔款中请由中国给票折付商货的问题。他还对条款内的一字一句，悉心斟酌，力求明确翔实，以预防将来履行时可能发生的流弊。因为伊犁条约以法文为正本，他就亲自督导工作人员，仔细地校对。当时中国驻俄国使馆的工作人员不够，他不顾谈判的疲劳，亲自誊写汉文本的条约大纲。
曾纪泽在谈判过程中，既有态度强硬之时，也有语言风趣之时，比如他对重新订约是这样比喻：“一张白纸已涂了墨，现中国另换一张纸写字。”对于谈判中一些细节问题，布策坚持不同意时，他笑着对布策说：“有许多事原来没有多大关系，可是不明白这个道理的人，只是看表面。比如吃咖啡时，或有人先放牛奶，后斟咖啡，在明白人眼里没有什么区别，而固执的人，就以为大错特错了。”这番话说出后，布策也不由得笑了。
对于曾纪泽的外交才干，与他谈判的对手也不得不叹服。热梅尼说他“甚为骄傲，且对一般政治，甚为通晓”。格尔斯这位俄国的外交部长，自称从事外交活动42年，对曾纪泽的评价很高，说这次改约“实在是最难的事，而贵爵商议办理这件事，竟成功了，可见贵爵才智兼优能办大事”。他不仅称赞曾纪泽办事谨慎的态度，还说他的才智“不仅在中国出众，在欧洲也是少见”。
曾纪泽以他的聪明才智、坚韧毅力、严谨作风和报效祖国之心，奠定了他在外交界的位置。