尽管秘书长是“国际官员”，但他的教育与出身影响了他的政治倾向。因此，谁来当秘书长，是黑人还是白人，是亚洲人还是欧洲人，懂英语还是法语……都成为强国角逐的对象。
鉴于秘书长在联合国举足轻重的地位，秘书长的选举向来为各会员国和世界所重视。
第一任秘书长赖伊是在1946年的第一届联大上选出的。当时提出的候选人很多，从英国的艾登到美国的艾森豪威尔。
但会上普遍认为，为保证秘书长的公正与忠于宪章，这一职务不应由常任理事国的人员担任。于是澳大利亚和新西兰等一些中小国家支持挪威外交大臣赖伊出任秘书长。苏联、美国等5个常任理事国都愿意接受。特别是苏联，坚持表示非赖伊不选。经安理会推荐，2月1日大会以46票对3票通过了对赖伊的任命。这样，赖伊成为联合国第一任秘书长。
由于在朝鲜战争问题上，赖伊站在美国一边说话，苏联转而指责他为“美国侵略者的帮凶”。年赖伊任朗届满时，苏联坚持反对赖伊连任，美国针锋相对，不同意任何其他人接任。安理会虽经六次秘密会议进行协商，始终未能取得一致意见，也就无从对下任秘书长的委派作出正式推荐。当时联合国大会通过一项决议，使秘书长延长任期三年。理由是，联合国宪章并未规定秘书长的具体任期，其具体期限是大会于1946年单独予以规定的。当时苏联认为，过期秘书长未经安理会推荐再次任职是无效的，因此拒绝予以承认。
1950年时，美国极力推荐赖伊连任，但大国基于自己的政策考虑改变态度乃是常有的事。后来赖依遭到来自美国方面的批评，不得不于1952年11月10日辞职。
第二任秘书长哈马舍尔德于1953年4月10日当选，1958年连任。在第二个任期中，哈马舍尔德由于处理刚果（利）事件中的做法引起苏联和亚非等不少国家的反对，联合国内出现了对秘书长的信任危机。
1960年9月27日，赫鲁晓夫在第15届联大上发表长篇讲话，猛烈抨击哈马舍尔德，提出改变秘书处结构的问题。他说：“这个结构在联合国成立时，即1945年的时候，是符合各国力量对比、作用和意义的。但是，它完全不符合当前的时代。必须根据社会主义、帝国主义和中立主义国家这三类主要国家在国际舞台上新的力量对比关系来改变联合国结构，这样的必要性已经成熟了。”他还说，秘书长由一人担任不能一下子客观地反映三类国家的利益；最公正地解决联合国秘书处的办法是，“实行权利平等、机会平等和代表权平等的原则。联合国秘书处应该由3个秘书组成。”他建议废除秘书长，联合国由代表3个具有不同社会政治制度的国家集团的3名官员来领导，每个人对其他两人的行动都可行使否决权。
这就是著名的“三驾马车方案”。赫鲁晓夫的建议没有得到多数会员国的支持，许多国家认为，这样做会使联合国瘫痪。
1961年9月18日，哈马舍尔德突然遇难。在商讨新秘书长人选时，苏联极力推销其“三驾马车"方案，遭到美国等大多数国家的极力反对。经过1个多月的反复争论，美、苏双方都作了让步，最后决定推荐吴丹为代理秘书长，并给他配备能代表联合国各种不同意见的“顾问”。11月3日，大会决定委任吴丹为代理秘书长，任期到1963年4月10日，即哈马舍尔德任期期满为止。
后来，吴丹在古巴危机中发挥了突出的作用，受到苏联的特别赞赏。苏联遂放弃“三驾马车”的方案。这就使吴丹在1962年11月30日正式当选秘书长有了保证。吴丹的任期从即日开始到1966年11月3日止。
这样联合国度过了一次秘书长的危机。
第四任秘书长瓦尔德海姆于1972年1月1日就任，1977年连任，直至1981年12月31日。
当年年底安理会推荐下任秘书长时，最初参加竞选的有两位候选人：一位是任期将届满的秘书长瓦尔德海姆，另一位是非洲统一组织并得到不结盟国家支持的坦桑尼亚外长萨利姆。
从10月27日到11月17日，安理会先后举行了16轮无记名投票，两人所得票数几度都超过9票，但由于常任理事国美国16次对萨利姆投了反对票，中国16次对瓦尔德海姆投了反对票，选举陷于僵局。
最后两人都退出竞选，另有9人参加竞选。接着安理会举行秘密会议，进行第17轮无记名投票。结果，秘鲁的德奎利亚尔取得安理会的推荐资格。12月15日，联大举行会议，通过安理会的推荐。于是，德奎利亚尔正式当选为联合国第五任秘书长。
这次秘书长选举，延续时间之长，投票次数之多，以及否决权之连续行使，在国际组织史上都是空前的。
德奎利亚尔于1981年1月1日就任，1987年连任，直至1991年12月31日。
德奎利亚尔任期将满时，围绕新秘书长的人选又展开了激烈的争夺。非洲国家坚持认为，以往的秘书长均来自欧洲、亚洲和拉丁美洲，因此这次应按“地区轮流原则”由非洲人出任。
经过一番准备和努力，非统组织于1991年9月在加纳的阿克拉召开会议时提出了6位非洲正式候选人，并表示，如果非洲国家的候选人不能入围，它们将对任何其它地区的人持怀疑和反对态度。
非洲的提名得到了中国及不结盟国家的赞成。针对第三世界国家的强有力竞争，西方国家也采取了一系列对应行动。早在1990年9月第45届联大开幕前夕，为施加影响，美国福特基金会抢先发表了一份关于联合国体制的研究报告，就秘书长候选人资格、挑选方式方法以及今后秘书长的任期和任务等提出一整套改革方案，实际上就是为遴选下任秘书长定调。
同时，西方舆论媒体也频频提出，该候选人必须以能否适应建立美国式的“世界新秩序”的要求为基本条件；各国领袖人物应有选举权。因此，在安理会的非正式候选人名单上便出现了英国首相撒切尔夫人，加拿大总理马尔罗尼，挪威首相布伦特兰夫人和外交大臣斯托尔滕贝格，以及哥斯达黎加前总统、诺贝尔和平奖获得者阿里亚斯等人。
美国前驻联合国代表珍妮·柯克帕特里克也撰文声称应打破秘书长候选人不能出自5常任理事国的陈规，并竭力推荐前苏联外长谢瓦尔德纳泽。非洲与西方国家分歧较尖锐。
为施缓兵之计以便俟后相机定夺，西方一些国家又主张让德奎利亚尔留任一至两年。但选举前夕德奎利亚尔在处理库尔德难民问题上得罪了美苏两家，因此它们对此动议的兴趣大大淡化。
同时，因埃及副总理兼外交事务国务部长加利与法国的特殊渊源，后者力荐此人。最后由于美国的消极态度，非洲的坚持己见以及法国的外交手腕，这3个因素使加利最终得以当选为第六任联合国秘书长，任期至1996的12月31日。
由于美国和加利在处理索马里、波黑问题时发生矛盾，加利在联合国的改革问题不能满足美国的要求，美国先是拖欠联合国会费，向联合国施加压力，再则决定阻止加利连任。
早在1996年6月初，美国在未同其它四个常任理事国磋商的情况下，率先表示不支持加利连任。但6月19日加利在德国宣布正式参加竞选。在11月19日安理会正式投票对埃及等国提名加利连任草案进行表决时，美国使用了否决权。
由于前5任秘书长都干了5年以上，而加利只做了一任，非洲国家希望再由来自非洲的外交官出任秘书长。考虑到这一要求，安理会同时作出决定由非洲集团继续提出一名非洲候选人。加利于12月4日宣布暂时中止参加竞选。
6日，非统组织向安理会提出4名候选人。从12月10日至12日，安理会连续3天对这4名候选人进行1轮非公开正式投票和7次摸底投票。每次投票，安南得票都名列第一。但由于法国的否决，安南未能获得推荐。13日晨，法国突然改变立场，表示不再反对安南出任联合国秘书长。在随后举行的第二轮非公开正式投票中，一致通过安南为下一任秘书长候选人。
12月17日，联大全体会议以口头表决方式正式通过决议，任命安南为联合国第七任秘书长，从而给联合国成员国特别是西方大国和非洲国家围绕秘书长人选问题展开的紧张激烈的斗争画上了一个句号，也使由非洲人连续担任两任秘书长的愿望得以实现。