现在的汽车已成为公路、免下车餐厅、安全带、导航设备和超级节油的数字仪表板构成的网络的一部分，其技术不同于100年前的福特T型车。大部分区别来自后续发明，而不是生命力持久的内燃机。同样，今天的阿司匹林也不再是过去的阿司匹林。考虑到体内存在其他药物、寿命变化、服药习惯（每天1片）、价格低廉等因素，它既不是从柳树皮精华液中提取的民间药物，也不同于100年前拜耳首先发明的那种合成物，尽管它们本质上都是同一种化学物质--乙酰水杨酸。技术在进步中变化，在使用中改造。随着它们的传播，第二级、第三级效用出现了。当它们开始普及时，几乎总是带给人们未曾预料到的效用。
另一方面，大多数诞生初期闪烁伟大光芒的技术理念逐渐淡出人们的视野。少数不幸的理念产生了巨大问题--完全不同于发明者当初的设想。镇静剂对孕妇来说是伟大发明，但对还未出生的孩子则是可怕的事物。内燃机非常有助于机动性，而对呼吸则会造成极大危害。氟利昂具有冷冻效果，价格低廉，但却破坏地球外围保护性的紫外线过滤层。在某些情形中，效用变化导致的纯粹是发明者不希望看到的副效用；在大量例子中，最终的功能与初始时大相径庭。
公正地评价各类技术，每一项都既有优点，又有缺陷。没有不包含缺点、不偏不倚的技术。一项技术的结果随它的本质变化而扩展。影响力大的技术同时在两个方向发挥影响力--好的方向和坏的方向。没有只具备高度建设性的技术，相反也没有只具备高度破坏性的技术，就像不可能造成巨大危害的伟大理念是不存在的。毕竟，人类心灵是最美丽的，但也能产生残暴的思想。事实上，除非一种发明或理念能够被无所顾忌地滥用，否则就称不上绝佳。这应该是技术预期的第一法则：新技术前景越光明，潜在危害性也就越大。对于互联网搜索引擎、超文本和网络这样受到喜爱的新技术，这条法则也适用。这些极其强大的发明释放出自文艺复兴以来未曾见过的创造力，可是当（不是假设，而是事实）它们被滥用时，它们追踪和预期个人行为的能力将是可怕的。如果说新技术可能创造前所未有的收益，也就有可能制造前所未见的麻烦。
要摆脱这种显而易见的困境，方法就是考虑最坏的结果。这就是所谓“预防原则”--广泛使用的新技术评估方法--得出的结论。
1992年世界首脑会议第一次提出预防原则，作为《里约宣言》的一部分。在原始版本中，它建议“不得以缺乏科学充分确定证据为理由，延迟采取符合成本效益的措施防止环境恶化”。换句话说，即使不能科学地证明某种危害将要发生，这种不确定性也不应该阻止人们采取措施防止可疑危害。自那以后预防原则被多次修改，经历多个版本，越来越像是禁令。最新的版本称：“具有造成重大危害之不确定可能性的活动应被禁止，除非该活动支持者证明不存在造成危害的巨大风险。”
还有一个版本--或者说预防原则的另一种说明--应用于欧盟的法规（《马斯特里赫特条约》规定的内容）以及《联合国气候变化框架公约》。美国环境保护局和《空气清洁法》（Clean Air Act）采用的方法是建立污染控制等级制。预防原则也被写入波特兰、旧金山和俄勒冈州的绿色城市的市政法规中。生命伦理学家和反对迅速推广技术的人最喜欢这条标准。
预防原则的所有版本都包含了下面的公理：人们在接受一项技术之前必须证明它完全无害。它必须被证明是安全的，才能推广。如果不能，应被禁止、限制、修改、丢弃或者忽视。换句话说，对新理念的第一反应应该是不作为，直到其安全性得以确定。当新事物出现时，我们应当暂停下一步行动。只有在新技术被科学证明无害后，我们才应该尝试使用它。
表面上看，这种方法似乎让人感觉理性谨慎。我们必须预计和防止危害。事先预防总要好于事后遗憾。不幸的是，预防原则的理论不错，可实践起来却有问题。“预防原则对一件事来说非常有效，即停止科技进步。”哲学家和咨询顾问马克斯·莫尔说。卡斯·R·桑斯坦写书揭露该原则的真相：“我们必须对预防原则提出质疑，不是因为它引导我们走向错误方向，而是因为它的全部价值就是让我们原地不动。”
所有的优点总会在某处产生缺点，因此无条件地按照预防原则的严密逻辑，没有任何技术将被采用。即使稍微放宽限制的版本也不会及时地允许人们使用新技术。不管理论怎样，从现实来看，我们无法总结出所有风险，不是因为概率低的缘故，而努力预测所有不太可能发生的风险会阻碍更有可能的潜在收益。
例如，全世界有3亿～5亿人身染疟疾，每年有200万人因此死亡。它使那些逃脱死亡厄运的人身体虚弱，并导致循环性的贫困。可是在20世纪50年代，通过在室内各处喷洒杀虫剂DDT，疟疾的感染率下降了70%。DDT是非常成功的杀虫剂，农民在棉田里积极地喷洒数以吨计的DDT--它的分子进入水循环圈，最终对动物的脂肪细胞产生副作用。生物学家谴责它是导致某些猛禽生育率下降以及某些鱼类和水生物种灭绝的罪魁祸首。美国1972年禁止DDT的使用和生产，其他国家随后也颁布同样的禁令。然而，没有DDT的喷洒，亚洲和非洲的疟疾病例再次开始增加至20世纪50年代之前的致命水平。在疟疾肆虐的非洲地区，重新引入DDT喷洒的计划被世界银行和其他援助机构阻止，后者拒绝提供资金。1991年91个国家和欧盟签订的一份协议同意逐步淘汰DDT。它们依据的就是预防原则：DDT可能造成危害，事先预防胜过事后遗憾。实际上DDT从未表现出伤害人类的性质，喷洒到家中的少量DDT造成的环境危害还未测量过。可是没人可以证明DDT不会造成伤害，尽管它已被证明能够造福于人。
谈到风险厌恶时，我们会变得不理智。我们关注我们想要抗拒的风险。我们也许注意乘坐飞机的风险，却忽视驾车的风险；也许担心看牙医时照射X光的小风险，却无视未检查到龋齿的大风险；也许关心接种疫苗的风险，却不注意患上流行病的风险；也许被杀虫剂带来的风险所困扰，而忘记有机食品的风险。
心理学家对风险进行了大量研究。现在我们知道人们会自愿而不是被迫接受1000次技术或环境带来的风险。我们无法选择安装自来水管的地方，因此在它的安全问题上的容忍度比使用自己选择的手机要小。我们还知道，对技术风险的承受程度与该技术相应的可察觉的收益成比例。收益越高，能承受的风险就越大。最后，我们知道风险的可接受性直接受到预期最坏后果和最好收益的难易程度的影响，而这是由教育、宣传、谣言和想象力决定的。有些风险容易让人想起它导致最坏结果的案例，这样的风险是民众认为最重大的。如果风险有可能导致死亡，它就是“不可忽视的”。
奥维尔·莱特在给他的朋友、发明家亨利·福特的一封信中讲述了他从一位驻中国的传教士那里听来的故事。莱特向福特讲述这个故事是有理由的，我在这里重述，理由与莱特的相同：关于投机风险的警示性故事。传教士希望改善他所在省份的中国农民收割庄稼的艰苦条件。当地农民用某种小剪刀剪断作物的茎。于是传教士拿出一把从美国运来的镰刀，向饶有兴致的人群展示它的良好工作效率。“可是，第二天早晨一个代表团来拜访传教士。他们要求镰刀必须马上销毁。他们说，如果镰刀落入盗贼之手，那还了得，整片庄稼一个晚上就能收割完毕并被带走。”于是使用镰刀的想法就被放弃了，进步没有到来，因为不使用镰刀者能够想象出这种做法可能--但总体上不大可能--对团体造成重大危害的方式。（今天很多因所谓“国家安全”原因而遭受严重破坏的地区正是这种对不大可能的最坏情况的相似预测造成的。）
由于努力实现“安全胜过遗憾”，预防原则缺乏远见。它往往全力追求唯一价值：安全。安全战胜了创新。最安全的做法是精通已被采用的技术，永不尝试可能失败的发明，因为失败本质上就是不安全的。医疗方法创新不如已被证明的标准疗法安全。创新是不谨慎的。可是因为预防原则只重视安全，所以它不仅削弱了其他价值，而且实际上会降低安全。
技术元素的重大事故通常不会像折断翅膀的鸟从高空坠落或大型管道破裂那样突然发生。现代最大的海难之一起因于船员厨房中一个燃烧的咖啡壶。区域电网突然停止运营，不是因为电力塔倒塌，而是因为一个微型泵上的垫圈断裂。在网络空间里，网页有序列表中罕见的微小漏洞可能导致整个网站崩溃。上述各种情形中，微小的缺陷激发了其他未预料到的同样微小的系统问题，或与之共同作用。但是由于各组成部分的紧密依存关系，一连串不大可能出现的细微差错接连而至，最后大麻烦滚滚而来、不可抑止，酿成灾难。社会学家查尔斯·佩罗（Charles Perrow）称这些为“正常事故”，因为它们是大型系统内部活力“自然”产生的。应该受到谴责的是系统，而不是操作者。佩罗对50起大规模科技事故（例如美国三里岛核泄漏、印度博帕尔市毒气泄漏、阿波罗13号、“埃克森·瓦尔迪兹”号油轮漏油、千年虫等）进行了全面的细致入微的研究，总结道：“我们设计的事物如此复杂，以至于无法预计到那些系统性故障所有可能的互动；系统内部隐藏的过程误导或者规避我们添加的安全设备，甚至使之失效。”事实上，佩罗继续总结，安全设备和安检程序自身经常制造新事故。安全器件可能成为更多故障的源头。例如，在机场加强保安，可能使拥有关键区域通行许可的人增多，这反而削弱了安检力度。冗余系统通常作为安全备份措施，也可能容易滋生新型缺陷。
这些被称为替代风险，减少危险的举措直接导致新危险的产生。防火布有毒，可是它的替代物毒性即使不是更大，至少也是与其相当。而且，虽然建筑物内部保留防火布可能带来低风险，但与之相比，移除防火布将大大提高火灾危险性。预防原则没有考虑替代风险的概念。
总体而言预防原则歧视新事物。很多已被采用的技术和“自然”过程包含未经检验的缺陷，数量之多堪比新技术，可是预防原则大幅提高了新事物进入现实生活的门槛。从本质上看，它站在有风险的旧事物或者“自然”过程的立场上对新事物指手画脚。举几个例子：在不使用杀虫剂的情况下种植农作物会导致它们产生自然杀虫剂与害虫搏斗，但预防原则对这些原生毒素不适用，因为它们不是“新事物”。新型塑料水管的风险无法与旧式金属管相提并论。DDT的风险没有放在过去致命疟疾的风险的背景下考虑。
最有把握解决不确定性问题的方法是更快速、更先进的科学研究。科学是检验过程，永远不会完全消除不确定性，而且，在特定问题上达成的共识随时间流逝而变化。可是基于证据的科学共识比已有的任何方法--包括凭直觉预防--更加可靠。持怀疑态度者和热情支持者公开进行了更多科学研究，能够让我们更快地得出结论：“这可以放心使用”，或者“这不宜投入使用”。一旦达成共识，我们可以制定合理的法规，就像我们的社会对汽油、烟草、安全带以及其他许多事物作出强制性改进规定一样。
可是另一方面我们应该让不确定性为人类服务。即使我们认识到应该对所有创新技术的意外结果进行预估，某些特殊的意外结果还是很难预见到。“科技总是超出我们的主观意愿，我们对此非常清楚，实际上我们的意图中已包含相关考量，”兰登·温纳写道，“想象这样一个世界：各种技术只完成大脑提前设想的特定目标，除此以外再无他用。那将是一个束缚极其严重的世界，完全不同于现在我们生活的这个世界。”我们知道科技会产生问题，只是不知道哪些是新问题。
因为任何模型、试验、模拟和检测都包含内在不确定性，所以评估新技术唯一可靠的办法是让它在合适的环境中工作。一种理念必须通过新形式工作足够长的时间，才会开始显示副效应。如果人们对一项新鲜出炉的技术进行快速检验，只能看到它的主要影响。可是大多数情况下，技术产生的意外副效应正是随后出现的问题的根源。
预测、试验或理论分析很少指出通常突然降临社会的副效应。科幻小说大师艾萨克·阿西莫夫敏锐地观察到，在马作为出行动力的时代很多普通人热切盼望无马四轮车的出现，并且很容易想象它的模样。汽车是众望所归的新事物，因为它是马车主动力的延伸--靠自身力量向前运动的交通工具。汽车能完成马车的一切功能，同时又不用马作为动力。可是阿西莫夫接着注意到想象无马四轮车的副效应--例如汽车电影院、交通瘫痪和四通八达的公路--是多么困难的事。
副效应的显现通常需要使用新技术达到一定次数，一定程度的普遍性。最早的汽车引发的主要担忧集中于乘客的安全问题--汽油发动机是否会爆炸或者刹车是否失灵。但是真正的质疑出现在汽车量产之后，那时有数十万辆汽车问世。人们担心汽车的少量污染物持续伤害人体，担心高速行驶时会撞死行人，更不用说对城郊的破坏和长途上下班的烦恼。这一切都是副效应。
不可预见的技术效用有一个共同根源，即各种技术的互动。2005年，研究人员在一份事后报告中对当时已撤销的美国技术评估局--存在时间为1972年至1995年--在评估即将问世的技术时不能发挥更大影响的原因作了如下总结：
虽然人们可以对极其先进的专业技术（例如超音速交通工具、核反应堆和特殊药品）作出看似合理（尽管总是无法确定）的预测，但技术的根本转变能力不是来自具体的人工制品本身，而是来自弥漫整个社会的技术系统的各类互动子系统。
总之，对新技术进行小范围精确试验和仿真模拟不能发现重要的副效应，因此即将问世的技术必须通过实践操作进行检验，并且实时评估。换句话说，人们必须根据特定技术在现实生活中的试验和问题来判断风险。
对新理念的合理反应应当是立即开展试验。而且只要它还没有被丢弃，就应该不断试验、检测。事实上，与预防原则相反，技术永远不能被认为“已证明安全”。人们必须时刻警惕，不间断地对技术进行检验，因为它不断地被使用者和作为母体的内部共同进化的技术元素重新设计。