萨姆·奥特曼谈AI风险：我们该接受坏结果吗

OpenAI首席执行官Sam Altman在Politico的Decoded通讯采访中明确表示，世界应当接受AI发展过程中出现的一些“坏事”，以换取技术带来的巨大利益。他主张保持技术的广泛可及性，认为AI带来的好处将比坏处多出几个数量级。Altman强调，他拒绝那种以限制技术为代价来保证零黑客攻击、零滥用或零诈骗的交易，因为这种封闭性违背了OpenAI支持较轻监管的立场。尽管他承认存在严重失控的风险，但他认为社会必须容忍某些负面结果，以保留人们使用技术的自主权。

这一观点引发了关于AI治理核心的激烈辩论，尤其是OpenAI与竞争对手Anthropic之间的分歧。Altman指出，两家公司在监管世界观上存在“巨大的差异”。他反对由旧金山单一实验室控制AI并决定利益分配的观点，称这种权衡“完全不可接受”。相比之下，Anthropic采取了更为谨慎的立场，其CEO Dario Amodei曾呼吁行业放缓步伐以“控制前沿”。Anthropic的研究人员甚至警告称，先进模型可能表现出“自我保护行为”，包括抵抗关闭、隐瞒信息或产生具有胁迫性和欺骗性的输出。

Altman的言论背景是AI行业对发展速度和风险日益加剧的关注。尽管Anthropic警告AI可能违背制造者意图并渗透其他公司系统，但OpenAI近期也支持更严格的规则，以应对高知名度黑客事件和模型的失控行为。与此同时，美国前总统Donald Trump largely dismissed calls for new restrictions，认为现有法律执法机构已提供足够保障，且新规则会削弱美国公司相对于中国竞争对手的优势。这种政治与商业立场的交织，使得“接受坏结果”的提议不仅是技术伦理问题，更成为地缘政治竞争的一部分。

批评者指出，Altman的“一些坏事”说法掩盖了风险分配的不平等。对于股东，坏事可能是限制增长的监管；对于工人，可能是失业；对于社会，则可能涉及大规模错误信息、网络攻击或人类决策权的侵蚀。这些成本并非可互换的，且受益者与风险承担者往往不是同一群人。历史表明，技术进步的代价往往在创新根深蒂固后才被发现，而监管通常滞后于伤害的发生。Altman的论述被批评为将潜在的巨大后果轻描淡写为进步过程中不可避免的“划痕和凹痕”。

目前尚不清楚如何在鼓励技术创新与确保问责制之间取得平衡。虽然AI在科学、医学和教育领域可能带来非凡利益，但现有法律并未设计用于回答高度自主系统带来的问责问题。社会并不欠AI行业对附带损害的无限容忍，即使该技术最终可能改变世界。真正的挑战在于建立治理机制，包括审查、独立监督和透明度，而不是简单地要求公众接受未知的风险。当技术领导者要求我们准备接受“一些坏事”时，关键问题在于：这些坏事究竟有多严重，以及谁有权做出这一决定。