人工智能时代，技术必须拥有“价值观”
彬彬有理
你是否想过，人类对AI技术的研发，正如同孩童玩弄炸弹般危险？这正是许多人工智能专家的深切担忧。以埃隆·马斯克为例，这位同时执掌特斯拉、OpenAI、SpaceX的商业领袖，便是这一观点的典型代表。其公司OpenAI联合牛津、剑桥等顶尖机构发布的最新报告，深入剖析了恶意使用AI的潜在安全威胁，并提出了预测、预防及缓解威胁的多种策略。
AI的不确定性，正是恐惧的根源
报告将AI带来的威胁概括为三类：一是扩展并升级现有威胁，使其更易实现、成本更低；二是创造前所未有的全新威胁，这些威胁因AI而生；三是威胁的典型特征发生根本性改变。
毫无疑问，我们正站在人工智能黄金时代的黎明。从Siri、Alexa等智能助理，到自动驾驶汽车，再到诸多超越人类能力的算法，AI已在社会、经济等领域助力我们实现目标。
与多数科技领域不同，AI研究缺乏正式安全法规的约束，这引发了人们的普遍担忧：AI可能彻底脱离控制，从利器沦为负担。常见的恐惧包括AI取代人类工作、剥夺我们的权利，甚至威胁人类的生存。这也正是马斯克创立OpenAI、SpaceX等公司的关键动因。
从报告来看，AI威胁可简化为两种。其一，是对现有威胁的扩展与升级。这并非最大威胁，因其攻击属性和目标依然清晰，只是借助AI技术，实现方式变得更高级、精准。这种可预测的威胁，可通过技术升级和防御研发来化解。
但AI真正令人恐惧的，在于其深不可测的不确定性。表面上，AI似乎只是科技的迭代升级；实则不然，它绝非电力取代蜡烛那般简单。AI能够实现自主决策，且过程可能完全超出人类的掌控。目前被广泛应用的深度学习算法便是明证——其“黑箱”决策过程，至今难以窥探。尽管研究者试图揭开这一“黑箱”，但AI存在的“黑幕”远不止于此。
这也正是OpenAI报告中应对策略难以令人信服之处。面对重重不确定性，任何具体的防范措施都可能显得狭隘、无力。但我们决不能因此止步，必须主动寻求破解之道，而非被动等待。
价值对齐：构筑AI威胁的防火墙
必须清醒认识到，以往“技术没有价值观”的中立原则，在AI领域已彻底行不通。由于AI不确定性风险极高，所有研发者都必须肩负起责任，绝不能以“工具无罪”为借口推卸。
尽管全球对AI的控制与发展尚未达成共识，但“价值对齐”已成为一条普遍认可的标准——即AI的发展绝不能与人类价值观相悖。
无论AI的不确定性多么令人沮丧，这就是我们必须面对的现实。在找到更有效的解决方案之前，保持人类控制、明确研发责任、确保价值观一致、让AI服务于人类繁荣，并通过迭代开发而非一蹴而就，持续讨论并密切关注AI进展，是防范其潜在风险最基本的方法。
这意味着，人类需要成立专门的管理机构，深度掌握全球AI活动，及时制定并调整政策，以确保人类安全与秩序稳定。各国政府官员必须加深对AI的理解，其视野绝不能局限于“取代工作岗位”等浅层议题。
□郑伟彬（互联网从业者）
相关问答
技术型职业价值观有哪些优势与劣势？
技术型职业价值观的人认为立足社会的根本在于一技之长。他们潜心钻研技术，相信靠本事吃饭既可靠又稳当；适合的职业类型包括工程师、技师、程序员等需要专业技能的岗位。
演员网红当道，这对传统文化技术工人及下一代价值观有何影响？
当浮躁的娱乐文化充斥视野，传统技艺与工匠精神可能被边缘化。千年文化精髓需要传承，但若被轻浮之风侵蚀，文化断层或将出现，这值得我们深刻反思。
医学影像职业体现了怎样的价值观？
医学影像学是医学诊断领域的关键学科，也可作为生命科学的研究手段。该职业要求严谨、精准，致力于通过技术为健康护航，具有重要的社会价值与科研前景。
AI技术是否需要考虑价值观？你最希望或最不希望AI应用于哪些领域？
技术本身或可价值中立，但其应用必然涉及伦理抉择。近年来，AI伦理问题备受关注，尤其在隐私、偏见等方面。我们应推动AI向善，避免其应用于侵犯隐私、扩大社会不公等领域。
联想发展受阻，是否源于其缺乏价值观与核心技术？
企业长远发展离不开清晰的价值观与核心技术支撑。若二者皆缺，可能在市场竞争中逐渐迷失方向，失去立足之本。
经济增长如何成为价值观体系与物质活动的焦点？明清社会虽...
[最佳回答]B 本题考查明清未能发生工业革命的原因。材料着重分析了近代社会经济增长与技术进步的关联，指出制度与文化因素对技术革新的关键影响。
我国人口基数大，经济发展水平不高，能源技术相对落后...
1) 依靠科技进步，提升能源开发利用的自主创新能力；(3分) 加快经济发展方式转变...(2) 价值观作为社会意识，随社会存在变化而变化。随着我国生态文明建设推进...
借助现代传媒技术，以文化综艺为载体，通过选手...
《中国诗词大会》等节目巧妙运用现代传媒技术，以综艺形式生动呈现传统文化...(2) 中华文化博大精深，许多经典名句与社会主义核心价值观内涵高度契合。可对照...
...实现深海载人深潜技术突破。据此回答下列各题。
D. 价值观对人具有导向作用，正确的价值观助力成功小题2: 青年时期是世界观、人生观和价值观形成的关键期。叶聪等先进人物的精神，有助于青年...
你必须主动辞职的10种情况-OSCHINA-中文开源技术交流社区
4. 当你的价值观与企业文化严重冲突时。当个人核心价值观与企业的文化、价值观存在巨大差异时，你很可能被视为“异类”，发展空间将受限。