“AI技术带来的机遇远大于挑战，要积极拥抱变化”
“AI技术带来的机遇远大于挑战，要积极拥抱变化”
世界人工智能大会“人工智能创新与治理”分论坛现场。
中国法学会副会长，最高法原党组副书记、副院长江必新
随着年初ChatGPT上线火爆出圈，公众对于人工智能的关注达到空前高度。新技术浪潮给社会各界带来冲击的同时也引发了诸多争议和讨论:第四次技术革命是否会真正颠覆日常生活，人类是否有一天将被AI取代，人工智能技术在各领域的推广和应用带来的风险要如何应对?
7月7日，世界人工智能大会在上海举行，由南方都市报联合清华大学人工智能国际治理研究院主办，中国科协-复旦大学科技伦理与人类未来研究院和上海智能实验室协办的“人工智能创新与治理”分论坛上，多位专家学者就上述议题进行讨论。
与会者普遍认为，与此前的人工智能技术相比，新兴的生成式人工智能技术将颠覆人类与世界的关系，AI技术将成为各国竞争的核心关键技术。政府部门、业界不仅应思考AI未来可能的发展路径，更要警惕可能带来的诸如数据安全、伪造人脸的身份识别风险以及系列技术犯罪。
应用 具备可泛化性、可及性与颠覆性 上亿人可能正在使用AI新技术
因人工智能技术的飞跃式发展，以ChatGPT为代表的生成式AI技术正引发大量的讨论，生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术，提供生成式人工智能产品或服务。如今这一项技术正在逐渐深入日常生活，在学习和工作场景中，越来越多人开始使用生成式人工智能技术来生产文字、图片、视频等内容。
此项新技术与此前的人工智能技术有何不同，将给人类世界带来哪些改变?论坛现场，复旦大学哲学学院教授、中国科协-复旦大学科技伦理与人类未来研究院院长王国豫认为，此轮人工智能技术有三个特点，即可泛化性、可及性与颠覆性。由于大模型的参数量极大，学习能力更强，适用性也更为广泛，而ChatGPT的出现及大量使用，意味着公众相较以往能更便利地使用AI技术，它具有颠覆性，不仅突破以往的技术框架，也将改变我们的生活和存在方式，改变人类和世界的关系。
同济大学法学院助理教授朱悦认为，与以往相比，此轮人工智能浪潮覆盖和影响的人群更为广泛，“过去的人机互动被人关注，可能全世界只有几千人在使用新技术，但在今天，可能有数千万甚至上亿人在使用新的人工智能技术。”
毋庸置疑，新技术的兴起也正在引发行业变革，云计算公司纷纷跟进、开发、销售基于大模型的产品，电子商务公司希望借生成式人工智能改变经营模式，产业正因新技术的发展而涌现更为强劲的动力。旷视联合创始人、CTO唐文斌提及，随着大语言模型的不断演变，数据量不断累积，目前各类垂直领域仍在使用的适合特定产业和内容的人工智能技术模型未来可能发展为真正具备感知、推理、决策等能力的类似人脑的统一大模型，这将对产业带来巨大的发展可能性。
中科深智CEO成维忠认为，过去半年，人工智能行业正迎来空前的蓬勃发展，但行业也不可避免地面临一些悬而未决的难题:未来人工智能技术的发展之路要如何向前，是探索单纯的大语言模型还是要以多模态为重点值得思考，尤其是有观点提出以大语言模型为主体的基础大模型可能最终并不能形成像人类一样思考、学习和执行多种任务的通用人工智能后，这些难题还需业界重新凝聚共识共同探索解决之道。
热议 AI会取代人类吗? 专家:暂时还不太可能
在生成式AI出现之后，AI会否替代人类一度成为舆论热议的话题，在现场不止一位专家提及，AI技术目前仍未达到能取代人类的能力，“它的逻辑判断能力、情感分析能力，暂时还不太可能取代人类。”公安部第三研究所网络安全法律研究中心主任黄道丽说。
成维忠则提及掌上电脑创始人杰夫·霍金斯曾提出的一个观点:人的智能分为旧脑和新脑智能，人类的爱和恨都由旧脑智能决定，而现存的人工智能技术均是基于新脑智能在运行，“从这一观点出发，AI不会取代人类，也不会出现攻击人类的问题，因为它没有爱，也没有恨。AI技术带来的机遇远远大于挑战，个人要积极拥抱变化。”
王国豫分析称，一些专业的需要创造性思维的岗位不会被AI取代，但一些技术含量不高的岗位可能有被AI取代的风险。“未来更重要的是教育系统如何培养更具有创新能力的人才，教会我们如何通过提升数字素养，更好地适应AI时代的需要。”
唐文斌也认为，人类应该在现阶段思考如何更好地利用AI技术武装自己，产生更强的生产力，而不是一味抗拒新技术的来临。
“AI不仅是一种技术工具，我们或许可以将它作为一种探索游戏，希望AI能让生活变得有趣，而让有趣有意义的事变得简单。”朱悦说。
警惕 AI技术也可被“赋能”犯罪技术 形成新的网络安全威胁
随着AI新浪潮的兴起，它所引发的技术犯罪、伦理难题始终是公众热议的话题，如何防范新技术带来的风险?
黄道丽认为，以GhatGPT所代表的LLM技术已成为各国新赛道。各国政府均在积极鼓励人工智能产业的发展，同时也普遍意识到需要进行监管防范其可能引发的风险，“今年以来，全球人工智能立法进程明显提速，可以说，各国监管治理都在追赶人工智能的演化速度”。除了业界普遍提及的AI所引发的隐私风险、伦理风险、社会风险等问题，公安机关最关注的是犯罪利用风险，即AI技术也可被“赋能”犯罪技术，形成新的网络安全威胁甚至可能成为“犯罪基础设施”。
她举例，今年，山东青岛出现一起电信诈骗真实案例，骗子通过木马软件监听受害者的生活，收集受害者亲人的声音，利用AI变声软件进行伪装虚报病情，并劫持手机通信，使受害者打给亲人的电话转接到骗子那里，“由于人工智能模仿的对象是受害者熟悉且信任的人，会在某种程度上降低他们的警觉性。”
黄道丽称，生成式人工智能技术可能改变以人为主导的社会，“早几年我们分析弱人工智能阶段的法律风险和犯罪事件，尚可以追溯或归责于人(生产者等)，法律问题或犯罪打击的解决都取决于我们最终能否识别此人与彼人。但现在我会开始担心未来找不到某项行为、活动背后的那个人(主体)，AI技术与人或他人的主体性混合在一起逐渐变得模糊，而依靠现有的规则想要去有效治理，无疑更困难。”
成维忠认为，AI技术是中性的，在AGI(Artificial General Intelligence，即“通用人工智能”，是指一种能够像人类一样思考、学习和执行多种任务的人工智能系统)时代来临以前，真正应该警惕的是人类利用技术作恶。“比如伪造内容，伪造人脸，政府部门和行业要从现在开始探讨如何防范风险，而不能等问题严重了再想办法解决。”
朱悦则提及一个关键问题，目前人工智能治理中AI自主承担的比例越来越高，“我们都说要对AI进行治理，但治理过程中一些企业可能会利用生成式AI做大量的知识积累，发挥它的培训功能，让它参与伦理决策，甚至还有一些更激进的企业，希望直接训练出一个能做出伦理决策的模型，无论是学术研究、业界培训，还是合规评审，我们可以想一想，AI在其中所占据的比例是不是越来越高?很多人都认为，一旦AI比人类聪明就将失控，现在的AI治理，它自己参与了很多，某种意义上其实也失控了。”
专家观点
最高法原副院长江必新:
法治只有高度智慧化才能有效驾驭人工智能
在助推人工智能创新和发展时，应如何进行治理?中国法学会副会长，最高法原党组副书记、副院长江必新认为，应当建立高度智慧型的法治，法治只有高度智慧化和智能化，才能真正有效地驾驭人工智能。智慧法治可以为人工智能“益智”，也可以为人工智能“赋能”，应当以法治破除数据壁垒和鸿沟，以法治来破除人工智能的创新和发展的体制机制和政策障碍。
人工智能具有二重性
当前，人工智能正成为推动人类进入数智时代的决定性力量，引领新一轮科技革命和产业变革，江必新以《以智慧法治开启人工智能创新与治理的新时代》为题作主旨发言。
如何理解人工智能给人类社会带来的影响?江必新认为，人工智能不是一个行业，不是一个单一的产品，也不仅在某个领域发挥作用。它是在众多行业，为人类生存和发展赋能的一个“赋能者”，它不仅改变着人类的思想、知识、感知和现实，也改变着人类的命运、本质和身份。
“人工智能不仅创造着一个全新的时代，而且创造着人类一种全新的文明。”江必新称，人工智能同任何其他的技术和工具一样，都具有二重性，用得好可以为人类谋福祉，用得不好也可能给人类带来负面的影响。因此，在助推人工智能创新和发展的时候，一定要高度重视治理问题，也就是说治理一定要与创新同在。
江必新认为，人工智能治理需要建立高度智慧型的法治，还需要创建创新友好型的治理。“任何治理不是把它‘治死’，是要把它‘治活’，治得健康，治得有活力，这才是治理的最根本的目的。”法治只有高度智慧化和智能化，才能真正有效驾驭人工智能，只有高质量的智慧治理，才能为中国的发展赢得胜算和机遇。
以法治破除数据壁垒和鸿沟
江必新认为，智能法治、智慧法治可以为人工智能“益智”，人工智能没有法治的保障，其“智”便难于展现。
“应以法治保护人工智能的知识产权，包括数据、算法，以及人工智能创作物，以调动科创人员的积极性。”江必新称，还要以法治破除数据壁垒和鸿沟，所有的人工智能都建立在数据基础上，没有数据便没有智能，数据越充分智能越高。所以只有用法治来破除数据的壁垒和鸿沟，必要地保障数据的充分流动，在合理范围内流动和利用，才有可能“益智”。
江必新还提到，应以智慧法治为人工智能“赋能”。如以法治确保人工智能的安全、可信赖，增强公众对人工智能的信赖和信心，为人工智能发展创造良好的生态环境；以法治为人工智能装好安全阀和制动器，使人工智能得以行稳致远；以法治来维护好市场经济的秩序和良好的竞争环境，使人工智能能够较好地、更快地、有效地落地落实；以法治来实现跨部门的协调和资源的整合；以法治来破除人工智能创新和发展的体制机制和政策的障碍。
此外，江必新还建议，以智慧法治为人工智能“立德”，即让人工智能具有良好的技术品行，实现人工智能的“德才兼备”。要确保人工智能始终成为服务人类、解放人类、发展人类的工具，而不能使人工智能成为反人类、异化人类、奴役人类的工具。在为人工智能留有巨大的创新发展空间的前提下，为人工智能设置道德高线、善行标线、伦理底线和法律红线。
把风险控制在可接受的范围内
江必新认为，创新友好型治理需要具备合目的性、必要性、有效性和可接受性。首先要植入人类共有的价值观，如“安全、公平、福利、透明、平等”等，还要植入中华民族特有的价值观，如“仁义礼智信”。同时，创新友好型的治理还意味着要避免过高的政策标准来限制、阻碍其发展，也就是说任何法律制度都必须建立在有明确的问题意识以及有效的应对方案的基础上，同时必须建立在科学的风险评估基础上，把风险控制在可接受的范围之内。
在治理的有效性方面，江必新认为，如要实现治理目标，应进行类型化分类治理，对高风险、中风险、低风险分类施策，“一刀切”和“一锅煮”很难实现有效治理。此外，治理应具备灵活性和机动性，还应当有公众参与，抓住重点，同时利用技术监管，技术的问题最终只能靠技术来解决，人工智能的监管问题最终要靠人工智能本身来解决。
江必新还提到，要通过个案来逐步建构规则，在条件不成熟时，逐步形成规则体系也是可行之道。
创新友好型治理如何实现?江必新提到了十点建议:第一，要实现立规和立德相结合；第二，赋权和课责相结合，如何确权是一个复杂的工程，一定要明确权益，同时要明确责任，将权利义务结合起来；第三，法治与技治结合；第四，“他治”与“自治”相结合，比如通过行业确定标准、确定伦理指南等；第五，统一治理和类型化治理相结合；第六，对制造者治理和对使用者治理相结合；第七，全周期治理与审慎治理相结合；第八，系统治理与重点治理相结合；第九，刚性治理与柔性治理相结合；第十，回应性治理与敏捷性治理相结合。
●应以法治保护人工智能的知识产权，包括数据、算法，以及人工智能创作物，以调动科创人员的积极性。
●以智慧法治为人工智能“立德”，即让人工智能具有良好的技术品行，实现人工智能的“德才兼备”。
——中国法学会副会长，最高法原党组副书记、副院长江必新
出品:南都数字经济治理研究中心
统筹:程姝雯 李玲
采写:刘嫚 蒋小天 杨博雯 黄莉玲 马宁宁 于典 赵霖萱 黄慧诗 樊文扬 胡耕硕 赵唯佳 实习生 唐小狄返回搜狐，查看更多
责任编辑：