点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
【网络强国这十年】从换道超车到国民引擎！安天科技潘宣辰：“很自豪让技术融入产业”****** 【网络强国这十年——行业回顾篇】 随着移动互联网快速发展和全面覆盖，移动安全威胁发生重大迁移：一方面，不良应用行为、欺诈诱导营销、用户欺瞒及隐私窃取等侵害用户权益的风险应用出现新一轮扩张；另一方面，移动互联网野蛮生长导致生态出现无序竞争局面，风险应用依附于移动互联网业务，正通过更加多样化的方式侵害用户权益，成为用户安全及权益新痛点，给整个产业的治理带来新的难题。 在我国移动安全行业发展版图上，安天移动安全通过将反病毒技术领先优势融入互联网产业，用“关口前移”的方式为超过30亿终端用户织密了移动应用风险防护网，也为主管部门提供了“良赢治理”方案和感知处置能力。 近日，安天科技集团执行总裁、武汉市网络安全协会会长潘宣辰，做客光明网“网络强国这十年”专栏，畅谈投身移动安全创业故事及行业发展的观察与思考。
投身移动安全创业，选择站在同一起跑线上的新赛道 2005年前后，85后青年潘宣辰还在武汉大学信息安全专业就读，这是国内第一个信息安全本科专业。在一次演讲授课上，潘宣辰结识了当时在武汉大学做兼职教授的网安前辈安天创始人肖新光（Seak）。 当时，我国在PC安全时代的核心技术还处于一个追赶的姿态。Seak给学生时代的潘宣辰渲染了一副宏大的国家安全及民族软件创新产业格局，并提出希望能找到一个新的技术领域或在一个新的操作系统平台上，可以由国内相关的研发团队自主去实现基础核心技术的突破和创新。 这个目标打动了潘宣辰。毕业后，在安天的支持下，他选择了移动安全方向创业发展。潘宣辰认为，PC时代几乎所有的技术，包括产品和商业模式在引入到移动场景后，都得到了进一步的叠加演进。结合移动特有的产业及生态结构，在移动安全方向上，必然会形成不一样的产业及生态安全需求，也同样会产生新的技术定义以及商业模式。 “得益于移动互联网的蓬勃发展，我们在这个全新的领域，和国内其他优秀厂商以及海外厂商相比，站在一个起跑线上，而且相比之下，安天以往在PC端积累的技术视野，在全新的领域进行技术架构和商业模式创新时，没有太多的历史包袱，又具有科班出身的发展优势。”潘宣辰说。 自主研发反病毒引擎，打破欧美安全厂商十余年独大 2010年以前，PC时代国内比较领先的安全厂商在海外的排行榜上并不是很靠前，最高排名第8位，多数徘徊在第10名左右。有了这个先例，潘宣辰和团队最开始设定目标是移动安全领域能够进入到世界前8位。 当时，团队初期的技术实力在移动领域优势并不明显。潘宣辰坦言，像海外的卡巴斯基、比特梵德，以及国内的瑞星、金山、360、腾讯等，其实都已经关注到，移动安全必然是未来一大趋势，当时大家都在积极投入技术研发。 深蹲之后，才能更好的起跳。最初，由于技术理念上有较大的差异，团队的优势并不明显。在和国内外厂商交流之后，才发现这是技术理念上的差异造成的。 比如，友商更多的是直接把PC时代的经验快速复制到移动时代，而安天是以本地检测算法引擎以及基于机器学习的专家智能分析工程平台运营体系为主，所以“工程化”传统较重，成果的形成需要较长时间的积累。 2013年前后，安天的优势开始凸显。当时，国际知名安全软件评测机构AV-Test的移动安全首次测评中，安天AVL移动反病毒引擎的检出率指标平均领先行业水平10%以上。这是国内安全厂商第一次在世界范围的反病毒领域呈现出技术压倒性优势，也就在那年，安天移动安全打破了欧美厂商的垄断，以100%的检出率成为首个获得AV-Test“移动年度最佳奖项”的亚洲厂商。 技术的真正价值，需要用市场和产业的方式来“回答” 在2014年取得核心技术突破的时候，他们也有卖掉团队的机会。潘宣辰和团队在“财务诱惑”和“产业挑战”之间，选择了后者。 潘宣辰认为，技术本身并没有常胜将军，也并不见得会永远占据优势。“这项技术到底是不是真的有价值，最终还需要用市场和产业的方式来回答。如果不去真正进入市场、进入产业的话，我自己觉得会特别后悔。因为这样就等于止步于技术了。”潘宣辰说。 安天移动安全在2015年开始探索商业化路径，选择了关口前移的产业融入线路。即通过选择与手机厂商广泛合作，通过操作系统级的嵌入式来进行技术落地，并且在这个基础上去构建新的商业模式。从2015年至今，安天威胁检测引擎为全球超过三十亿部智能终端设备提供了操作系统内置的安全检测能力。 “在移动安全的核心技术领域上，我们目前仍然保持着世界前列的水准。在检测这个技术点上，我们应该一直是第一第二的位置。”潘宣辰说。 监制：张宁 采访：李政葳 拍摄/后期：刘昊 李飞 配音：雷渺鑫 （文图：赵筱尘 巫邓炎） [责编：天天中] 阅读剩余全文（）  视觉焦点
乐发lv地图 |
)