人工智能如何做到可信、可用?专家热议:把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态,是人工智能技术能做到可知、可信、可控、可用。而在现实中,人工智能技术手段虽然非常强大,但是离完美、完善仍有相当的距离。从技术角度和技术应用角度,人工智能的发展如何做到扬长避短?
近日,在2022人工智能合作与治理国际论坛上,专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为,现阶段很多技术还处于发展的过程中,如果过早地说这个不能用、那个不能用,可能会抑制技术本身的发展。但反过来,如果什么都不管,也不行。
“因此,现在更多还是从道德层面多进行引导。同时,做技术的人,也要尽量把一些可能的风险、抑制工具,即约束风险的工具,尽快想明白。自己也做,同时号召大家做,两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为,我们要保证能够创新,但同时不能让创新对我们的生活产生破坏性的影响,最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时,社会也要进行集体的监督,发布某个产品或技术,要能够召回、撤销。在创新和监管之间,当然是需要平衡的,但归根结底,还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道,在技术可解释性方面,需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型,或者更加可解释的AI应用。
“但我们真正想落地的时候,会发现每个人想要的可解释性完全不一样。比如:模型层面的可解释,可能从研发人员角度觉得已经很好了,但是从用户的角度是看不懂的,这需要一些案例级的解释,甚至通过替代模型等方式进行解释。因此,在不同领域,需要不同的可解释能力,以及不同的可解释级别,这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中,现在是不是时候?
高文认为,人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对,可能带来危害,要么召回,要么撤销。
高文说,应用的开发者,系统提交或者最终用户让他去调整的时候,他应该有责任。如果开发者发现已经踩线了,应该给他一个保护机制,他可以拒绝后面的支持和维护,甚至可以起诉。“不能只说哪一方不行,光说是开发者的责任,他可能觉得冤枉,因为他只提供工具,但有时候是有责任的,只是说责任怎么界定。”
“在人工智能的发展过程中,一方面要建立一些红线。”田天建议,比如,对于人工智能的直接滥用,造假、个人隐私泄露,甚至关联到国家安全、生命安全的,这些领域一定要建立相关红线,相应的惩罚规定一定要非常清晰,这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上,对于处于模糊地带的,希望能留有更多空间。不光是从限制角度,也可以从鼓励更加重视伦理的角度,促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
“新冠预测者”曹云龙:每年或现多个感染高峰 正研发新药以提高防治效率****** 中新网北京12月28日电(韦香惠)不久前,《自然》杂志(Nature)公布了2022年度科学影响“十大人物”(Nature’s 10),北京大学生物医学前沿创新中心(BIOPIC)副研究员、北京昌平实验室领衔科学家曹云龙入选。 这一榜单旨在选出十位在过去一年间为重大科学进展做出重要贡献的人物。曹云龙的入选理由是,作为新冠预测者(COVID-predictor),追踪了新冠病毒的演化,并准确预测了新突变和新毒株的出现。 日前,中新网专访了曹云龙,就目前全球几种主要流行毒株的特点、奥密克戎致病性变化、以及感染防治策略等话题进行了探讨。 不同突变株每年可导致多个感染高峰 曹云龙介绍,国内现阶段主要流行的是BA.5.2和BF.7,二者都属于奥密克戎BA.5支系。他表示,我国大部分人群接种的是原始株疫苗,其诱导的体液免疫被奥密克戎突变株严重逃逸,加之多数人群接种疫苗已经一年以上,体内中和抗体水平下降,进一步削弱了预防感染的作用。 他提到,当感染BF.7之后,对BA.5和BF.7的中和抗体水平较高,短时间内不会再重复感染同一毒株。但是,与BA.5.2和BF.7相比,目前国际上主要流行的BQ.1.1、XBB等新毒株的免疫逃逸能力更强,即使是感染了BF.7,康复后产生的抗体对XBB等最新突变株的中和能力也较低。因此可以预见的是,国内BA.5.2和BF.7感染高峰过去后,不排除出现因BQ.1.1、XBB或者是其他免疫逃逸能力更强的毒株驱动的感染高峰。 以色列人群新冠重复感染率大型队列研究 受访者供图 在国际上其它地区,重复感染已司空见惯。曹云龙提供的数据表明,最新流行株如BQ.1.1和XBB的重复感染率已达到40%,并在持续攀升。他表示,今年绝大部分国家都经历了四波重大感染高峰,多为不同突变株所诱导,平均三个月一次。目前看来,国内也很难完全避免。 重点关注奥密克戎在高危人群中的致病性 曹云龙表示,现在看到的奥密克戎的致病性整体上下降,主要是因为疫苗接种的普及以及大量人群感染导致的免疫力增强。虽然疫苗和自然感染建立的免疫屏障不能有效防止感染,但可以减轻症状,所以看上去似乎是病毒的致病性下降了。但他强调,这并不能与病毒的天然毒性相提并论。 曹云龙提到,社会群体中还有很多无法接种疫苗或者接种后无法产生有效免疫应答的人群,例如免疫缺陷人群、高龄老人、以及肿瘤患者等,他们也是新冠感染后发生重症和死亡的高危人群,因此仍然需要监测奥密克戎在这些高危人群中的致病性。 他介绍,在美国、英国、日本等国家,奥密克戎已经造成极大的死亡和重症负担。例如,在英国,奥密克戎BA.1造成的总死亡人数与Delta相当,虽然从BA.1→BA.2→BA.5,死亡峰值呈现下降趋势,但累计的死亡总数并没有大幅度下降。而日本今冬疫情造成的重症人数和死亡人数已逼近历史记录且尚未出现下降趋势。 曹云龙表示,目前的疫苗对重症的预防效果都较好,提高老年人的疫苗接种率仍具有重要意义。对于不适合疫苗接种的人群,则需要探索其他应对策略。 日本过去两年每日新增新冠死亡人数变化 受访者供图 广谱中和抗体有望提高治疗和预防效率 曹云龙认为,如何让疫苗和抗体药物的研发周期跟上病毒进化的速度是后续需要解决的问题。 “一个抗体药物的临床开发往往需要半年到一年的时间,也就是它能够使得社会受益的前提是该抗体能够应对未来半年到一年后所流行病毒。”曹云龙表示,新冠病毒突变较快,且免疫逃逸特性强,如何挑选开发广谱抗体药物,使得药物研发跟得上病毒突变至关重要,也是目前研发能够高效预防感染的疫苗所面临的痛点。 曹云龙团队建立了新冠免疫逃逸突变位点预测模型。他表示,预测到未来新冠会发生的突变,可以提前挑选出不受这些突变影响的抗体药物进行临床研发。 目前,曹云龙团队已开发两个广谱中和抗体SA55和SA58。据介绍,这两个抗体是从接种新冠疫苗的非典康复者体内筛选的,其作用位点避开了人群免疫的优势免疫表位,使得其很难被逃逸。 “SA55在目前的人群免疫背景中几乎不存在类似抗体,也是目前唯一一个处于临床开发阶段并对目前所有已知的新冠流行毒株都有效的抗体。”曹云龙介绍,SA55和SA58正在开展临床试验,产品剂型包括注射剂和喷雾剂。其中,注射剂可用于治疗和长效预防中重症,尤其适用于老年人或免疫缺陷人群等不适合疫苗接种或免疫反应差的人群。 与注射相比,喷雾剂直接作用于上呼吸道,只需很低的剂量就可实现预防感染的作用。初步安慰剂随机对照试验数据显示,SA58喷雾剂用于暴露后预防对有症状感染的保护效率可高达80%以上。“SA55活性更高,预防效率预计更高,且所需剂量会更低、成本也会更低”。 曹云龙提到,SA55/SA58喷雾有望成为一款可供全民居家日常使用的新冠预防和治疗产品,目前正在准备进行更为严谨的双盲临床试验。 新冠鼻喷中和抗体使用示意图 受访者供图 “虽然不能保证SA55未来一定不会逃逸,但我和团队已经在开发其他候选抗体,如果SA55被新毒株逃逸,可以马上有新的抗体替补。”曹云龙表示,除了广谱抗体,他和团队后续还将研发广谱新冠疫苗,以解决现有疫苗面临的技术瓶颈。(完) (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() ![]() 快三平台地图 |