外 滩大会参会规模创新高，人们都在关注如何防止AI作恶

　　9月7日，2024 Inclusion·外滩大会正式闭幕。事实上，这一天 下午，距离大会闭幕几个小(xiǎo)时前，仍有观众在排队入场。官方数据(jù)显示，本届大会共吸引(yǐn)了5.2万
人现场参会，无论是(shì)参会规模还是(shì)国际嘉宾的数量(liàng)，均创下了历(lì)史(shǐ)新高。除了年轻人，记(jì)者注意到，观众队(duì)伍中还有(yǒu)不少(shǎo)老人、小孩。

　　本届(jiè)外滩大会以(yǐ)“科技·创造可持(chí)续未来”为(wèi)主题，包括36场开放见解论坛、10多场创新者(zhě)舞台、2场AI创新(xīn)赛事、1场10000平方米(mǐ)的展览以及1场(chǎng)绿色生活节(jié)和(hé)1场科技人才(cái)招聘会。据统计，三天时间内，有30余 项AI新成果在本届外(wài)滩大会发布，包括蚂蚁AI生活管家“支小(xiǎo)宝”、AI金融管家“蚂(mǎ)小财”，AI健康管家等。

　　10000平方(fāng)米的展览场地汇集了众多企业(yè)参展(zhǎn)，记者观察到，相(xiāng)比往(wǎng)年，准(zhǔn)备各类装备体验、互(hù)动(dòng)的厂(chǎng)商越来越多了，许多展台前，观众为参(cān)与体验(yàn)排起长队。重视人文性，成为本届外滩大会的一大特点。除了开(kāi)幕式上24岁的独臂男孩周键借智能仿(fǎng)生手演奏钢琴的动人瞬间，在外滩大会的展区，借助设备观众可
以体验将脑电波以花朵的形式可视化，让瞬间的情绪(xù)形成纪念。还有可(kě)实现“拥抱传递(dì)”的设备，穿戴上内嵌人造肌(jī)肉纤维的特制背心，当另一个人拥抱装有压力传感(gǎn)器(qì)的模型时，体
验者便能感受到模拟(nǐ)其声控、触(chù)觉反馈和温度调节等多种感(gǎn)官元素的“远程拥抱(bào)”。

　　在(zài)这一年的外滩大会上(shàng)，如何让“技术向善”的(de)讨论(lùn)和研(yán)发更加 被业界重视。

　　AI医疗受关注

　　为期三天的展览中，AI医疗的相关产品(pǐn)、企业(yè)展(zhǎn)台总有着最多(duō)的人流(liú)量，“爸妈记忆力下降了怎么(me)办？”“AI如何辅助癌症筛查？”这些问题让不少观(guān)众不自觉就迈(mài)入了相关展区，不断有老人加入脑健康检测，有(yǒu)年轻人加入(rù)脑电波的“画图”。

　　“和去年相比，今年(nián)外滩(tān)大会AI人工智能的份(fèn)额感觉更高了，而且不是(shì)像之前傻(shǎ)乎乎的那种，今年的很多应(yīng)用是真的有用的，明显能感(gǎn)觉到算法提升了很多，比如说面(miàn)部识别功能或者语音交(jiāo)互功(gōng)能，都感(gǎn)觉上升了一个档次，效果变好了，所以大家体验的热情也高(gāo)。”一位
参会(huì)的展商(shāng)对记 者表示。

　　来(lái)不及喝口水，达摩院AI医疗展台的工作人员就迎来了下一位咨询的观众，今年的外滩大会上(shàng)，达摩院医疗(liáo)AI实验室展出了其AI医学影像分析产品，借(jiè)助AI技术，这(zhè)项产品能够从平扫CT中进行胰腺癌、食管癌、肠癌、胃癌等八大癌(ái)症及一系列慢性(xìng)病的筛查，吸引了不少观众。

　　展台的工(gōng)作人员告诉(sù)记者，通过AI识别，这项产品能够在肝癌(ái)、肺癌等癌症筛查中达到90%以上的准确率，提升医生的工作效率，补足一些医(yī)疗资(zī)源不均衡带来的问题。

　　“其实这项技术主(zhǔ)要(yào)是面向B端的(de)，为(wèi)医生服务，客户(hù)更多是医院(yuàn)、体验机构、保险公(gōng)司、公益组织以(yǐ)及软件厂(chǎng)商之类的(de)，但(dàn)这(zhè)两天很多个人也非常(cháng)感兴趣。”上述工作人员(yuán)表示。尽管许 多AI医疗(liáo)产品并未直接面向(xiàng)C端用户，但外滩大(dà)会的观众们对AI医疗将如何改变疾病的诊治(zhì)感到好(hǎo)奇。

　　博斯(sī)腾科技的展台则吸引到了大量(liàng)的老年观众，许多老人(rén)纷纷拿出手(shǒu)机通过支付宝“碰一碰”进行答题，检测自己得阿尔兹海默病的风险指数。展区的工(gōng)作人员介绍，通过许多数据、资料的支撑，这款产品能够(gòu)通(tōng)过答题测验、语音交(jiāo)互、动(dòng)作识别等方式检测阿(ā)尔兹海默病，并通过大模型生成用户专属的脑健康训练计划。

　　“我们的产品2020年成型(xíng)，但借助摄像头的动态识别功能(néng)是
今年(nián)刚(gāng)推出的，主要是借力于AI功能的发达，包括训 练(liàn)方(fāng)案的推荐，也的确在大模 型出现后智能了很多(duō)。”该展区的工作人员告(gào)诉记者。随着AI的发展，更多AI医疗产品的“进(jìn)化”值(zhí)得期待。

　　需要(yào)强调的是，目前(qián)，许多AI医疗产品的诊(zhěn)疗效果仍缺乏公开数据或第三方(fāng)权威机构的验(yàn)证，相关展台的工作人员也均表示AI医疗产品(pǐn)无法完全代替(tì)医生诊疗需求，以辅助作用为主。不过，AI在医疗问题中的应用(yòng)的确被业界期待。

　　不少大厂也在(zài)押注AI医疗赛道。外滩大会上，支付宝发布AI应用新产品“AI健康管(guǎn)家”，为用户提供找(zhǎo)医生、读报告、陪看(kàn)诊、问医保、管健康等30多(duō)项AI健康服务。百川智能(néng)创始人(rén)王小川则介绍(shào)，百川智能将重点在大医疗(liáo)AI领域做(zuò)投入，从儿科医生、全科医生两(liǎng)个切入点发力，希望在明年实现
医疗的低成本(běn)和可及性(xìng)，减少医院(yuàn)的
挤兑现象(xiàng)。

　　全国政协常委周汉民在外滩大(dà)会的(de)一场论(lùn)坛中(zhōng)表示，随着人工智能等新技(jì)术的 不断发展和应用，医(yī)疗产业正迎来一场深(shēn)刻的变革。据他观察，从最初的影像诊断、辅助诊疗(liáo)、基因(yīn)检(jiǎn)测，到近年(nián)来的药物发现、临床试(shì)验(yàn)、健康管(guǎn)理等，人工智能(néng)在提(tí)高精准度与(yǔ)效率、个(gè)性化治疗、数据处理等方面具备显著优势。他指出，医疗健康与(yǔ)人(rén)工智能的融合还延伸到了中医领域(yù)。

　　谈及人工智能在医疗产业的应用(yòng)情况，周汉民表示(shì)，人(rén)工智能
在医疗健康产业的应用应着力提高精(jīng)准性(xìng)、适用(yòng)性和安全性，此外，还需(xū)关注人工智能的引入(rù)是否会导致医护人(rén)员技能萎缩、对人(rén)工智能的信任的误判以及信息超载。

　　以AI对抗AI

　　在期待技术带来美好(hǎo)生活的同时，如何预防技术“作(zuò)恶”也(yě)成为外滩(tān)大会讨论的热点话题。

　　今年的外滩大会参会规模创新高，人们都在关注如何防止AI作恶外滩大会上，举办了(le)包括(kuò)“afac2024金融智能创新大赛”和“全(quán)球Deepfake攻防(fáng)挑战赛”两场子赛事(shì)在内的AI创新大(dà)赛，由(yóu)于近日韩国曝出“Deepfake”（深度伪造技术）事件，被认为是采用新犯罪手段的(de)“N号房”案件重现，以AI对抗AI，Deepfake攻防挑战赛尤其受(shòu)到观(guān)众的挑战。

　　事(shì)实上，随着AI技术的发展，Deepfake滋生欺(qī)诈等黑 色产业链，AI换脸欺诈带来的经(jīng)济财(cái)产损失、名誉受(shòu)损等事(shì)件正在成为全球挑战。

　　在(zài)外滩大会展区(qū)，许(xǔ)多观众现场(chǎng)拍照，然后(hòu)利用(yòng)Deepfake换脸模型和算法，通过视(shì)频活化、微笑和眼镜模版对观众的(de)真实(shí)照片进 行换脸，亲(qīn)身感受了Deepfake的逼真。

　　而在外滩大会AI创新赛·全球Deepfake攻防挑战赛的表演(yǎn)赛上，观众更是为
AI识别AIGC伪造图片感到激动。在这场表演赛中，主持人(rén)拿出了9张玛丽莲梦露等女星的(de)照片，其中2张是AIGC伪造的，选手用自己 的参赛模型给出每张图片的伪造概率值，并对概率值最高的(de)2张照片(piàn)与正确答案进行比对。最终，两支参赛队伍的模型都找到了正确答案。

　　在后续的互(hù)动中(zhōng)，外滩大会参会规模创新高，人们都在关注如何防止AI作恶一个有趣的现象(xiàng)是，人类肉眼能够(gòu)看出“一眼假”的伪造图片，AI可能识别不出，一些肉眼(yǎn)真(zhēn)假难辨的图片，AI反而能识别。新加坡科(kē)技研(yán)究局 周天異教(jiào)授分析，人(rén)类在判断图像(xiàng)是否伪造会依赖直觉和逻(luó)辑，一些人类一眼(yǎn)便知的问题(tí)AI无(wú)法联系相关背景、情(qíng)形无法识别(bié)，而一些难以识(shí)别(bié)的图片，AI一丝不苟、勤勤恳恳地完成人(rén)类指令的工作模式反(fǎn)而能找(zhǎo)出(chū)问题。他表示，相比(bǐ)“一眼(yǎn)假”的(de)图(tú)片，恰(qià)恰是这些难以识别的图片往(wǎng)往给人类带来更大损失，因此，用AI应对Deepfake有着重要意义。

　　“从我们现在看到的数(shù)据来看，我 们叫(jiào)Deepfake的(de)攻击也好(hǎo)，AIGC的生成伪造，今年的攻(gōng)击量比去(qù)年大概增加了10倍，去年攻击的浓度大概是1%，今(jīn)年就是10%。整个风险其实是呈指数级上升的情况，这不仅(jǐn)仅是在 中国，在韩国，在菲律宾、印尼(ní)等国家都有类(lèi)似的(de)情况发(fā)生。”外滩大(dà)会AI创新赛·全(quán)球 Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟(wěi)斌表示(shì)，10%的浓度意味着业界发(fā)现(xiàn)线(xiàn)上的流(liú)量有10%是Deepfake的流量，随着AIGC的发展(zhǎn)，生(shēng)成(chéng)的成(chéng)本会越来越(yuè)低(dī)，效率越来(lái)越高，明年可(kě)能不是20%，可能是50%，这是(shì)一个必须(xū)重视的(de)威胁。

　　更多引(yǐn)导AI向善的观点也在外滩(tān)大会被讨论(lùn)，姚伟(wěi)斌坦言，研发检测算(suàn)法，只(zhǐ)是遏(è)制Deepfake技术滥用(yòng)的方式之一。这种方式是(shì)相对滞后的。如果要(yào)从根源上(shàng)防范欺诈行为，姚伟斌认为应在标 准和立法角(jiǎo)度，要求(qiú)给A IGC 内容建立通用(yòng)标(biāo)识(shí)，比如每一张AIGC生成的视频或图片都在(zài)文件信 息里带一个签名(míng)或水印，这样平台管理更有依(yī)据，也(yě)能让AIGC 可以更可信。

　　“让(ràng)人工智能帮助人弹(dàn)钢琴，而不是作恶。”是本届外滩大会(huì)反复强调的价值观。上海市数据科学重点实(shí)验室主任肖仰华(huá)表示，AI的大规模滥用是可(kě)能(néng)损害人之为人的(de)本性(xìng)的。要有所为有所不为(wèi)，但凡伤害人之为人之(zhī)本(běn)性的AI应用，我们要谨慎，要加以限制。为此，“我们要重视技术治理，并将治理提前考虑，做到未雨绸缪。”

　　浙江强脑科(kē)技(jì)创始
人兼CEO韩璧(bì)丞则表示，AI伦理(lǐ)委员会(huì)的(de)存在非(fēi)常重要。技术前进的(de)时候，更应该关注“走的慢”的人。“当一个足以改变世界的技术出(chū)现时，我们先用它(tā)来帮助最需要的人”。

　　（本文来自第一财经）

责(zé)任编辑：李桐

未经允许不得转载：湖南迅雷文化传媒有限公司-岳阳广告公司|岳阳喷绘写真|岳阳印刷|岳阳镜面媒体-www.yy-xl.cn 外滩大会参会规模创新高，人们都在关注如何防止AI作恶