人工智能技术是当今科技发展的前沿领域，对经济、社会、文化等各个方面产生深远影响的同时，也带来了一系列风险挑战。大模型时代，如何应对新技术带来的风险？如何利用好人工智能为创新应用赋能？
8月1日，中国科协学会服务中心联合光明网主办的2024年第一期“学会服务365TALK沙龙活动”在北京瑞莱智慧科技有限公司举办。与会嘉宾围绕“探索大模型时代的人工智能新型安全挑战与创新应用赋能”展开交流讨论。
中国科技新闻学会、中国科学技术期刊编辑学会、中国农村专业技术协会、中国卒中学会、中国纺织工程学会、中国颗粒学会、中国光学工程学会、中国指挥与控制学会、中国照明学会、中国自然辩证法研究会、中国光学学会、中国防痨协会、中国公路学会等10余家全国学会代表参与活动。
在展厅环节中，瑞莱智慧的AI治理研究院院长张伟强带领与会嘉宾参观了人工智能安全平台、人脸AI安全防火墙、生成式人工智能内容检测平台、政策大模型、文生长视频大模型等先进AI产品，生动展示了人工智能技术当前风险态势和创新应用。
在主题报告环节，张伟强从人工智能发展态势、风险挑战、安全实践、应用创新四个方面进行了分享与交流，着重介绍了人工智能领域的安全风险及治理实践、多模态大模型产品Vidu等情况。张伟强介绍，生成式人工智能为智能社会的发展推开了一扇新的大门，已经成为发展新质生产力的重要引擎。但同时，生成式人工智能带来了新型安全风险，形成产业链闭环“缺口”。随着技术进步，伪造和滥用风险正在增加，伪造内容变得更加逼真，伪造成本降低，技术对抗在持续加剧。
如何保障人工智能产业实现安全高质量发展？张伟强介绍，瑞莱智慧聚焦人工智能安全和垂类大模型应用，深耕安全、可信、可靠和可拓展的第三代人工智能，通过构建大模型安全基座、AI伪造内容检测基座等，赋能新质生产力建设。瑞莱智慧建立了包括基础算法平台层、底层资源层、应用层的全方位AI安全体系，已成为通用人工智能全产业链条安全标准的制定者和践行者。
参会代表一致表示，通过本次沙龙活动，深刻感受到人工智能技术带来的发展机遇，未来将主动用好新技术，助力全国学会的改革与发展，为实现高水平科技自立自强贡献力量。
“学会服务365TALK系列沙龙活动”旨在联动全国学会、搭建交流平台，通过经验共享、交流互动，提升全国学会宣传工作效能，助力更好地服务科技工作者。
