要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

寒潮、降水指数衍生品来了！“中央气象台-大商所温度指数”应用场景进一步拓展

北京，2024年6月17日 - 由中国气象局和中国大连商品交易所联合编制的“中央气象台-大商所温度指数”近日又有新突破，寒潮、降水指数衍生品正式推出，标志着该指数应用场景进一步拓展，将更好服务能源、农业、保险等相关产业。

“中央气象台-大商所温度指数”于2021年3月正式上线，包括日平均温度指数（DAT指数）、月度累积平均温度指数（CAT指数）和月度制热（HDD）/制冷指数（CDD），旨在反映我国主要城市温度变化情况，为相关温度敏感行业提供直观、全面的信息。

此次推出的寒潮、降水指数衍生品，分别基于日平均气温低于历史同期一定标准偏差的天数和降水量高于历史同期一定标准偏差的天数编制，可用于量化极端寒潮、降水事件发生的概率和强度，为相关产业风险管理提供新工具。

以下为“中央气象台-大商所温度指数”应用场景的具体拓展示例：

• **能源行业：**电力企业可根据温度指数的变化，提前调整发电量和电网负荷，优化机组运行策略，降低燃料成本和电力供应风险。
• **农业行业：**农户可根据温度指数的变化，指导农事活动安排，比如选择适宜的播种、育苗、施肥、灌溉等时机，提高农产品产量和品质。
• **保险行业：**保险公司可根据温度指数的变化，开发新的保险产品和服务，比如针对寒潮、降水等气象灾害推出的指数保险产品，为相关产业提供风险保障。

“中央气象台-大商所温度指数”的应用场景拓展，是气象服务与金融服务融合创新的重要成果，将为相关产业发展提供强有力的支撑，助力乡村振兴和绿色发展。

**来源：**中央气象台、中国大连商品交易所