要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

抖音严厉打击“无底线博流量”：违规内容下架账号禁言，水军团伙将被报警处理

北京 - 为维护良好的社区生态，营造健康积极的网络环境，抖音即日起开展“传授‘无底线博流量’技巧”相关内容治理，重点打击传授违法违规“流量密码”的内容及账号。

近日，抖音在治理“无底线博流量”行为中发现，有部分账号利用普通用户与平台规则之间的信息不对称，通过夸大效果、制造焦虑等手段，曲解平台规则、传递虚假信息，传授违法违规的所谓“运营账号的小技巧”。这些违规的“运营技巧”和“起号宝典”，包含大量引导用户“不择手段蹭炒社会热点”“违背公序良俗制造人设”“自导自演式造假”和“侵权盗版”的内容。

其中，部分账号还涉及引导用户到第三方购买所谓“服务”“课程”，但用户付款后买到的内容不仅违规且粗制滥造，许多用户察觉上当后维权无门。甚至还有部分网络水军团伙，以传授“运营技巧”为幌子，以“网赚”、“收徒”名义大量招揽普通用户进入“团队”，遥控、指挥普通用户大批量生产“低质”“同质”“蹭热”“侵权影视剪辑”等类型的视频。

此类行为不仅破坏了平台健康的生态、影响了其他用户的体验，更有可能滋生“水军”违法犯罪问题。

针对上述情况，抖音将采取以下措施：

• 下架违规内容。 对所有传授违法违规“流量密码”的内容进行下架处理。
• 禁言违规账号。 对发布、传播违规内容的账号进行禁言处理。
• 取消营利权限。 对严重违规的账号取消营利权限。
• 报警处理水军团伙。 对涉嫌违法犯罪的水军团伙，抖音将搜集线索后向有关部门报案。

抖音呼吁广大用户：

• 不要轻信各类“无底线博流量”的运营技巧。 这些技巧往往违反平台规则，甚至违反法律法规，用户容易因此受到处罚，甚至承担法律责任。
• 不要通过私下联络所谓“老师”，到第三方购买“课程”。 这些课程大多内容违规且质量低劣，用户上当受骗后维权困难。
• 不要加入剪辑“网赚”团队，听“指挥”而发布“低质”“同质”“蹭热”“侵权”内容。 此类行为不仅违反平台规则，还可能侵犯他人合法权益。

抖音将持续整治“无底线博流量”行为，营造更加健康清朗的网络空间。同时，也呼吁广大用户积极监督，共同维护良好的社区生态。

[移除了电子邮件地址]。

抖音安全中心

2024年6月5日