钛媒体 App 11 月 22 日消息,微软 CEO 纳德拉近日举行的微软 Ignite 2024 大会上就 Scaling Law 当前面临的争议做出回应。他认为,现在讨论 Scaling Law(缩放定律),跟之前讨论摩尔定律是一样的。摩尔定律之下,计算性能每 18 个月翻倍,有了人工智能,AI 计算性能每六个月左右翻一番。过去几周里关于 Scaling Law 有很多争论,比如 Scaling Law 的极限是否已被触及,模型的性能还会随着参数的增长继续吗?需要记住的是,无论是摩尔定律还是 Scaling Law,他们都不是物理定律,而只是经验观察。就像我们怀疑摩尔定律那样,对 Scaling Law 有一些怀疑和争论是好事,这会激励、推动模型架构、数据体系甚至系统架构方面的创新。
登录后才可以发布评论哦
打开小程序可以发布评论哦