优刻得副总裁刘杰：国产大模型面临算力、数据、安全等六大挑战
(资料图)
外滩大会已经成为上海金融科技创新的新名片，也是观察上海以及全球科技创新的重要窗口。8月29日，在今年外滩大会召开前夕，大会采访团走访了上海科创企业，首站来到国内头部云计算公司优刻得（UCloud）。
作为上海本土的科创企业代表，优刻得将参与2023外滩大会·科技招聘会。优刻得人力资源总监胡婷婷介绍，“外滩大会聚集了我们产业相关的上下游，有很多高科技企业的从业人员参与，外滩大会的科技人才招聘会为我们现阶段内部正在快速发展的大模型领域的人才储备提供很好的平台”。
优刻得副总裁刘杰对记者表示，“今年大模型确实非常火非常热，我们看到国产大模型面临多重挑战”。第一个就是算力，现在在国内买不到高端芯片。即使A800芯片面向大陆市场销售，但是供货也是非常不稳定的。国产芯片也在加紧研发，但是因为周期性非常长，短时间构建起能够支撑大模型训练所需要的能力，是比较困难的。
“第二个挑战是数据，因为在训练的过程中需要大量的中文语义数据，目前中文语义数据存在数据总量不够多和数据质量不够高的问题。第三个挑战是算法，这个比较好理解，要让一个集上亿参数的算法去训练，其实对算法的要求是蛮高的。”刘杰表示。
刘杰认为，国产大模型面临另一大挑战是缺乏系统工程能力。刘杰举例称，大模型训练一般需要100多台服务器组成的千卡集群，如何去做到任务分配，保证这100多台服务器能够安全可靠，尤其是稳定的运行，这是一个很复杂的系统工程，这个系统工程直接对应了大模型训练和使用的成本。
此外，在刘杰看来，安全和应用也是国产大模型将面临的挑战。“安全的挑战是说现在我们对所有输入的数据其实是没有进行审核或者进行一些分析的，容易遭受注入式攻击。同时，它的输出也是没有身份鉴别的，每个人都可以用，还不知道到底是给了谁。现在大家都在做大模型，但是大模型到底最终是落在什么地方应用，目前还没有明确的方向。”刘杰指出。
标签：
X 关闭
X 关闭
