成天软件海量科研管理资讯平台提供:
前段时间,网络上流传着一些由大模型生成的“异次元篇章”。比如,有人让大模型续写《红楼梦》情节时,竟得出一幕“贾宝玉倒拔垂杨柳”的奇景,令人啼笑皆非。之所以会出现这种“混搭”和“幻觉”,是因为大模型不仅学习了原著,还“广纳博采”了不少错误信息。
这些人工智能(AI)生成的“胡言乱语”虽是网友们茶余饭后的笑谈,但提醒我们要清醒认识到其背后折射出的问题:数据质量是大模型应用成败的关键。以个性化推荐AI系统为例,一些企业在开发过程中,虽然收集了大量的用户行为数据,但数据中充斥着错误的标注、重复的数据以及相互矛盾的信息,数据的量增加了,但系统推荐的准确性并没有显著提升。《自然》杂志(Nature)刊登的一篇有关大模型可靠性研究的文章指出,一个西班牙研究团队发现,包括OpenAI公司的GPT在内的几个大模型升级后,虽然参数量更大了,误答情况却更严重了。因此,大模型长得壮不壮,不仅取决于“食量”(即数据的数量),更在于食物的“质量”(即数据的质量)——吃得饱并不等同于吃得好。
数据是大模型的基石,在数据质量不高、可靠性缺失的情况下,一味追求大模型参数量的增加,不仅无法提升模型性能,反而会放大偏差和谬误,产生更多不可信数据。如此一来,势必造成计算与存储资源的浪费,增加开发和维护成本,降低用户信任度。更为严重的是,这种“大模型幻觉”和“灾难性遗忘”现象如果发生在精确性要求极高的工业生产领域中,还可能引发不可预测的风险和隐患。以油气勘探为例,基于大模型给出的错误预测进行开采可能导致数亿元的资金损失,并对自然环境造成不可逆转的破坏。
提升大模型性能,关键是处理好数据“质”和“量”的关系,构建大规模、高质量的数据集。应建立完善的数据收集、清洗、验证和存储机制,加强对数据质量的监控和评估,确保数据的准确性、完整性和一致性。此外,还应注重跨领域合作,引入数据科学家、AI算法工程师等多方力量,开展大模型算法合作、制定数据共享和隐私安全保密协议,推动大模型产学研用生态建设。
如今,大模型的发展已迈入多模态融合阶段。通过加强数据治理,优化人工智能学习、训练和验证的“基础食材”,端上大规模、高质量、多模态数据集的“丰盛大餐”,必将助力大模型能力的提升,让人工智能更好地赋能千行百业、造福人类社会。
(作者系中国工程院院士、中国石油勘探开发研究院教授级高级工程师)
成天软件《人事管理系统 》采用多层软件架构,统一身份认证,数据呈现,能够基于校园网/互联网为高校、医院、研究所人事管理提供先进、实用的信息化管理平台。 已积累百家高校案例,详情电话咨询15851303988。 《高校科研管理系统 》涵盖高校科研管理工作的所有环节,能够适应理工农医类、人文社科类以及综合性高校的管理需求,协助高校建立符合自身特殊需要的人事管理规范,为高校建设数字校园奠定坚实的技术基础与管理基础。
本文转载自:科学网。文章为作者独立观点,不代表成天立场,转载请联系原作者。
点击量:4
湖南师范大学高校人力资源系统
湖南师范大学,作为湖南省内历史悠久、声誉卓著的高等学府,始终将人才培养与师资队伍建设视为学校发展的基石。近年来,学校积极响应国家教育现代化战略,全面升级人力资源管理体系,构建了一套先进、智能的高校人力资源系统,旨在优化教职工管理流程,提升服务质量,激发人才潜力,为学校教育事业的高质量发展提供坚实的人力资源保障。
保山学院高校人力资源系统
保山学院高校人力资源系统,作为学校人事管理的数字化转型引擎,是一个集教职工招聘、人事档案管理、薪酬福利处理、培训与发展、绩效评估、职业规划于一体的综合性平台。该系统旨在优化人力资源管理流程,提升管理效率,强化教职工队伍建设,为保山学院的教育与科研事业发展提供坚实的人力资源保障。
中国科学院之江实验室诚邀优秀青年学者加盟
中国科学院之江实验室诚邀优秀青年学者加盟
中国科学院山西煤炭化学研究所高层次人才招聘公告
中国科学院山西煤炭化学研究所 人事管理,人事管理系统,人事系统,高校人事,人力资源管理,人力资源管理系统,大学人事管理,人事绩效考核
西电杭州研究院高层次人才招聘公告
西电杭州研究院 人事管理系统 招聘公告