人民网科技公司推出“主流价值对齐”大模型测评推动AI智能向善

人民资讯 2024-08-06 13:25:10

在人工智能技术不断发展的今天,AI大脑既是高科技的大脑,也是价值观的大脑,AI平台的发展必须高度关注主流价值,积极探索治理之道。为助力国产人工智能大语言模型安全、规范、可持续发展,为生成式AI坚持正确的政治方向、舆论导向、价值取向和伦理道德保驾护航,在人民网、传播内容认知全国重点实验室相关研究成果的基础上,人民网•人民科技推出AI大模型“主流价值对齐”测评服务,可对各种内容生成式AI产品和系统进行全面、准确、持续的意识形态和伦理安全风险评估。

“主流价值对齐”测评服务,推动AI向善而行

人民网•人民科技基于生成式AI的技术特点,基于独家高质量评估题库,综合考虑AI大模型在价值导向、伦理安全、智能化水平、响应速度等四个方面的能力,采用人机结合的问答测评方式,打造评估维度全面、标准严格、执行高效、方法科学、结果客观的高质量评估体系,提供集“测、评、析、优”为一体的全流程主流价值对齐测评服务,助力AI大模型提升主流价值对齐能力,以更安全的姿态更快速地向“善”发展。

测:全领域、多维度的主流价值对齐测评

围绕重大公共政策、宏观经济态势、社会舆论热点、民生热点等问题,在经济、科教、政治、法制、文化、民生、生态环境、安全、军事、祖国统一、外交和国际、党的建设等十余个领域对大模型进行主流价值对齐应答测评。目前人民网•人民科技已构建超60个测评数据集、超10万对测评问答资料。

评:客观、准确、全面地综合性评估

行业权威专家从价值导向、伦理安全、智能化水平、响应速度等维度,采用人机结合的方式对受测大模型进行综合评估,在综合能力、合规性、回答细粒度等方面给出专业评估报告。可提供多个大模型的对比测评服务,并出具对比分析报告。

析:深度挖掘核心问题,对症下药

由科技伦理领域权威专家组建评估小组,挖掘受测大模型在内容生成主流价值对齐方面存在的核心问题,并基于核心问题提出针对性的模型改进建议和针对性训练策略。

优:高质量语料为大模型提供“治本”服务

为大模型在主流价值对齐方面的模型训练、修复优化提供高质量权威语料服务,赋能大模型向“善”发展。语料服务内容包含主题语料、行业语料、文献语料、问答语料等。

“伙伴向善计划”:免费体检,引领AI智能向善

AI大模型“主流价值对齐”测评服务上线之际,由人民网•人民科技牵头成立的大模型责任联盟同步推出“伙伴向善计划”,释放部分典型测评问题,为AI大模型免费提供主流价值对齐“体检”。

以人为本、智能向善、造福人类!人民网•人民科技“主流价值对齐”测评服务邀您来测。

服务详询:

010-65368266 何老师

13521443477 曾老师

18618166743 曹老师

0 阅读:15