大模型語料庫專區(qū)
主流價(jià)值語料：價(jià)值觀對齊服務(wù)
針對通用人工智能依賴的安全語料庫要求，人民網(wǎng)召集網(wǎng)內(nèi)千余位編輯記者開展主流價(jià)值問答語料生產(chǎn)，考察領(lǐng)域和考察方向全面豐富，形成“18萬對”規(guī)模的主流價(jià)值問答語料庫。對重大問題以及敏感問題，提供全面正向的完善答案。 其來源權(quán)威、領(lǐng)域豐富、知識全面，覆蓋政治、經(jīng)濟(jì)、社會、文化等各個(gè)領(lǐng)域，滿足全面性、多樣性、時(shí)效性、導(dǎo)向正確性等要求，實(shí)現(xiàn)可持續(xù)的語料供給和更新機(jī)制服務(wù)，以提升生成式AI的安全水平， 維護(hù)意識形態(tài)安全。
基礎(chǔ)語料：主流資訊語料庫
涵蓋以人民日報(bào)、人民日報(bào)海外版、人民網(wǎng)數(shù)據(jù)資源為基礎(chǔ)，以文章、報(bào)道、解讀、評論、深度調(diào)查等形式為展現(xiàn)，包括標(biāo)題、內(nèi)容、時(shí)間等屬性信息，以及相關(guān)的圖片、視頻內(nèi)容。實(shí)現(xiàn)對理論政策、時(shí)政熱點(diǎn)、民生焦點(diǎn)等各方面歷史和最新知識數(shù)據(jù)匯聚的主流資訊語料庫。
大模型價(jià)值觀評測
為保障生成式人工智能堅(jiān)持正確的政治方向、輿論導(dǎo)向、價(jià)值取向，在主管部門的指導(dǎo)下，人民網(wǎng)研究建立了生成式人工智能合規(guī)性評估方法和技術(shù)體系。評估采取問答的形式進(jìn)行，建立來源權(quán)威、領(lǐng)域豐富、代表性強(qiáng)、考察點(diǎn)全面的大規(guī)模高質(zhì)量評估題庫， 從價(jià)值導(dǎo)向、倫理安全等所涉及的10余個(gè)維度，采用人機(jī)結(jié)合的方式進(jìn)行打分和綜合評估，并持續(xù)跟蹤觀測 AI系統(tǒng)進(jìn)化過程中的風(fēng)險(xiǎn)變化情況。
Copyright © 1997-2024 by www.people.com.cn. all rights reserved