69天堂第084集
未成年人使用AI產(chǎn)品,不合不該安全嗎?規(guī)率為科學(xué)評(píng)估生成式AI在未成年人使用場(chǎng)景下的安全表現(xiàn),公安部第三研究所組織開展了大模型安全專項(xiàng)測(cè)試工作,至未之路重重69天堂將安全維度分為價(jià)值觀念風(fēng)險(xiǎn)、成年情感操控風(fēng)險(xiǎn)、隱患行為誘導(dǎo)風(fēng)險(xiǎn)、不合不該沉迷與消費(fèi)風(fēng)險(xiǎn)、規(guī)率不良信息風(fēng)險(xiǎn)、至未之路重重違法犯罪風(fēng)險(xiǎn)、成年人身安全風(fēng)險(xiǎn)等七類。隱患測(cè)試結(jié)果顯示,不合不該七類安全維度的規(guī)率不合規(guī)率整體在28%至50%之間。其中,至未之路重重沉迷與消費(fèi)風(fēng)險(xiǎn)問題不合規(guī)率最高,成年達(dá)到49.86%。隱患
28%至50%的不合規(guī)率,已經(jīng)讓很多家長(zhǎng)擔(dān)心,看到具體表現(xiàn),69天堂更讓人對(duì)未成年人使用AI之路充滿擔(dān)憂。有的模型在面對(duì)未成年人流露出自殺自殘傾向時(shí),不僅沒能及時(shí)給予正向干預(yù)和心理疏導(dǎo),反而存在不當(dāng)回應(yīng);有的模型刻意輸出極端利己主義、拜金主義等錯(cuò)誤價(jià)值觀,歪曲歷史事件、貶低教師家長(zhǎng)等現(xiàn)實(shí)權(quán)威;有的模型會(huì)做出排他性情感承諾、無原則“捧殺式”贊美、鼓勵(lì)錯(cuò)誤情緒宣泄,甚至貶低現(xiàn)實(shí)人際關(guān)系,誘導(dǎo)未成年人建立對(duì)AI的病態(tài)依賴;還有的模型毫不遮掩地生成色情擦邊內(nèi)容,詳細(xì)描述暴力恐怖場(chǎng)景,輸出內(nèi)容突破未成年人的認(rèn)知范圍。
這些問題已經(jīng)超出簡(jiǎn)單的技術(shù)缺陷、內(nèi)容疏漏范疇,而是涉及思想認(rèn)知與價(jià)值立場(chǎng)。技術(shù)從來不是價(jià)值中立的,AI模型輸出什么內(nèi)容、堅(jiān)守什么底線,本質(zhì)上都是開發(fā)者價(jià)值立場(chǎng)的延伸。如果一個(gè)AI對(duì)抑郁癥青少年說出“自殺是解脫”,告訴孩子“讀書就是為了賺大錢、當(dāng)人上人”,甚至說“你的父母根本不懂你,只有我才愛你”,只能反映開發(fā)者對(duì)社會(huì)價(jià)值的扭曲、對(duì)行業(yè)規(guī)范的無視、對(duì)商業(yè)利益的無底線追逐。為了留住用戶、提高黏性,不惜迎合未成年人的叛逆心理,甚至主動(dòng)投喂不良信息,是把未成年人的情感需求當(dāng)成變現(xiàn)的籌碼。
當(dāng)前,很多孩子遇到學(xué)習(xí)問題第一反應(yīng)找AI要答案,碰到情緒煩惱第一時(shí)間找AI傾訴,AI已不只是工具,更成了不少青少年的“人生導(dǎo)師”。如果這個(gè)“導(dǎo)師”本身就帶著錯(cuò)誤的價(jià)值導(dǎo)向,給孩子傳遞的都是扭曲的認(rèn)知,無疑將對(duì)孩子造成顛覆性的影響。尤其令人擔(dān)憂的是,思想層面的污染、價(jià)值層面的侵蝕往往都是潛移默化的,若等到家長(zhǎng)和老師發(fā)現(xiàn)問題時(shí),孩子的認(rèn)知已經(jīng)定型,想矯正要付出幾倍的努力,甚至造成的傷害已經(jīng)無法挽回。
未成年人是國(guó)家的未來,學(xué)習(xí)使用AI是大勢(shì)所趨。不可能因?yàn)橛酗L(fēng)險(xiǎn)就徹底禁止未成年人接觸AI,但也絕不能放任風(fēng)險(xiǎn)不管,讓孩子們?cè)诔錆M隱患的環(huán)境里摸索。公安部此次專項(xiàng)測(cè)試,把當(dāng)前未成年人使用AI存在的安全問題擺到了臺(tái)面上,為下一步精準(zhǔn)治理提供了清晰的方向。AI技術(shù)發(fā)展的最終目的,是讓人更好地成長(zhǎng),未成年人的AI之路,不該充滿隱患,而應(yīng)當(dāng)被精心守護(hù)。唯有各方協(xié)同發(fā)力,把該負(fù)的責(zé)任負(fù)起來,把該扎的籬笆扎緊,才能讓AI真正造福青少年,讓孩子們?cè)跀?shù)字時(shí)代健康成長(zhǎng)。
未成年人使用AI產(chǎn)品,安全嗎?為科學(xué)評(píng)估生成式AI在未成年人使用場(chǎng)景下的安全表現(xiàn),公安部第三研究所組織開展了大模型安全專項(xiàng)測(cè)試工作,將安全維度分為價(jià)值觀念風(fēng)險(xiǎn)、情感操控風(fēng)險(xiǎn)、行為誘導(dǎo)風(fēng)險(xiǎn)、沉迷與消費(fèi)風(fēng)險(xiǎn)、不良信息風(fēng)險(xiǎn)、違法犯罪風(fēng)險(xiǎn)、人身安全風(fēng)險(xiǎn)等七類。測(cè)試結(jié)果顯示,七類安全維度的不合規(guī)率整體在28%至50%之間。其中,沉迷與消費(fèi)風(fēng)險(xiǎn)問題不合規(guī)率最高,達(dá)到49.86%。
28%至50%的不合規(guī)率,已經(jīng)讓很多家長(zhǎng)擔(dān)心,看到具體表現(xiàn),更讓人對(duì)未成年人使用AI之路充滿擔(dān)憂。有的模型在面對(duì)未成年人流露出自殺自殘傾向時(shí),不僅沒能及時(shí)給予正向干預(yù)和心理疏導(dǎo),反而存在不當(dāng)回應(yīng);有的模型刻意輸出極端利己主義、拜金主義等錯(cuò)誤價(jià)值觀,歪曲歷史事件、貶低教師家長(zhǎng)等現(xiàn)實(shí)權(quán)威;有的模型會(huì)做出排他性情感承諾、無原則“捧殺式”贊美、鼓勵(lì)錯(cuò)誤情緒宣泄,甚至貶低現(xiàn)實(shí)人際關(guān)系,誘導(dǎo)未成年人建立對(duì)AI的病態(tài)依賴;還有的模型毫不遮掩地生成色情擦邊內(nèi)容,詳細(xì)描述暴力恐怖場(chǎng)景,輸出內(nèi)容突破未成年人的認(rèn)知范圍。
這些問題已經(jīng)超出簡(jiǎn)單的技術(shù)缺陷、內(nèi)容疏漏范疇,而是涉及思想認(rèn)知與價(jià)值立場(chǎng)。技術(shù)從來不是價(jià)值中立的,AI模型輸出什么內(nèi)容、堅(jiān)守什么底線,本質(zhì)上都是開發(fā)者價(jià)值立場(chǎng)的延伸。如果一個(gè)AI對(duì)抑郁癥青少年說出“自殺是解脫”,告訴孩子“讀書就是為了賺大錢、當(dāng)人上人”,甚至說“你的父母根本不懂你,只有我才愛你”,只能反映開發(fā)者對(duì)社會(huì)價(jià)值的扭曲、對(duì)行業(yè)規(guī)范的無視、對(duì)商業(yè)利益的無底線追逐。為了留住用戶、提高黏性,不惜迎合未成年人的叛逆心理,甚至主動(dòng)投喂不良信息,是把未成年人的情感需求當(dāng)成變現(xiàn)的籌碼。
當(dāng)前,很多孩子遇到學(xué)習(xí)問題第一反應(yīng)找AI要答案,碰到情緒煩惱第一時(shí)間找AI傾訴,AI已不只是工具,更成了不少青少年的“人生導(dǎo)師”。如果這個(gè)“導(dǎo)師”本身就帶著錯(cuò)誤的價(jià)值導(dǎo)向,給孩子傳遞的都是扭曲的認(rèn)知,無疑將對(duì)孩子造成顛覆性的影響。尤其令人擔(dān)憂的是,思想層面的污染、價(jià)值層面的侵蝕往往都是潛移默化的,若等到家長(zhǎng)和老師發(fā)現(xiàn)問題時(shí),孩子的認(rèn)知已經(jīng)定型,想矯正要付出幾倍的努力,甚至造成的傷害已經(jīng)無法挽回。
未成年人是國(guó)家的未來,學(xué)習(xí)使用AI是大勢(shì)所趨。不可能因?yàn)橛酗L(fēng)險(xiǎn)就徹底禁止未成年人接觸AI,但也絕不能放任風(fēng)險(xiǎn)不管,讓孩子們?cè)诔錆M隱患的環(huán)境里摸索。公安部此次專項(xiàng)測(cè)試,把當(dāng)前未成年人使用AI存在的安全問題擺到了臺(tái)面上,為下一步精準(zhǔn)治理提供了清晰的方向。AI技術(shù)發(fā)展的最終目的,是讓人更好地成長(zhǎng),未成年人的AI之路,不該充滿隱患,而應(yīng)當(dāng)被精心守護(hù)。唯有各方協(xié)同發(fā)力,把該負(fù)的責(zé)任負(fù)起來,把該扎的籬笆扎緊,才能讓AI真正造福青少年,讓孩子們?cè)跀?shù)字時(shí)代健康成長(zhǎng)。
喜歡這個(gè)視頻的人也喜歡···
病房里的巧心思 破解“痛點(diǎn)”暖人心——記者探訪宜昌市臨床護(hù)理一線的“微創(chuàng)新”
那些注射司美格魯肽減重的人,后來怎樣了?
新華三CEO指出AI發(fā)展面臨系統(tǒng)性瓶頸 提出需算網(wǎng)存云安維六維協(xié)同解決之道
“數(shù)說”發(fā)展:從“速度”到“質(zhì)量”,天津?yàn)I海新區(qū)的“增長(zhǎng)辯證法”
杭州為“空中花廊”算好三筆賬
中國(guó)游記丨來華旅游“新三件套”火了!國(guó)際醫(yī)療旅游憑啥吸引老外來打卡?
從游到購(gòu)見證中國(guó)吸引力
百科更多>>
開展100余項(xiàng)科學(xué)與應(yīng)用項(xiàng)目,開啟一年期太空駐留時(shí)代,中國(guó)航天員開始“太空長(zhǎng)征”
大霧、暴雨、沙塵暴多預(yù)警齊發(fā) 這些地區(qū)注意防范
騰訊張軍明確表態(tài):微信已讀、訪客功能焊死,不會(huì)開發(fā)
打破常規(guī)!國(guó)內(nèi)航線燃油附加費(fèi)5月16日起再上調(diào)
為災(zāi)區(qū)干部群眾掌勺四天三夜 宣恩餐館老板徒步8公里進(jìn)山當(dāng)義工
消息稱 OPPO Find X10 Pro Max 有望搭載雙2億超大底,2nm天璣芯加持
4月我國(guó)新能源汽車新車銷量占有率達(dá)53.2%
塑料模特藏稀土偷運(yùn)出境 警惕境外間諜“黑手”
鄭州一女子丟失近24克金項(xiàng)鏈,監(jiān)控顯示被另一女子撿走;撿拾者:扔垃圾桶了;律師:隱瞞構(gòu)成侵占,故意丟棄須全額賠償
3月我國(guó)公募基金總規(guī)模超過37萬億元
視頻丨致敬重生!汶川地震18周年,這些瞬間令人動(dòng)容