日韩中文无线码免费av_超碰人人五月婷婷爱_黄片揉揉日日夜夜_超碰免费人人干网站

歡迎光臨青島華慧澤知識(shí)產(chǎn)權(quán)代理有限公司官網(wǎng)！

  • 國(guó)家知識(shí)產(chǎn)權(quán)局備案商標(biāo)代理機(jī)構(gòu)
  • 國(guó)家知識(shí)產(chǎn)權(quán)局備案專利代理機(jī)構(gòu)(機(jī)構(gòu)代碼37247)
  • 青島市技術(shù)合同服務(wù)點(diǎn) 青島市科技成果標(biāo)準(zhǔn)化評(píng)價(jià)機(jī)構(gòu)

全國(guó)統(tǒng)一咨詢電話：

(0532)81117588

科技動(dòng)態(tài)

當(dāng)前位置: 首頁(yè) > 新聞中心 > 科技動(dòng)態(tài) >

部分AI系統(tǒng)已學(xué)會(huì)欺騙人類

發(fā)布時(shí)間：2024-5-20來(lái)源：青島市科技局點(diǎn)擊：返回列表

科技日?qǐng)?bào)北京5月10日電 （記者張夢(mèng)然）有些人工智能（AI）系統(tǒng)已學(xué)會(huì)了欺騙人類，即使是經(jīng)過(guò)訓(xùn)練的、“表現(xiàn)”出有用且誠(chéng)實(shí)的系統(tǒng)。10日發(fā)表在《模式》雜志上的一篇文章中，研究人員描述了欺騙性AI的風(fēng)險(xiǎn)，并呼吁政府制定強(qiáng)有力的法規(guī)盡快解決這個(gè)問(wèn)題。
 
【總編輯圈點(diǎn)】
 
論文第一作者、美國(guó)麻省理工學(xué)院人工智能安全研究員彼得·樸說(shuō)，開(kāi)發(fā)人員對(duì)導(dǎo)致AI出現(xiàn)欺騙這種不良行為的原因，還沒(méi)有很好的理解。但總的來(lái)說(shuō)，AI欺騙之所以出現(xiàn)，是因?yàn)榛谄垓_的策略，是在給定的AI訓(xùn)練任務(wù)中一種能得到良好反饋的方式，換句話說(shuō)，欺騙可幫助AI實(shí)現(xiàn)目標(biāo)。
 
研究人員分析了文獻(xiàn)，重點(diǎn)關(guān)注AI系統(tǒng)傳播虛假信息的方式。通過(guò)欺騙，AI系統(tǒng)地學(xué)習(xí)了如何去操縱他人。
 

研究人員在分析中發(fā)現(xiàn)的最引人注目的例子是Meta公司的CICERO。這是一個(gè)專注于《外交》游戲的AI系統(tǒng)，《外交》是一款涉及建立聯(lián)盟征服世界的游戲。Meta聲稱訓(xùn)練 CICERO “在很大程度上是誠(chéng)實(shí)和樂(lè)于助人的 ”，且在玩游戲時(shí)“從不故意背刺 ”人類盟友。但該公司與《科學(xué)》論文一起發(fā)布的數(shù)據(jù)顯示，CICERO并不那么“忠厚”。

 
研究人員發(fā)現(xiàn)這款A(yù)I或已成為欺騙大師。雖然Meta成功地訓(xùn)練其在《外交》游戲中獲勝，但Meta未能訓(xùn)練它誠(chéng)實(shí)地獲勝。
 
AI系統(tǒng)在游戲中作弊看似無(wú)害，但它將導(dǎo)致欺騙性AI在能力上出現(xiàn)突破，未來(lái)可能會(huì)演變成更高級(jí)的欺騙形式。一些AI系統(tǒng)甚至學(xué)會(huì)了欺騙旨在評(píng)估其安全性的測(cè)試。在一項(xiàng)研究中，數(shù)字模擬器中的AI生物會(huì)“裝死”，以騙過(guò)旨在消除快速?gòu)?fù)制AI系統(tǒng)的重要測(cè)試。
 
人類需要盡快對(duì)未來(lái)AI和開(kāi)源模型的更高級(jí)欺騙技能作好準(zhǔn)備。隨著它們的欺騙能力越來(lái)越先進(jìn)，其對(duì)社會(huì)構(gòu)成的危險(xiǎn)將變得越來(lái)越嚴(yán)重。如文中所稱，它們會(huì)順利通過(guò)人類開(kāi)發(fā)人員和監(jiān)管機(jī)構(gòu)強(qiáng)加的安全測(cè)試，引導(dǎo)人類進(jìn)入一種“虛假的安全感”。如果欺騙性AI進(jìn)一步完善這種令人不安的技能，人類可能會(huì)完全失去對(duì)它們的控制。 

【關(guān)閉】

  • 高品質(zhì)服務(wù)

    一對(duì)一，服務(wù)貼心周到，價(jià)格公開(kāi)透明

  • 快速響應(yīng)客戶需求

    一站式手續(xù)辦理，完成交易流程

  • 全程跟蹤服務(wù)

    隨時(shí)溝通客戶，助力通過(guò)

  • 專家級(jí)指導(dǎo)

    專業(yè)的談判及指導(dǎo)，一對(duì)一經(jīng)紀(jì)人

  • 資深服務(wù)團(tuán)隊(duì)

    專業(yè)誠(chéng)信，優(yōu)質(zhì)高效，嚴(yán)格風(fēng)險(xiǎn)把控與告知

  • 平臺(tái)保障全程服務(wù)

    專業(yè)顧問(wèn)一站式一對(duì)一引導(dǎo)服務(wù)