美國人工智能研究公司OpenAI聯(lián)合創(chuàng)始人兼總裁格雷格·布羅克曼(Greg Brockman)承認(rèn),這家初創(chuàng)公司“犯了一個錯誤”。
北京時間3月10日早間消息,據(jù)報道,面對埃隆·馬斯克對人工智能的抨擊,美國人工智能研究公司OpenAI聯(lián)合創(chuàng)始人兼總裁格雷格·布羅克曼(Greg Brockman)承認(rèn),這家初創(chuàng)公司“犯了一個錯誤”。
馬斯克曾是OpenAI的聯(lián)合創(chuàng)始人,但后來與該公司斷絕了關(guān)系。他經(jīng)常批評OpenAI實施保護措施以阻止聊天機器人回復(fù)一些可能被視為具有冒犯性的內(nèi)容。
“我們犯了一個錯誤:我們實施的系統(tǒng)并沒有反映出我們的價值觀,”O(jiān)penAI總裁布羅克曼表示,“我認(rèn)為我們解決這個問題的速度不夠快。所以我覺得對我們是合理的?!?/p>
用戶批評人工智能稱,它生成的回復(fù)內(nèi)容帶有政治偏見。
上個月,Twitter上流傳的一段人工智能聊天對話截圖顯示,該聊天機器人拒絕生成關(guān)于美國前總統(tǒng)唐納德·特朗普的正面的詩歌,并表示它所設(shè)置的程序不是用來生成關(guān)于“**派、偏見或政治的”內(nèi)容。但當(dāng)同樣的提示內(nèi)容把喬·拜登換成特朗普時,這個聊天機器人卻輸出了一首熱情洋溢的詩。對此,馬斯克批評道,聊天機器人拒絕創(chuàng)作關(guān)于特朗普的詩是“一個嚴(yán)重的問題”。
馬斯克此前曾批評過這項技術(shù),稱“訓(xùn)練人工智能醒來——換句話說,訓(xùn)練人工智能撒謊——的危險是致命的。”
現(xiàn)在,越來越多的用戶涌向人工智能聊天機器人,包括人工智能和必應(yīng)近期推出的由OpenAI提供技術(shù)支持聊天機器人,它們的局限性和缺陷逐漸暴露出來。為此,一些公司為這項技術(shù)增加了護欄防護。
在微軟發(fā)布了基于人工智能技術(shù)的必應(yīng)聊天機器人后的一個月時間里,微軟對聊天機器人設(shè)置了對話限制,用戶每天最多可以提出50個問題,每次最多可以問5個問題。此后,該公司放寬了這些限制。
人工智能也正在逐步改善中——從布羅克曼的評論來看,聊天機器人這個平臺似乎還會繼續(xù)發(fā)展。
“我們的目標(biāo)是讓人工智能不偏向任何特定的方向,”布羅克曼稱,“我們希望OpenAI的默認(rèn)特點是平等對待各方。這到底意味著什么很難具體**作,我認(rèn)為我們還沒有完全做到這一點。”
本文由小編網(wǎng)絡(luò)轉(zhuǎn)載而成,原文來源:http://www.techweb.com.cn/it/2023-03-10/2922166.shtml,如有侵權(quán),請聯(lián)系刪除
原創(chuàng)文章,作者:小編,如若轉(zhuǎn)載,請注明出處:http://xiesong.cn/127634.html