微軟高層：AI聊天機(jī)器人須學(xué)會(huì)求助，別編造答案
AI聊天機(jī)器人也要會(huì)"投降"

微軟高管呼吁生成式AI要學(xué)會(huì)承認(rèn)自己的不確定性

看著那些AI聊天機(jī)器人信手拈來(lái)的各種回答，人們很容易被它們的"無(wú)所不知"所迷惑。微軟公司的高管卻提出了一個(gè)有趣的觀點(diǎn) - 這些AI模型其實(shí)也存在局限性,應(yīng)該學(xué)會(huì)主動(dòng)承認(rèn)自己并非萬(wàn)能。

求救比自我吹噓更重要

微軟副總裁辛赫表示,盡管生成式AI正在帶來(lái)各種便利,但模型必須學(xué)會(huì)舉手說(shuō)"我不確定,我需要幫助"。過(guò)去一年里,微軟、谷歌等科技巨頭都在瘋狂推出類(lèi)似ChatGPT的新應(yīng)用,確實(shí)給人一種"無(wú)所不能"的感覺(jué)。但事實(shí)上,這些系統(tǒng)有時(shí)還是會(huì)產(chǎn)生一些誤導(dǎo)性的內(nèi)容。對(duì)于企業(yè)客戶(hù)來(lái)說(shuō),這種錯(cuò)誤可能會(huì)造成嚴(yán)重后果。

AI要克服"肆無(wú)忌憚"的傾向

辛赫表示,真正聰明的人正在想辦法讓聊天機(jī)器人能夠坦誠(chéng)地承認(rèn)自己的局限性,而不是強(qiáng)行編造看似可靠的答案。這樣不僅更可靠,也更真誠(chéng)。畢竟,如果AI連自己都不知道的問(wèn)題也硬要回答,這對(duì)用戶(hù)來(lái)說(shuō)就是一種誤導(dǎo)。相信通過(guò)不斷學(xué)習(xí),未來(lái)的AI助手會(huì)變得更加謙遜和可靠。

說(shuō)老實(shí)話(huà),這確實(shí)是一個(gè)讓人思考的問(wèn)題。科技進(jìn)步的同時(shí),我們也要警惕AI過(guò)于"自負(fù)"的傾向。畢竟,真正的智慧不止于博覽群書(shū),更在于知曉自己的局限。期待未來(lái)的AI能夠時(shí)刻保持謙遜,在不確定的時(shí)候主動(dòng)"投降",而不是盲目地對(duì)答如流。這樣既能保證回答的可靠性,也能贏得人類(lèi)的信任。

生成式AI也要學(xué)會(huì)有擔(dān)當(dāng)

承認(rèn)局限性是走向成熟的必經(jīng)之路

我們不能否認(rèn),這些新興的生成式AI確實(shí)為我們的工作和生活帶來(lái)了極大的便利。只需簡(jiǎn)單輸入一些關(guān)鍵詞,它們就能迅速給出各種內(nèi)容,從商業(yè)報(bào)告到創(chuàng)意方案無(wú)所不能。但正如微軟高管所指出的,這種能力也存在一些隱患。

誠(chéng)實(shí)比"聰明"更重要

生成式AI有時(shí)會(huì)不由自主地編織出令人信服的"謊言",讓用戶(hù)產(chǎn)生錯(cuò)誤的認(rèn)知。對(duì)于企業(yè)客戶(hù)來(lái)說(shuō),這顯然是不可接受的。因?yàn)橐坏┻@些錯(cuò)誤被應(yīng)用到實(shí)際工作中,就可能帶來(lái)嚴(yán)重的后果。所以,AI模型必須學(xué)會(huì)主動(dòng)承認(rèn)自己的局限性,而不是盲目地追求完美的回答。

謙遜態(tài)度才是AI進(jìn)步的關(guān)鍵

相比于一味地夸耀自己的能力,能夠坦誠(chéng)地"投降"才更能體現(xiàn)AI的智慧。很多頂尖的科學(xué)家都強(qiáng)調(diào),真正的智慧往往來(lái)自于謙遜,而不是自負(fù)。同理可以應(yīng)用到AI領(lǐng)域。當(dāng)AI模型能夠謙遜地說(shuō)"我不確定,需要幫助"時(shí),它才算真正成熟。

可以預(yù)見(jiàn),在未來(lái)的發(fā)展中,會(huì)有更多聰明的人致力于讓AI變得更加真誠(chéng)可靠。只有這樣,生成式AI才能真正融入我們的生活,成為值得信賴(lài)的助手。讓我們一起期待AI走向更加理性和負(fù)責(zé)任的未來(lái)。