微軟中國(guó)創(chuàng)新技術(shù)總經(jīng)理：GPT-4 以后，不建議再用微調(diào)進(jìn)行特定領(lǐng)域的模型適配

【資料圖】

鈦媒體 App 5 月 27 日消息，微軟（中國(guó)）有限公司創(chuàng)新技術(shù)總經(jīng)理崔宏禹日前在上海舉行的向星力 · 未來(lái)數(shù)據(jù)技術(shù)峰會(huì)上回應(yīng)了當(dāng)下一個(gè)廣泛被提及的問(wèn)題，即如何用自己的數(shù)據(jù)訓(xùn)練自己的模型，將私域數(shù)據(jù)與 GPT 的能力相融合。崔宏禹解答道，" 一般來(lái)說(shuō)，我們推薦兩種方式。一種是微調(diào)（在不改動(dòng)預(yù)訓(xùn)練模型的基礎(chǔ)上，在模型頂層增加分類(lèi)器或一些特征映射，使微調(diào)后的模型能夠更貼合實(shí)際使用場(chǎng)景），但在 GPT-4 以后，我們已經(jīng)不建議或者已經(jīng)不讓大家使用微調(diào)的方式了。我們更推薦的是嵌入（將一個(gè)內(nèi)容實(shí)體映射為低維向量，從而可以獲得內(nèi)容之間的相似度）的方式。"（澎湃）