大語言模型、優(yōu)化器和執(zhí)行代理，重新定義GPT時代之下的數(shù)字孿生

    近日，我們推出了企業(yè)級人工智能服務(wù)FactVerse AI（簡稱FAI），旨在用于探索、開發(fā)和實(shí)施基于人工智能的數(shù)字孿生技術(shù)。FAI的核心組成部分是LLM（基礎(chǔ)語言模型）、優(yōu)化器（對基礎(chǔ)LLM進(jìn)行調(diào)優(yōu)和修改以滿足特定行業(yè)或應(yīng)用領(lǐng)域的需求）、Agent（FactVerse多模態(tài)交互接口），提供一系列生成式AI工具與服務(wù)，可以廣泛應(yīng)用于各種數(shù)字孿生場景。

    FactVerse AI 背后的技術(shù)形成

    大語言模型（LLM）

    關(guān)于LLM的論述已經(jīng)有很多，其原理在這里我們就不再重復(fù)了。雖然LLM在定義上只是語言模型，但因?yàn)槠溆?xùn)練規(guī)模巨大，LLM在海量自由文本中學(xué)到了大量的知識，從而使得LLM擁有了許多隱藏的能力，讓人們看到了“通用人工智能”的影子。在FAI中，我們就是把LLM看做通用AI模型，以LLM為基石，構(gòu)建一系列的周邊工具系統(tǒng)，挖掘LLM的隱藏能力，讓它能夠解決各種使用場景中的特定問題。能夠解決各種問題，才是企業(yè)服務(wù)所需要的。

    優(yōu)化器（Modifier）

    如何挖掘LLM的隱藏能力，就要靠優(yōu)化器了。優(yōu)化器是我們自己內(nèi)部的一種分類方式，并不只是一項特定的技術(shù)，而是多種技術(shù)的靈活組合。優(yōu)化器（Modifier）在FactVerse AI中扮演著至關(guān)重要的角色。它是連接大語言模型和執(zhí)行代理的關(guān)鍵橋梁，以最大限度地挖掘和利用LLM的能力，從而使執(zhí)行代理能夠滿足多樣化的業(yè)務(wù)需求。簡單來說，優(yōu)化器就是讓AI變得更加聰明，更能理解和適應(yīng)具體任務(wù)。FAI中的優(yōu)化器技術(shù)大致上可以劃分為幾類：

    提詞工程（Prompt Engineering）：這是一種通過設(shè)計和選擇恰當(dāng)?shù)妮斎胝Z句（即“提詞”）來引導(dǎo)LLM生成期望的輸出的技術(shù)。通過不同的提詞，可以限定LLM回答問題的范圍、方式等，挖掘出LLM的各種能力。

    基于知識查詢的長期記憶：LLM是通用語言模型，它內(nèi)置的只是通用知識，對于特定領(lǐng)域的問題，LLM可能無法給出準(zhǔn)確的答案。這時候，就需要利用知識庫將特定領(lǐng)域的文檔和問答灌入系統(tǒng)，在向量數(shù)據(jù)庫或搜索系統(tǒng)中形成“長期記憶”，生成時將相關(guān)記憶注入到提詞中，使LLM能夠回答特定領(lǐng)域的問題。

    基于預(yù)訓(xùn)練LLM的調(diào)優(yōu)（Fine-Tuning）：當(dāng)提詞工程和知識庫類的長期記憶補(bǔ)充還不能滿足需求時，可以考慮采用調(diào)優(yōu)技術(shù)。調(diào)優(yōu)是真正的再訓(xùn)練，雖然很難引入新的知識和邏輯能力，但卻能切實(shí)地改變LLM的輸出狀態(tài)和風(fēng)格，讓LLM能夠更好地契合垂直領(lǐng)域。

    FactVerse多模態(tài)交互接口（Agent）

    有了大語言模型和優(yōu)化器，F(xiàn)actVerse AI已經(jīng)算是擁有了大腦，但真正想要讓AI來解決實(shí)際業(yè)務(wù)問題，我們還需要針對各種應(yīng)用場景的使用端，這就是FactVerse多模態(tài)交互接口。Agent是用來解決實(shí)際問題的，這就注定了代理的多樣性。未來FactVerse AI會提供一系列的交互接口，同時也具備可擴(kuò)展性（你可以看做類似ChatGPT Plugin的邏輯），針對特定場景定制專用接口。主要分為兩大部分：

    對話交互（虛擬人）：一種直接的方式，讓用戶能夠與FacVerse AI進(jìn)行互動。FAI提供了一套虛擬人提詞模板，這些模板描述了企業(yè)中常見的崗位角色，用戶可以在創(chuàng)建虛擬人時指定崗位，使得虛擬人能以相應(yīng)崗位的風(fēng)格進(jìn)行對話。用戶也可以自定義提詞模板來創(chuàng)建特定崗位的虛擬人。此外，虛擬人還可以搭載不同的知識庫，從而獲得專業(yè)領(lǐng)域的知識�；�于數(shù)字孿生技術(shù)，用戶可以賦予虛擬人三維形象，并在數(shù)字孿生場景中進(jìn)行交互。

    內(nèi)容生成：一種強(qiáng)大的生產(chǎn)力工具。用戶在構(gòu)建數(shù)字孿生體\場景的時候，可以隨時利用FactVerse AI生成文本、語音、圖像（目前已經(jīng)實(shí)現(xiàn)），未來還會生成視頻、3D模型等。另外，F(xiàn)AI還會逐漸支持FactVerse工具鏈中的特有功能，一些復(fù)雜性的、重復(fù)性的工作，可以逐漸交由FAI來完成，例如一鍵生成展示劇本，按照描述自動生成數(shù)字孿生體行為邏輯腳本等等，擁有巨大的想象空間。

    通過大語言模型、優(yōu)化器和Agent的協(xié)同工作，F(xiàn)actVerse AI 將人工智能與數(shù)字孿生技術(shù)結(jié)合的可能性發(fā)揮到極致，重新定義了GPT時代下的數(shù)字孿生。