循環智能榮獲2022中國AI金雁獎“技術創新大獎”，千循零樣本AI平臺首次亮相

2023年4月14日周五，由中國電子商會人工智能委員會主辦的2023北京人工智能峰會暨第三屆AI金雁獎頒獎典禮在北京盛大舉行。中國電子商會相關負責人及中國科學院院士黃維、中國工程院院士張平等十幾位院士出席大會，來自循環智能、科大訊飛、格靈深瞳等知名企業過百位人工智能企業負責人到會。

本次峰會頒發“AI金雁獎”是目前中國覆蓋人工智能分支領域的專業獎項，致力于不斷為中國人工智能科技領域發掘出優秀“頭雁”，獎項設立圍繞人工智能技術未來發展的重要方向，從前沿技術到行業應用，是衡量未來市場趨勢的方向標。循環智能（Recurrent AI）憑借在AI大模型技術上的創新、積累和應用，獲得“2022人工智能技術創新大獎”和“2022 AI領軍人物”兩項大獎。

作為獲獎企業的代表，循環智能聯合創始人、CTO張宇韜博士以《AI大模型在企業服務場景下的實踐與探索》為主題發表演講，分享了AI大模型在企業落地的主要挑戰、循環智能“千循零樣本平臺”多模型策略和應用場景，以及在大模型在企業應用場景的最新探索與實踐。

以下是演講主要內容的回顧：

AI大模型在企業落地的三大挑戰

以ChatGPT為代表的大模型應用開啟了通用人工智能的新范式，其中最關鍵的技術創新是基于人類反饋數據的系統進行模型訓練，從而提升了理解人類想法的準確性。

但企業在使用AI大模型時也面臨著三大挑戰，這些挑戰也體現了GPT模型的局限性：

01

事實性錯誤

事實性錯誤（即看似正確，但與事實不符），是GPT模型的原理帶來的。GPT的模型優化目標是在有限的訓練數據上泛化出無限的能力，當問題超過模型知識范圍時，會開始自我創造。

事實性錯誤的挑戰，雖然在現有的技術路線下無法百分之百解決，但可以通過兩種路徑來“減弱”其影響。第一種是提升模型的知識范圍，當模型的知識范圍越大時，事實性錯誤也就會越少。第二種是通過更好地讓模型對齊人類的需求和價值觀，盡可能以合適的方式拒絕回答超出范圍的問題，從而減少事實性錯誤造成的影響。

02

難融入企業私域數據

像ChatGPT這樣的通用AI系統，其能力上限是公域存量數據的范圍，因為企業內部大量的信息、知識、數據均無法被公域模型覆蓋。

因此，企業內的垂直業務需求是無法被公域模型準確理解的。而企業內的垂直業務需求是與業務流程強相關的，往往需要結合內部數據作為上下文，才能準確理解。

例如，客戶質量分析場景，企業客戶如果直接使用類似 ChatGPT 的通用AI系統，輸入客戶信息和對話內容，來判定客戶是否屬于優質客戶，那么得到的結果往往不理想。主要原因是，通用AI系統并不清楚企業內部對于優質客戶的定義，而且不同企業對于優質客戶的定義很大程度上是不同的。

03

規模化應用成本高

當前，百億參數的模型輸出（推理）速度大概可以做到每個GPU每秒生成 20 個字左右（30token）。

在實時文本交互（在線客服、問答）場景，一個GPU支持3-5個并發客戶，那么100萬“日活躍用戶”，對應的峰值并發約10000，需要 2000-3000個GPU，成本過于高昂。

在實時語音交互場景（電話溝通、語音通話、視頻通話）場景，在單個GPU單并發情況下，文本生成的句末延遲約1到3秒，疊加TTS（文本轉語音）的延遲，基本無法支撐需求。

專注企業服務的“千循零樣本”AI平臺

過去幾年，循環智能在大模型訓練和應用實踐中有非常多的技術積累：

• 首先，積累了大量行業文本和語音數據，中文文本數據超過40TB，真實語音對話數據超過 400 萬小時；

• 其次，具備超大規模預訓練模型的工程化經驗，主導開發和落地了首個千億參數的中文語言大模型“盤古”，具備豐富的數據采集、清洗和標注經驗。主導開發了面向認知的“悟道·文匯”超大規模預訓練模型；

• 第三，精通場景化的多任務指令微調，在銀行、保險、證券、地產、汽車、零售等行業有豐富的業務實踐。

今年，循環智能也將推出自研的“千循零樣本AI平臺”。“千循零樣本AI平臺”采用了多模型組合的策略，包括10億參數的盤古NLU（自然語言理解）模型，主要服務語義理解的場景，和面向更復雜的文本生成類任務、參數規模更大的“千循-M”和“千循-XL”模型等。同時，為了使模型更好地適配企業需求，“千循零樣本平臺”提供多種“微調”方案，包括 P-tuning、Instruction tuning、LoRA等，可以更好地融入企業的專有知識庫數據。

“千循零樣本AI平臺”在底層提供AI大模型的高質量文本理解能力、邏輯推理能力和文本生成能力。基于這些能力，在企業需要對外交互的營銷場景、服務場景，以及內部的知識培訓和內容運營場景，提供多種創新應用，幫助不同場景的不同角色員工提升產能和工作效率。

循環智能在企業應用場景的探索與實踐

01

智能化內容運營與生產

? 話術質量的分析、挖掘與優化建議

? 文案自動化生成與撰寫

? 基于知識庫的智能問答

02

客戶畫像與需求的智能分析

? 基于對話內容，自動識別客戶畫像與需求

? 基于對話內容，總結客戶所有興趣點、評價和提問

? 自然語言輸入信息，快速進行客戶描摹

03

智能化業務分析與決策推薦

? 基于對話全文，生成業務策略：在房產和汽車銷售場景，可以給出靠譜的商機跟進建議。

? 基于對話內容，評判服務效果：了解客戶對售后服務是否滿意，以及滿意的地方和不滿意的地方分別是什么。之前企業主要是通過問卷來收集客戶滿意度，填寫問卷的人數占比很少，現在可以做全量的滿意度分析。

---

更多業務場景待解鎖。歡迎聯系循環智能（Recurrent AI），掃碼預約交流或撥打400電話（400-607-5800）。

掃碼預約交流