-
讓品牌有溫度、有情感
專注品牌策劃15年
-
當前位置：首頁 > 創(chuàng)意學院 > 技術 > 專題列表 > 正文
chatbot怎么讀（chatty怎么讀）
發(fā)布時間：2023-03-12 12:48:33
稿源：
創(chuàng)意嶺 閱讀：
103
問大家
大家好！今天讓創(chuàng)意嶺的小編來大家介紹下關于chatbot怎么讀的問題，以下是小編對此問題的歸納整理，讓我們一起來看看吧。
ChatGPT國內免費在線使用，能給你生成想要的原創(chuàng)文章、方案、文案、工作計劃、工作報告、論文、代碼、作文、做題和對話答疑等等
你只需要給出你的關鍵詞，它就能返回你想要的內容，越精準，寫出的就越詳細，有微信小程序端、在線網頁版、PC客戶端，官網：https://ai.de1919.com
本文目錄:
一、如何利用深度學習技術訓練聊天機器人語言模型
數(shù)據預處理
模型能聊的內容也取決于選取的語料。如果已經具備了原始聊天數(shù)據，可以用SQL通過關鍵字查詢一些對話，也就是從大庫里選取出一個小庫來訓練。從一些論文上，很多算法都是在數(shù)據預處理層面的，比如Mechanism-Aware Neural Machine for Dialogue Response Generation就介紹了，從大庫中抽取小庫，然后再進行融合，訓練出有特色的對話來。
對于英語，需要了解NLTK，NLTK提供了加載語料，語料標準化，語料分類，PoS詞性標注，語意抽取等功能。
另一個功能強大的工具庫是CoreNLP，作為 Stanford開源出來的工具，特色是實體標注，語意抽取，支持多種語言。
下面主要介紹兩個內容：
中文分詞
現(xiàn)在有很多中文分詞的SDK，分詞的算法也比較多，也有很多文章對不同SDK的性能做比較。做中文分詞的示例代碼如下。
# coding:utf8
'''
Segmenter with Chinese
'''
import jieba
import langid
def segment_chinese_sentence(sentence):
'''
Return segmented sentence.
'''
seg_list = jieba.cut(sentence, cut_all=False)
seg_sentence = u" ".join(seg_list)
return seg_sentence.strip().encode('utf8')
def process_sentence(sentence):
'''
Only process Chinese Sentence.
'''
if langid.classify(sentence)[0] == 'zh':
return segment_chinese_sentence(sentence)
return sentence
if __name__ == "__main__":
print(process_sentence('飛雪連天射白鹿'))
print(process_sentence('I have a pen.'))
以上使用了langid先判斷語句是否是中文，然后使用jieba進行分詞。
在功能上，jieba分詞支持全切分模式，精確模式和搜索引擎模式。
全切分：輸出所有分詞。
精確：概率上的最佳分詞。
所有引擎模式：對精確切分后的長句再進行分詞。
jieba分詞的實現(xiàn)
主要是分成下面三步：
1、加載字典，在內存中建立字典空間。
字典的構造是每行一個詞，空格，詞頻，空格，詞性。
上訴書 3 n
上訴人 3 n
上訴期 3 b
上訴狀 4 n
上課 650 v
建立字典空間的是使用python的dict，采用前綴數(shù)組的方式。
使用前綴數(shù)組的原因是樹結構只有一層 - word:freq，效率高，節(jié)省空間。比如單詞"dog", 字典中將這樣存儲：
{
"d": 0,
"do": 0,
"dog": 1 # value為詞頻
}
字典空間的主要用途是對輸入句子建立有向無環(huán)圖，然后根據算法進行切分。算法的取舍主要是根據模式 - 全切，精確還是搜索。
2、對輸入的語句分詞，首先是建立一個有向無環(huán)圖。
有向無環(huán)圖, Directed acyclic graph (音 /ˈdæɡ/)。
【圖 3-2】 DAG
DAG對于后面計算最大概率路徑和使用HNN模型識別新詞有直接關系。
3、按照模式，對有向無環(huán)圖進行遍歷，比如，在精確模式下，便利就是求最大權重和的路徑，權重來自于在字典中定義的詞頻。對于沒有出現(xiàn)在詞典中的詞，連續(xù)的單個字符也許會構成新詞。然后用HMM模型和Viterbi算法識別新詞。
精確模型切詞：使用動態(tài)規(guī)劃對最大概率路徑進行求解。
最大概率路徑：求route = (w1, w2, w3 ,.., wn)，使得Σweight(wi)最大。Wi為該詞的詞頻。
更多的細節(jié)還需要讀一下jieba的源碼。
自定義字典
jieba分詞默認的字典是:1998人民日報的切分語料還有一個msr的切分語料和一些txt小說。開發(fā)者可以自行添加字典，只要符合字典構建的格式就行。
jieba分詞同時提供接口添加詞匯。
Word embedding
使用機器學習訓練的語言模型，網絡算法是使用數(shù)字進行計算，在輸入進行編碼，在輸出進行解碼。word embedding就是編解碼的手段。
【圖 3-3】 word embedding, Ref. #7
word embedding是文本的數(shù)值化表示方法。表示法包括one-hot，bag of words，N-gram，分布式表示，共現(xiàn)矩陣等。
Word2vec
近年來，word2vec被廣泛采用。Word2vec輸入文章或者其他語料，輸出語料中詞匯建設的詞向量空間。詳細可參考word2vec數(shù)學原理解析。
使用word2vec
安裝完成后，得到word2vec命令行工具。
word2vec -train "data/review.txt"
-output "data/review.model"
-cbow 1
-size 100
-window 8
-negative 25
-hs 0
-sample 1e-4
-threads 20
-binary 1
-iter 15
-train "data/review.txt" 表示在指定的語料庫上訓練模型
-cbow 1 表示用cbow模型，設成0表示用skip-gram模型
-size 100 詞向量的維度為100
-window 8 訓練窗口的大小為8 即考慮一個單詞的前八個和后八個單詞
-negative 25 -hs 0 是使用negative sample還是HS算法
-sample 1e-4 采用閾值
-threads 20 線程數(shù)
-binary 1 輸出model保存成2進制
-iter 15 迭代次數(shù)
在訓練完成后，就得到一個model，用該model可以查詢每個詞的詞向量，在詞和詞之間求距離，將不同詞放在數(shù)學公式中計算輸出相關性的詞。比如：
vector("法國") - vector("巴黎) + vector("英國") = vector("倫敦")"
對于訓練不同的語料庫，可以單獨的訓練詞向量模型，可以利用已經訓練好的模型。
其它訓練詞向量空間工具推薦：Glove。
Seq2Seq
2014年，Sequence to Sequence Learning with Neural Networks提出了使用深度學習技術，基于RNN和LSTM網絡訓練翻譯系統(tǒng)，取得了突破，這一方法便應用在更廣泛的領域，比如問答系統(tǒng)，圖像字幕，語音識別，撰寫詩詞等。Seq2Seq完成了【encoder + decoder -> target】的映射，在上面的論文中，清晰的介紹了實現(xiàn)方式。
【圖 3-4】 Seq2Seq, Ref. #1
也有很多文章解讀它的原理。在使用Seq2Seq的過程中，雖然也研究了它的結構，但我還不認為能理解和解釋它。下面談兩點感受：
a. RNN保存了語言順序的特點，這和CNN在處理帶有形狀的模型時如出一轍，就是數(shù)學模型的設計符合物理模型。
【圖 3-5】 RNN, Ref. #6
b. LSTM Cell的復雜度對應了自然語言處理的復雜度。
【圖 3-6】 LSTM, Ref. #6
理由是，有人將LSTM Cell嘗試了多種其它方案傳遞狀態(tài)，結果也很好。
【圖 3-7】 GRU, Ref. #6
LSTM的一個替代方案：GRU。只要RNN的Cell足夠復雜，它就能工作的很好。
使用DeepQA2訓練語言模型
準備工作，下載項目：
git clone https://github.com/Samurais/DeepQA2.git
cd DeepQA2
open README.md # 根據README.md安裝依賴包
DeepQA2將工作分成三個過程：
數(shù)據預處理：從語料庫到數(shù)據字典。
訓練模型：從數(shù)據字典到語言模型。
提供服務：從語言模型到RESt API。
預處理
DeepQA2使用Cornell Movie Dialogs Corpus作為demo語料庫。
原始數(shù)據就是movie_lines.txt 和movie_conversations.txt。這兩個文件的組織形式參考README.txt
deepqa2/dataset/preprocesser.py是將這兩個文件處理成數(shù)據字典的模塊。
train_max_length_enco就是問題的長度，train_max_length_deco就是答案的長度。在語料庫中，大于該長度的部分會被截斷。
程序運行后，會生成dataset-cornell-20.pkl文件，它加載到python中是一個字典：
word2id存儲了{word: id}，其中word是一個單詞，id是int數(shù)字，代表這個單詞的id。
id2word存儲了{id: word}。
trainingSamples存儲了問答的對話對。
比如 [[[1,2,3],[4,5,6]], [[7,8,9], [10, 11, 12]]]
1，2，3 ... 12 都是word id。
[1,2,3] 和 [4,5,6] 構成一個問答。 [7,8,9] 和 [10, 11, 12] 構成一個問答。
開始訓練
cp config.sample.ini config.ini # modify keys
python deepqa2/train.py
config.ini是配置文件, 根據config.sample.ini進行修改。訓練的時間由epoch，learning rate, maxlength和對話對的數(shù)量而定。
deepqa2/train.py大約100行，完成數(shù)據字典加載、初始化tensorflow的session，saver，writer、初始化神經元模型、根據epoch進行迭代，保存模型到磁盤。
session是網絡圖，由placeholder, variable, cell, layer, output 組成。
saver是保存model的，也可以用來恢復model。model就是實例化variable的session。
writer是查看loss fn或者其他開發(fā)者感興趣的數(shù)據的收集器。writer的結果會被saver保存，然后使用tensorboard查看。
Model
Model的構建要考慮輸入，狀態(tài)，softmax，輸出。
定義損耗函數(shù)，使用AdamOptimizer進行迭代。
最后，參考一下訓練的loop部分。
每次訓練，model會被存儲在 save路徑下，文件夾的命名根據機器的hostname，時間戳生成。
提供服務
在TensorFlow中，提供了標準的serving模塊 - tensorflow serving。但研究了很久，還專門看了一遍 《C++ Essentials》，還沒有將它搞定，社區(qū)也普遍抱怨tensorflow serving不好學，不好用。訓練結束后，使用下面的腳本啟動服務，DeepQA2的serve部分還是調用TensorFlow的python api。
cd DeepQA2/save/deeplearning.cobra.vulcan.20170127.175256/deepqa2/serve
cp db.sample.sqlite3 db.sqlite3
python manage.py runserver 0.0.0.0:8000
測試
POST /api/v1/question HTTP/1.1
Host: 127.0.0.1:8000
Content-Type: application/json
Authorization: Basic YWRtaW46cGFzc3dvcmQxMjM=
Cache-Control: no-cache
{"message": "good to know"}
response
{
"rc": 0,
"msg": "hello"
}
serve的核心代碼在serve/api/chatbotmanager.py中。
使用腳本
scripts/start_training.sh 啟動訓練
scripts/start_tensorboard.sh 啟動Tensorboard
scripts/start_serving.sh 啟動服務
對模型的評價
目前代碼具有很高的維護性，這也是從DeepQA項目進行重構的原因，更清晰的數(shù)據預處理、訓練和服務。有新的變更可以添加到deepqa2/models中，然后在train.py和chatbotmanager.py變更一下。
有待改進的地方
a. 新建models/rnn2.py, 使用dropout。目前DeepQA中已經使用了Drop.
b. tensorflow rc0.12.x中已經提供了seq2seq network，可以更新成tf版本.
c. 融合訓練，目前model只有一個庫，應該是設計一個新的模型，支持一個大庫和小庫，不同權重進行，就如Mechanism-Aware Neural Machine for Dialogue Response Generation的介紹。
d. 代碼支持多機多GPU運行。
e. 目前訓練的結果都是QA對，對于一個問題，可以有多個答案。
f. 目前沒有一個方法進行accuracy測試，一個思路是在訓練中就提供干擾項，因為當前只有正確的答案，如果提供錯誤的答案（而且越多越好），就可以使用recall_at_k方法進行測試。
機器人家上了解到的，希望對你有用
二、RPA財稅機器人哪個比較好？
RPA財稅機器人來也科技比較好，有龐大的軟件機器人開發(fā)社區(qū)，擁有60萬的開發(fā)者，以及多年積累的經驗，得到了政企客戶的一致認可。
三、java編寫一個聊天機器人
public class Test
{
public static void main(String args[])
{
System.out.println("機器人啟動");
String s;
do{
Scanner sc=new Scanner(System.in);
s=sc.next();
if(s.equals("你好")){
System.out.println("你好!我是小P,請問你是誰?...... ");
}
else if(s.equals("小P回答")){
System.out.println("你好!我是小P你是誰?");
}
else if(s.equals("我是令狐沖")){
System.out.println("令狐沖 是你啊,好想你啊!");
}
else if(s.equals("再見")){
System.out.println("再見");
}
else{
System.out.println("對不起我不懂你在說什么!" );
}
}while(!s.equals("再見"));
}
}
四、5G 消息和傳統(tǒng)短信有哪些不一樣？
從目前的信息來看，「5G消息」更像是運營商對原本RCS業(yè)務對5G網的優(yōu)化升級（特指去年10月 推出的2.4版本[2]，RCS業(yè)務需要核心網關支持），不過如果只考慮用戶體驗的話，也算是新瓶裝舊 酒。鑒于目前幾乎所有安卓廠商都已經支持RCS業(yè)務，雖然可能還沒升級到2.4版本，但是相關優(yōu)點 （非MaaP這種企業(yè)業(yè)務）可以拿起手機直接體驗。對中國移動用戶，華為手機叫它「增強信息」，小米叫「移動網絡短信」，魅族稱為「智慧短信」。

這種服務嚴格命名是富媒體通信服務/套件（Rich Communcation Service/Suite，RCS）[3]或RCS 融合通信[4]，主要愿景是融合語音、消息、視頻、社區(qū)網絡等多種功能，把手機中原有的「通 話」、「消息」、「聯(lián)系人」這 3 個主要入口，從運營商的層面直接與手機整合。這樣支持RCS的手機就可以能在短信里源生群發(fā)消息、文件、圖像、聲音傳輸，也沒有大小限制，體驗和微信這類 OTT業(yè)務差不多。RCS Universal Profile 2.0版本以后添加了如題目中所說的MaaP功能 （Messaging as a Platform，消息即平臺），可以接入商戶、完成和企業(yè)的日常信息交互等等。自從2015年9月，安 卓開始原生支持RCS消息客戶端之后，其實相關業(yè)務北美和歐洲已經有部分企業(yè)開始試行，而且應用還挺多的。
以上就是關于chatbot怎么讀相關問題的回答。希望能幫到你，如有更多相關問題，您也可以聯(lián)系我們的客服進行咨詢，客服也會為您講解更多精彩的知識和內容。
推薦閱讀：
數(shù)學樣本空間是什么（數(shù)學樣本空間的各種表示）
贛公網安備 50019002502384號
